نصائح كاسبرسكي للحد من مخاطر الذكاء الاصطناعي التوليدي في بيئة العمل
تاريخ النشر: 1st, October 2024 GMT
سرعان ما أصبحت أدوات الذكاء الاصطناعي التوليدي جزءاً أساسياً من بيئة العمل الحديثة، حيث تساعد في عدد من مهام العمل التي تتراوح من صياغة التقارير وحتى تحليل جداول البيانات وغيرها.
ووجدت دراسة عالمية أجرتها كاسبيرسكي أن 95% من المشاركين من كبار المسؤولين التنفيذيين يدركون أن أدوات الذكاء الاصطناعي التوليدي تُستخدم داخل مؤسساتهم، وكان أكثر من نصفهم (59%) قلقاً من مخاطر تسريب الموظفين لمعلومات حساسة دون قصد عند استخدام الذكاء الاصطناعي، لذا، يقدم خبراء كاسبرسكي نصائح حول كيفية تمكين المؤسسات من استخدام أدوات الذكاء الاصطناعي التوليدي بطريقة تقلل من المخاطر.
قال فلاديسلاف توشكانوف، مدير مجموعة تعلم الآلة لدى كاسبرسكي: «تمكن أدوات الذكاء الاصطناعي التوليدي الموظفين من تحقيق إنتاجية أعلى، حيث تساعد التكنولوجيا في تحليل البيانات وتنفيذ المهام الروتينية. ومع ذلك، يستخدم العديد من الأشخاص الذكاء الاصطناعي دون الحصول على الأذون المطلوبة من أصحاب العمل. مما قد يشكل مخاطراً كبيرة على المنظمة. فعلى سبيل المثال، يستمر تسريب البيانات بكونه مصدر قلق كبير في المجال. وعلاوة على ذلك، قد يحصل الموظفون على معلومات خاطئة ويتصرفون بناءً عليها نتيجة مغالطات الذكاء الاصطناعي. إذ يحدث ذلك عندما تقدم النماذج اللغوية الكبيرة معلومات خاطئة بشكل يبدو موثوقاً. ويمكن أن تكون هذه المغالطات خطيرة أكثر حتى عند استخدام الذكاء الاصطناعي التوليدي للمشورة حول كيفية إكمال مهام معينة في العمل.»
أصبحت مواجهة هذا التحدي ضرورة حتمية للأعمال حالياً. فقد كشف استطلاع آخر أجرته كاسبرسكي أن 40% من المشاركين في الشرق الأوسط و تركيا و أفريقيا يرون الذكاء الاصطناعي كأحد أفراد فريق العمل حالياً. وما يزيد من تعقيد الأمر هو مدى فعالية مصادر التهديد في تبني أدوات الذكاء الاصطناعي التوليدي لإنشاء هجمات هندسة اجتماعية أكثر إقناعاً لدى استهداف الأفراد. ويتضمن ذلك استخدامات مثل صياغة رسائل تصيد احتيالي مخصصة؛ وتوليد مقاطع تزييف عميق تحتوي أصواتاً، أو فيديو، أو نصوصاً واقعية تنتحل شخصيات الأفراد؛ ونشر حملات التضليل التي يمكن أن تؤثر على الرأي العام أو تحجب الحقيقة.
استطرد توشكانوف: «لا يعني ذلك وجوب منع المنظمات لأدوات الذكاء الاصطناعي التوليدي بشكل كامل. بل يجب على صناع القرار إجراء تقييم شامل للمخاطر لفهم أي أجزاء من روتين الأعمال اليومي يمكن أتمتتها باستخدام أدوات الذكاء الاصطناعي التوليدي دون رفع مستوى التهديدات التي تواجهها الشركات.»
بذلك، يمكن للمؤسسات اعتماد نهج مركزي عندما يتعلق الأمر بتبني الذكاء الاصطناعي التوليدي. فمن الممكن الحصول على الخدمات عبر حسابات مؤسسية من مزودي الخدمات السحابية مع ضمان وجود جميع معايير الحماية اللازمة. ويمكن أن تشمل هذه المعايير مراقبة أي معلومات تعريف شخصية محتملة في الرسائل، فضلاً عن الإشراف العام. كما ينبغي على المنظمات تثقيف موظفيها حول الاستخدام المقبول للذكاء الاصطناعي التوليدي والطرق المناسبة للوصول إليه تحت إشراف الشركة.
يمكن للمؤسسات تحسين إنتاجية الموظفين بشكل كبير وزيادة رضاهم الوظيفي من خلال فهم فوائد ومخاطر استخدام الذكاء الاصطناعي التوليدي والتأكد من وجود التدابير الأمنية الضرورية لتفادي أي مخاطر محتملة. ويجب أن تتضمن القواعد العامة للموظفين عدم الكشف عن البيانات السرية لأدوات الذكاء الاصطناعي؛ وعدم الاعتماد على نصائحها في أي الحالات الحساسة؛ والتحقق من المعلومات؛ وتذكر أن البيانات المقدمة إلى روبوت المحادثة يمكن أن تتسرب. كما يجب التحقق من كون جميع الحواسيب والخوادم التي تعمل بأنظمة قائمة على النماذج اللغوية الكبيرة محمية بأدوات أمنية حديثة.
واختتم توشكانوف قوله: «قد لا يكون حظر أدوات مثل ChatGPT وسواها هو الخيار الأفضل. إذ يمكن استخدام الذكاء الاصطناعي التوليدي بشكل إيجابي من خلال إيجاد موقف متوازن بين الحذر الأشد من اللازم والحذر الأقل من اللازم. وعلى نطاق أوسع، يمكن للشراكات بين القطاعين العام والخاص أن تجعل الذكاء الاصطناعي التوليدي عامل تمكين أساسي يساعد في تنمية الأعمال، وزيادة الإنفاق على الابتكار، والإدارة السليمة للمخاطر.»
المصدر: بوابة الوفد
كلمات دلالية: أدوات الذکاء الاصطناعی التولیدی استخدام الذکاء الاصطناعی یمکن أن
إقرأ أيضاً:
الذكاء الاصطناعي قد يجعل من الجميع مدراء.. مايكروسوفت توضح
شدد تقرير نشرته صحيفة "الغارديان" على أن هناك أخبارا لدى "مايكروسوفت" قد تروق لكل من لديه طموحات في مجال المكاتب الفرعية، مشيرا إلى أنه في المستقبل، سنكون جميعا مدراء - لموظفي الذكاء الاصطناعي (مدراء على روبتات).
تتوقع شركة التقنية صعود نوع جديد من الأعمال، يُسمى "الشركات الرائدة"، حيث يوجه موظف بشري عملاء الذكاء الاصطناعي المستقلين لأداء المهام، حسب التقرير الذي ترجمته "عربي21".
وفقا لمايكروسوفت، سيصبح الجميع رؤساء وكلاء.
كتب جاريد سباتارو، أحد المديرين التنفيذيين في مايكروسوفت، في تدوينة هذا الأسبوع: "مع تزايد انضمام العملاء إلى القوى العاملة، سنشهد صعود رئيس العميل: شخص يبني العملاء، ويفوضهم، ويديرهم لتعزيز تأثيرهم، ويتحكم في مسيرتهم المهنية في عصر الذكاء الاصطناعي. من قاعة مجلس الإدارة إلى الخطوط الأمامية، سيحتاج كل موظف إلى التفكير كرئيس تنفيذي لشركة ناشئة تعتمد على الذكاء الاصطناعي".
تتوقع مايكروسوفت، الداعم الرئيسي لشركة OpenAI، مطورة ChatGPT، أن تصبح كل مؤسسة شركة رائدة في مجالها خلال السنوات الخمس المقبلة.
وأوضحت أن هذه الكيانات ستكون "مختلفة بشكل ملحوظ" عن تلك الموجودة اليوم، وستُبنى على ما أسمته مايكروسوفت "الذكاء عند الطلب"، باستخدام وكلاء الذكاء الاصطناعي للحصول على إجابات فورية على الاستفسارات المتعلقة بمجموعة من المهام الداخلية، من تجميع بيانات المبيعات إلى وضع التوقعات المالية.
وقالت الشركة في تقريرها السنوي لمؤشر اتجاهات العمل: "تتوسع هذه الشركات بسرعة، وتعمل بمرونة، وتُحقق قيمة بشكل أسرع".
وتتوقع أن يتم ظهور فئة الرؤساء التنفيذيين من الذكاء الاصطناعي على ثلاث مراحل: أولا، سيكون لكل موظف مساعد ذكاء اصطناعي؛ ثم ينضم وكلاء الذكاء الاصطناعي إلى الفرق كـ"زملاء رقميين" يتولون مهام محددة؛ وأخيرا، سيضع البشر توجيهات لهؤلاء الوكلاء، الذين ينطلقون في "عمليات الأعمال وسير العمل" مع "اطلاع رؤسائهم عليهم عند الحاجة".
صرحت مايكروسوفت أن تأثير الذكاء الاصطناعي على العمل المعرفي - وهو مصطلح شامل لمجموعة من المهن من العلماء إلى الأكاديميين والمحامين - سيسير على نفس نهج تطوير البرمجيات، من خلال التطور من مساعدة البرمجة إلى وكلاء ينفذون مهام.
واستخدمت مايكروسوفت مثالا لدور العامل في سلسلة التوريد، حيث يمكن للوكلاء التعامل مع الخدمات اللوجستية الشاملة بينما يوجه البشر النظام ويديرون العلاقات مع الموردين، حسب التقرير.
وتعمل مايكروسوفت على تعزيز نشر الذكاء الاصطناعي في مكان العمل من خلال وكلاء ذكاء اصطناعي مستقلين، أو أدوات يمكنها تنفيذ المهام دون تدخل بشري. في العام الماضي، أعلنت أن من أوائل المستخدمين لمنتج Copilot Studio من مايكروسوفت، الذي ينشر الروبوتات، شركة الاستشارات الرائدة ماكينزي، التي تستخدم وكلاء لتنفيذ مهام مثل جدولة الاجتماعات مع العملاء المحتملين.
يُعد تأثير الذكاء الاصطناعي على القوى العاملة الحديثة أحد التحديات الاقتصادية والسياسية الرئيسية الناجمة عن التقدم السريع لهذه التكنولوجيا. وبينما تقول مايكروسوفت إن الذكاء الاصطناعي سيُلغى العمل "المرهق" ويزيد الإنتاجية - وهي مقياس للفعالية الاقتصادية - يعتقد الخبراء أيضا أنه قد يؤدي إلى فقدان واسع النطاق للوظائف.
وفي هذا العام، أشار تقرير السلامة الدولية للذكاء الاصطناعي المدعوم من الحكومة البريطانية إلى أن "العديد من الأشخاص قد يفقدون وظائفهم الحالية" إذا أصبح وكلاء الذكاء الاصطناعي قادرين على العمل بكفاءة عالية.
قدّر صندوق النقد الدولي أن 60% من الوظائف في الاقتصادات المتقدمة، مثل الولايات المتحدة والمملكة المتحدة، مُعرّضة للذكاء الاصطناعي، وأن نصف هذه الوظائف قد تتأثر سلبا نتيجة لذلك.
وأفاد معهد توني بلير، الذي يدعم انتشار الذكاء الاصطناعي على نطاق واسع في القطاعين العام والخاص، أن الذكاء الاصطناعي قد يحلّ محلّ ما يصل إلى 3 ملايين وظيفة في القطاع الخاص في المملكة المتحدة. ومع ذلك، فإنّ فقدان الوظائف سيصل في نهاية المطاف إلى مئات الآلاف، لأن هذه التكنولوجيا ستُنتج أيضا وظائف جديدة، وفقا لتقديرات المعهد.
صرح الدكتور أندرو روجويسكي، مدير معهد صري للذكاء الاصطناعي المُركّز على الإنسان في جامعة صري، بأن المنظمات التي تستخدم وكلاء الذكاء الاصطناعي ستميل في النهاية إلى توظيف عدد أقل من العمال.
وأضاف: "سيكون الإغراء هو استخدام عمال الذكاء الاصطناعي لاستبدال الجهد البشري، حيث تسعى الشركات إلى أن تصبح أكثر كفاءة، مع انخفاض تكاليف التشغيل".
وأشار إلى أن "خطر استبدال البشر بالذكاء الاصطناعي، بصرف النظر عن التأثير الاجتماعي والاقتصادي، يكمن في فقدان المعرفة الكامنة في عقول الناس والتي تُحافظ على الشركات، وتُنتج منتجات مُبتكرة، وتبني علاقات هادفة مع العملاء والموردين".
القيادة تهنئ رئيسة جمهورية تنزانيا المتحدة بذكرى يوم الاتحاد لبلادها