دراسة تحذّر: لا تثقوا بالذكاء الاصطناعي.. أصبح سيّداً في الخداع والكذب
تاريخ النشر: 12th, May 2024 GMT
مع تطور أنظمة الذكاء الاصطناعي، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا (MIT)، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، وتراوغ وتتظاهر بأنها "بشر". حتى أن أحد هذه الأنظمة غيّر سلوكه في أثناء اختبارات سلامة وهمية، مما يزيد من إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال الدكتور بيتر بارك، الباحث في مجال السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك هذا التحقيق الجديد بعد أن طورت شركة ميتا، المالكة لفيسبوك، برنامجًا يسمى "Cicero" أدى أداء أفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية حول غزو العالم تسمى "الدبلوماسية".
ورغم أن شركة ميتا قالت إنه تم تدريب "سيسيرو" على أن يكون "صادقًا ومفيدًا إلى حد بعيد" و"لا يطعن حلفاءه من البشر عمدًا"، إلا أن الباحثين وجدوا أمثلة متعددة على قيامه بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
قام بارك وزملاؤه بتصفح البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها"سيسيرو" وبالكذب والتواطؤ لجر لاعبين آخرين إلى مؤامرات، وفي إحدى المرات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: "أنا على الهاتف مع صديقتي." قال بارك: "لقد وجدنا أن الذكاء الاصطناعي في لعبة ميتا قد تعلم أن يكون سيدًا في الخداع".
دائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالمأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النوويةوقد وجد فريق معهد ماساتشوستس للتكنولوجيا مشكلات مماثلة مع أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه خداع اللاعبين المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدّم تفضيلاته بشكل خاطئ من أجل كسب اليد العليا.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا في أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
شارك هذا المقالمحادثة مواضيع إضافية معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب واشنطن تمنح كييف حزمة مساعدات عسكرية جديدة بقيمة 400 مليون دولار رفضا الخدمة العسكرية فكان السجن بانتظارهما.. سجينان إسرائيليان يناشدان بايدن التدخل لوقف الحرب بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي السويد فيضانات سيول رفح معبر رفح فلسطين الحرب في أوكرانيا السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next
إقرأ أيضاً:
جوجل تدخل وضع الذكاء الاصطناعي الجديد إلى محرك البحث
تخطط شركة جوجل لإضافة ميزة جديدة تعرف بـ “وضع الذكاء الاصطناعي” (AI Mode) إلى محرك بحثها، وفقا لتقرير من موقع The Information، سيوفر هذا الوضع خيارا للتبديل من أعلى صفحة النتائج، مما يتيح للمستخدمين الوصول إلى واجهة تشبه تلك الخاصة بـ Gemini AI chatbot.
وبحسب ما ذكره موقع “ذا فيرج” التقني، سيتم إضافة علامة التبويب الجديدة “وضع الذكاء الاصطناعي” إلى الجانب الأيسر من علامات التبويب الموجودة مثل “الكل” و"الصور" و"مقاطع الفيديو" و"التسوق".
وعند استقبال المستخدم لرد في هذا الوضع، ستظهر روابط لصفحات ويب ذات صلة، بالإضافة إلى “شريط بحث” أسفل إجابة المحادثة، يدعو المستخدمين لمتابعة الاستفسارات.
تأتي هذه الخطوة بعد تقرير سابق من “Android Authority”، أكد على وجود وضع الذكاء الاصطناعي في إصدار تجريبي من تطبيق جوجل، كما اكتشف موقع 9to5Google، رمزا بشير إلى إمكانية استخدام هذا الوضع لطرح الأسئلة عبر الصوت.
جوجل لم تعلق على الأمر بعد، حيث تتجه نحو دمج البحث مع تقنيات الذكاء الاصطناعي في ظل الضغوط المتزايدة، خاصة بعد إطلاق OpenAI ميزة البحث في ChatGPT لجميع المستخدمين.
يذكر أن شركة جوجل قد بدأت بالفعل في تقديم ملخصات بحث مدعومة بالذكاء الاصطناعي لبعض الاستفسارات وعملت على توسيع هذه الميزة لتشمل المزيد من الدول في أكتوبر الماضي.
جوجل تتيح أداة البحث العميق بالذكاء الاصطناعيويشار إلى أن جوجل قد أعلنت عن توسيع إتاحة أداة البحث العميق “Deep Research” عبر نظام الذكاء الاصطناعي الخاص بها Gemini، لتضم 40 لغة إضافية، ومنها اللغة العربية، وذلك بعد أن أتاحت الأداة للمشتركين في خطة Gemini Advanced.
وتعمل الأداة من خلال طلب المستخدم من Gemini البحث في موضوع معين، إذ ينشئ الروبوت “خطة بحث متعددة الخطوات” يمكن للمستخدم تعديلها أو الموافقة عليها.
وأوضحت جوجل أن عملية البحث تبدأ بجمع “المعلومات المهمة” من الإنترنت، تليها عمليات بحث متعلقة بالموضوع نفسه، وهي عملية تكرر عدة مرات للحصول على نتائج دقيقة وشاملة.
وعند اكتمال البحث، تقدم الأداة تقريرا يضم أبرز النتائج مدعومة بروابط للمصادر الأصلية، ويمكن للمستخدمين طلب توضيحات إضافية حول بعض النقاط أو تعديل التقرير، مع إمكانية تصديره إلى مستندات جوجل في ملف نصي.
1.5% زيادة في إجمالي المساحة المنزرعة عام 2022 / 2023