حذر باحثون من أن نماذج الذكاء الاصطناعي يمكن أن «تهلوس» وتختلق إجابات عن الأسئلة التي لا تعرف حلها.

 وفي ذات الوقت، أشار الباحثون إلى أنهم ابتكروا طريقة يمكن بها رصد هذه المشكلة التي قد تسبب كوارث خطيرة، إذا ارتبطت الأسئلة بالمجالات العلمية والطبية.

وبحسب صحيفة «إندبندنت» البريطانية، فقد طور الباحثون التابعون لجامعة أكسفورد نموذجاً إحصائياً يمكنه تحديد متى من المحتمل أن تختلق روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إجابات غير صحيحة عن أسئلة ما.

وأشار الفريق إلى أن نموذجهم يعتمد على الوقت الذي يقوم فيه روبوت الدردشة بالإجابة عن السؤال الموجَّه إليه، حيث يمكن للنموذج المبتكر، عن طريق حساب هذا الوقت، معرفة ما إذا كان روبوت الدردشة متأكداً من الإجابة أو قام بتأليفها واختلاقها.

وقال مؤلف الدراسة الدكتور سيباستيان فاركوهار: «إن نماذج الذكاء الاصطناعي قادرة على خداعنا عن طريق طرح إجابات تبدو مؤكدة، ويصعب الكشف عن أنها مختلَقة».

وأضاف: «مع الأساليب السابقة، لم يكن من الممكن معرفة الفرق بين النموذج الذي يكون غير متأكد بشأن إجابته، وذلك الذي يعطي إجابات صحيحة على الأسئلة الموجهة إليه. لكن طريقتنا الجديدة يمكنها رصد هذا الأمر».وقال الباحثون في دراستهم التي نُشِرت في مجلة «الطبيعة»: «إن هلوسة نماذج الذكاء الاصطناعي التوليدي مصدر قلق رئيس، حيث إن الطبيعة المتقدمة للتكنولوجيا وقدرتها على المحادثة تعنيان أنها قادرة على تمرير معلومات مختلقة وغير صحيحة على أنها حقيقة فقط، من أجل الرد على الاستفسارات والأسئلة».

ودعا الفريق إلى اتخاذ إجراءات قوية لمكافحة هلوسة الذكاء الاصطناعي، على وجه الخصوص عندما يتعلق الأمر بالاستفسارات الطبية أو القانونية.

والشهر الماضي، اتخذت شركة «غوغل» خطوات لتطوير محرك البحث الجديد «إيه آي أوفرفيوز» AI Overviews، المدعوم بالذكاء الاصطناعي التوليدي، بعد أن أبلغ مستخدمون عن إجابات غريبة أو أخرى تنطوي على خطورة محتملة.

وفي شهر يناير (كانون الثاني) الماضي، حذرت دراسة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

واختبر فريق الدراسة التابع لشركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.

ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.

وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.

وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.

المصدر: عين ليبيا

كلمات دلالية: الذكاء الاصطناعي خداع البشر نماذج الذکاء الاصطناعی

إقرأ أيضاً:

الجديد وصل .. جوجل تتحدى آبل في مجال الذكاء الاصطناعي الشخصي

أعلنت جوجل عن إطلاق ميزة جديدة تُعرف باسم "Gemini مع التخصيص"، وهي تجربة تجريبية تتيح للمستخدمين ربط Gemini بسجل البحث الخاص بهم لتعزيز استجابات المساعد الذكي، مع خطط مستقبلية لربطه بـ Google Photos وYouTube.

كيف تعمل الميزة؟

تعتمد Gemini مع التخصيص على نموذج Gemini 2.0 Flash Thinking التجريبي، حيث يتعين على المستخدمين تفعيلها يدويًا من خلال الذهاب إلى تطبيقات Gemini واختيار "التخصيص (تجريبي)" من القائمة المنسدلة.

بعد التفعيل، يقوم Gemini بتحليل سجل البحث قبل توليد الردود، لمعرفة ما إذا كان بإمكانه إضافة سياق أكثر دقة للإجابات، فيما  يتم استخدام سجل البحث فقط إذا قررت النماذج المتقدمة في جوجل أن ذلك سيساعد في تحسين الاستجابة.

جوجل تضيف مزايا التخصيص إلى Gemini استنادا إلى سجل البحثجوجل تتيح تشغيل كافة ألعاب أندرويد في الحواسيبالكشف عن مولد الفيديو الجديد بالذكاء الاصطناعي في Gemini من جوجلجوجل تطلق نماذج ذكاء اصطناعي متطورة لتعزيز قدرات الروبوتاتجوجل تجري تغييرات كبيرة على ميزة Timeline .. إليك ما يجب فعله قبل 9 يونيوAI Mode .. مستقبل بحث جوجل الجديد أم تهديد لمواقع الويب؟مخاوف الخصوصية

مع السماح لـ Gemini بالوصول إلى سجل البحث، قد تظهر مخاوف متعلقة بالخصوصية. لمواجهة هذه المخاوف، أكدت جوجل أن المستخدمين يملكون التحكم الكامل ويمكنهم فصل Gemini عن سجل البحث في أي وقت بسهولة.

عند استخدام هذه الميزة، سيظهر شريط واضح يحتوي على رابط لفصل سجل البحث إذا رغبت في ذلك. كما يمكن للمستخدمين تعديل سجل البحث الخاص بهم في أي وقت، مما يوفر طبقة إضافية من التحكم. علاوة على ذلك، تقدم جوجل إشعارًا واضحًا قبل ربط Gemini بسجل البحث أو التطبيقات الأخرى، مع عرض كامل للمصادر التي استندت إليها الإجابات.

من يمكنه الوصول؟

تتوفر ميزة "Gemini مع التخصيص" كتجربة تجريبية لمشتركي Gemini وGemini Advanced على الويب بدءًا من اليوم، مع طرح تدريجي للهواتف المحمولة. 

ومع ذلك، فهي غير متاحة للمستخدمين الذين تقل أعمارهم عن 18 عامًا، أو لمستخدمي Google Workspace والتعليم.

مقارنة مع آبل إنتليجنس

تعد هذه الخطوة مهمة في سعي جوجل لجعل Gemini مساعدًا شخصيًا متكاملًا يتصل بسلاسة بمهام المستخدم اليومية، وهو ما تسعى آبل لتحقيقه من خلال "Apple Intelligence". 

ومع ذلك، فإن ميزات Apple Intelligence الحالية تقتصر على أدوات مثل Genmoji وImage Playground وملخصات الإشعارات وأدوات الكتابة وتفريغ البريد الصوتي والذكاء البصري، إلى جانب تكامل ChatGPT. 

وأكدت الشركة مؤخرًا أن تحسينات Siri المنتظرة ستستغرق وقتًا أطول للوصول إلى المستخدمين.

وإلى جانب ميزة التخصيص، أعلنت جوجل  عن توسيع الوصول إلى ميزات أخرى ضمن Gemini، مثل "البحث العميق" و"الأحجار الكريمة" (Gems).

مقالات مشابهة

  • آلات تفكر وتخدع.. هل يتجاوز نموذج الذكاء الاصطناعي أو 1 السيطرة البشرية؟
  • الذكاء الاصطناعي يفك لغزاً علمياً استعصى على العلماء لعقد كامل
  • غوغل تعلن عن نماذجها الجديدة للذكاء الاصطناعي
  • باحثون يحذرون: مثلجات "سلاش" ليست آمنة للأطفال دون 8 سنوات
  • بين الابتكار والسيطرة.. هيمنة الذكاء الاصطناعي الصيني
  • الذكاء الاصطناعي والدخول إلى خصوصيات البشر
  • عصر جديد لهذا النوع من الكمبيوتر .. الذكاء الاصطناعي هيخلي اللابتوب أقوى بكتير
  • الجديد وصل .. جوجل تتحدى آبل في مجال الذكاء الاصطناعي الشخصي
  • هل يمكن للذكاء الاصطناعي أن يستبدل محرك بحث جوجل؟
  • قدرات مميزة.. «غوغل» تطلق أحد أفضل نماذج «الذكاء الاصطناعي» بالعالم