حذر باحثون من أن نماذج الذكاء الاصطناعي يمكن أن «تهلوس» وتختلق إجابات عن الأسئلة التي لا تعرف حلها.

 وفي ذات الوقت، أشار الباحثون إلى أنهم ابتكروا طريقة يمكن بها رصد هذه المشكلة التي قد تسبب كوارث خطيرة، إذا ارتبطت الأسئلة بالمجالات العلمية والطبية.

وبحسب صحيفة «إندبندنت» البريطانية، فقد طور الباحثون التابعون لجامعة أكسفورد نموذجاً إحصائياً يمكنه تحديد متى من المحتمل أن تختلق روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إجابات غير صحيحة عن أسئلة ما.

وأشار الفريق إلى أن نموذجهم يعتمد على الوقت الذي يقوم فيه روبوت الدردشة بالإجابة عن السؤال الموجَّه إليه، حيث يمكن للنموذج المبتكر، عن طريق حساب هذا الوقت، معرفة ما إذا كان روبوت الدردشة متأكداً من الإجابة أو قام بتأليفها واختلاقها.

وقال مؤلف الدراسة الدكتور سيباستيان فاركوهار: «إن نماذج الذكاء الاصطناعي قادرة على خداعنا عن طريق طرح إجابات تبدو مؤكدة، ويصعب الكشف عن أنها مختلَقة».

وأضاف: «مع الأساليب السابقة، لم يكن من الممكن معرفة الفرق بين النموذج الذي يكون غير متأكد بشأن إجابته، وذلك الذي يعطي إجابات صحيحة على الأسئلة الموجهة إليه. لكن طريقتنا الجديدة يمكنها رصد هذا الأمر».وقال الباحثون في دراستهم التي نُشِرت في مجلة «الطبيعة»: «إن هلوسة نماذج الذكاء الاصطناعي التوليدي مصدر قلق رئيس، حيث إن الطبيعة المتقدمة للتكنولوجيا وقدرتها على المحادثة تعنيان أنها قادرة على تمرير معلومات مختلقة وغير صحيحة على أنها حقيقة فقط، من أجل الرد على الاستفسارات والأسئلة».

ودعا الفريق إلى اتخاذ إجراءات قوية لمكافحة هلوسة الذكاء الاصطناعي، على وجه الخصوص عندما يتعلق الأمر بالاستفسارات الطبية أو القانونية.

والشهر الماضي، اتخذت شركة «غوغل» خطوات لتطوير محرك البحث الجديد «إيه آي أوفرفيوز» AI Overviews، المدعوم بالذكاء الاصطناعي التوليدي، بعد أن أبلغ مستخدمون عن إجابات غريبة أو أخرى تنطوي على خطورة محتملة.

وفي شهر يناير (كانون الثاني) الماضي، حذرت دراسة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

واختبر فريق الدراسة التابع لشركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.

ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.

وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.

وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.

المصدر: عين ليبيا

كلمات دلالية: الذكاء الاصطناعي خداع البشر نماذج الذکاء الاصطناعی

إقرأ أيضاً:

تحديث المناهج لتسريع تبنّي الذكاء الاصطناعي في التعليم

دينا جوني (دبي)

أخبار ذات صلة عالم التكنولوجيا.. الذكاء الاصطناعي يدخل الصفوف الدراسية دبي تجمع قادة الابتكار في أسبوع الذكاء الاصطناعي

أعلن معالي عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي، عن أربعة أهداف سيتم تطبيقها خلال عام 2025 ضمن خطة دبي للذكاء الاصطناعي، أبرزها تحديث المناهج لتسريع تبني استخدام أدوات الذكاء الاصطناعي في التعليم، مشيراً إلى أن استثمارات الذكاء الاصطناعي في دبي خلال عام 2024 بلغت حوالي 20.6 مليار درهم.
وأشار معاليه في كلمته الافتتاحية لأسبوع وخلوة الذكاء الاصطناعي، والتي جاءت تحت عنوان «كيف ستسهم السنوات المقبلة في إعادة تشكيل إمكانات الدول؟»، إلى أنه بعد التطبيق الفعلي لاستخدامات الذكاء الاصطناعي في مواقع العمل، ستشهد الفترة المقبلة تقييم الدوائر الحكومية وتصنيفها بناءً على مستوى وجودة استخدام الذكاء الاصطناعي وتأثيراته الإيجابية وفاعليته في حياة الأفراد.
ولفت معاليه إلى ثلاثة محاور تؤطر استخدامات الذكاء الاصطناعي ومقاربته بالنسبة للحكومات، وهي السياسات والتشريعات، والابتكار، ومسّرعات التطبيق وتبنّي تطبيقاته في مختلف القطاعات. 
وقال معاليه: إن خطة دبي السنوية لتسريع استخدامات الذكاء الاصطناعي ركزت على تعيين 230 رئيساً تنفيذياً للذكاء الاصطناعي وفرق في كل جهة حكومية، وإطلاق 6 حاضنات أعمال، واستفادة 10,000 طالب من برامج التمكين.
وأشار إلى أنه تمّ إطلاق خطة متكاملة وحوافز لقطاع مراكز البيانات، نتج عنها إنشاء 17 مركز بيانات في 2024 لغاية اليوم، إضافة إلى 325 شركة ناشئة تقدّمت لشهادة اعتماد الذكاء الاصطناعي.
وأشار إلى أربعة أهداف رئيسية لخطة دبي لتسريع تبنّي استخدامات الذكاء الاصطناعي، هي تسريع تبنّي الذكاء الاصطناعي في التعليم من خلال تحديث المناهج وبناء القدرات الأكاديمية، وتقييم أداء الجهات الحكومية في دمج الذكاء الاصطناعي وفق مؤشرات واضحة للتحول الرقمي والاستباقية، وتمكين القطاعين الحكومي والخاص بالقدرات الرقمية المتقدمة لتقديم خدمات استباقية ذكية، وتحفيز الشركات على قيادة اقتصاد الذكاء الاصطناعي عبر شراكات وتشريعات داعمة ومجالات استثمار واضحة.

مقالات مشابهة

  • خبراء: الذكاء الاصطناعي ليس بديلاً للبشر
  • هل يمكن أن يطوّر الذكاءُ الاصطناعي خوارزمياته بمعزل عن البشر؟
  • إطلاق أول برنامج دكتوراه في الذكاء الاصطناعي في دبي
  • «الذكاء الاصطناعي» يقتحم عالم الملاعب والتحكيم
  • الوطنية لحقوق الإنسان تناقش أخلاقيات الذكاء الاصطناعي
  • الذكاء الاصطناعي والبطالة.. هل اقتربت الروبوتات من السيطرة على سوق العمل؟
  • ميتا: إنستغرام يستخدم الذكاء الاصطناعي لمنع القُصّر من الكذب بشأن أعمارهم
  • تحديث المناهج لتسريع تبنّي الذكاء الاصطناعي في التعليم
  • الذكاء الاصطناعي يساعد المكفوفين على الحركة
  • جيني: سلاح الاحتلال الجديد في ميدان الذكاء الاصطناعي في غزة