ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة، وفق روسيا اليوم.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: بوابة الوفد
كلمات دلالية: معهد ماساتشوستس للتكنولوجيا روبوتات الدردشة التعلم الآلی
إقرأ أيضاً:
«سند» روبوتات ذكية لصيانة محركات الطائرات بدقة عالية
رشا طبيلة (أبوظبي)
توظف مجموعة سند، الشركة العالمية المتخصِّصة في مجال هندسة الطيران وحلول التأجير والمملوكة بالكامل لشركة مبادلة للاستثمار ش.م.ع «مبادلة»، الذكاء الاصطناعي في خدماتها وعملياتها، من خلال تطبيق تقنيات متطورة بمجال صيانة محركات الطائرات، أحدثها روبوتات ذكية، يمكنها القيام بأعمال صيانة الطائرات بدقة عالية، بحسب محمد الزعابي، رئيس قسم تطوير الأعمال في المجموعة.
وقال الزعابي لـ «الاتحاد»: «تم الإعلان عن مشروع حديث يستخدم الذكاء الاصطناعي، وهو مشروع الأذرع الروبوتية التي يتم تزويدها بأدوات المعايَرة بالليزر»، لرفع من كفاءة ودقّة إجراءات الصيانة والإصلاح والعَمرة.
وأضاف: تم إطلاق المشروع بالتعاون مع شركائنا من جامعة خليفة للعلوم والتكنولوجيا في أبوظبي، و«لوفتهانزا تكنيك في الشرق الأوسط» التابعة لشركة «لوفتهانزا تكنيك».
وبحسب الزعابي «تتيح هذه التكنولوجيا الحديثة تنفيذ عملية صيانة محركات الطائرات بدقة عالية، وكذلك التقليل من الأخطاء البشرية وإنجاز الصيانة بجودة عالية».
ويهدف التعاون الثلاثي بين «سند» وجامعة خليفة و«لوفتهانزا تكنيك» إلى تطوير نظام آلي لقياس الأوتار، يجمع بين تقنيات الذراع الروبوتية وأجهزة المعايرة بالليزر.
وعرضت المجموعة ذراعاً روبوتية مبتكرة في المقرّ الرئيسي لشركة «لوفتهانزا تكنيك» بمدينة هامبورغ الألمانية.
وخضعت التقنية الجديدة لاختبارات صارمة، ثم أُجرِيَت تحليلات إضافية على الذراع الروبوتية في المقرِّ الرئيسي لشركة «لوفتهانزا تكنيك» في هامبورغ. ويُتوقَّع أن يُحدِث هذا النظام تحوُّلاً مهماً في عمليات صيانة الطائرات، من خلال تقليل وقت إنجازها، وتحسين الكفاءة، ما يؤدّي إلى توفير التكاليف ورفع جاهزية الطائرات في أسرع وقت.
ويُعَدُّ هذا النظام أول مبادرة من نوعها في مجال الأبحاث والتطوير في قطاع الطيران تُختبَر بنجاح في الإمارات.
وقال الزعابي: «تخطط سند لتعزيز استخدام الذكاء الاصطناعي في المستقبل، وتواصل التعاون مع القطاعات الأكاديمية، لفتح الأبواب بين تلك القطاعات والقطاع الصناعي، وتضييق الفجوة بين الأبحاث الأكاديمية والتطبيقات العملية، بما يساهم في حل التحديات التشغيلية في (سند)».
هيئة البث الأوكراني: وفد كييف في السعودية يلتقي بالفريق الأمريكي في الرياض