ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة، وفق روسيا اليوم.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: بوابة الوفد
كلمات دلالية: معهد ماساتشوستس للتكنولوجيا روبوتات الدردشة التعلم الآلی
إقرأ أيضاً:
نائب محافظ دمياط تبحث استعداد اللقاء التحضيري لمدن التعلم
تابع أحدث الأخبار عبر تطبيق
عقدت المهندسة شيماء الصديق، نائب محافظ دمياط، اجتماعًا هامًا اليوم، لمتابعة آخر مستجدات جهود تسجيل محافظة دمياط ضمن شبكة المدن الإبداعية التي تديرها منظمة الأمم المتحدة "اليونسكو"، ذلك بحضور الدكتور محمد عماشة، نائب رئيس جامعة دمياط، والمهندسة ميرال يوسف، مدير عام التراث بديوان محافظة القاهرة، والدكتورة سارة حجازي، الإدارة العام للحفاظ على التراث بديوان عام القاهرة، وأعضاء هيئة التدريس المعنيين بالملف ومسئولي تنسيق الملف بالمحافظة.
في البداية، استمعت "نائب المحافظ" إلى شرح مفصل عن الخطوات التي تم اتخذها في هذا الملف، من نائب رئيس الجامعة.
وأكدت المهندسة شيماء الصديق، أن هذا الملف يلقى اهتمام بالغ من وزارة التنمية المحلية حيث تقوم الوزارة على دعم المحافظات للتسجيل، لذا تسعى المحافظة إلى التسجيل بالشبكة بهدف إبراز التراث الثقافي و الإبداعي الفريد لدمياط، وتعزيز مكانتها على الخريطة العالمية للمدن الإبداعية.
وأشارت إلى أهمية هذا المشروع في دعم التنمية المستدامة للمحافظة، وتوفير فرص جديدة للشباب والمبدعين حيث يتم التنسيق بين كافة الجهات بالمحافظة لحصر الاحصائيات المطلوبة بالحرف التراثية والفنون الشعبية والعائد علي الاقتصاد والسياحة وغيرها من محاور التنمية المستدامة.
وأكد نائب رئيس جامعة دمياط إلى أنه ووفقًا للبروتوكول المبرم بين المحافظة والجامعة، يجرى العمل لإعداد ملف للتقديم بالشبكة لدراسة كافة المحاور المُتعلقة بملف المدن الإبداعية، وتحديد أهم المعالم والمجالات والحرف اليدوية والتراثية التى تتميز بها دمياط والعمل على إبراز الهوية الثقافية للمحافظة.
ومن جانبها، أوضحت المهندسة ميرال يوسف، الخطوات اللازم اتبعها للتسجيل، مثل "ضرورة إبراز الموروث الثقافي والتراث الحضاري للمحافظة، وتحديد المجال الذي تتميز به دمياط بشكل خاص، سواء كان الحرف اليدوية، الموسيقى، الأدب، أو غيرها من المجالات الإبداعية، وإعداد ملف يوضح المميزات الإبداعية للمحافظة، ويستوفي جميع الشروط التي وضعتها اليونسكو، وغيرها من الخطوات".
وفي نهاية الاجتماع تم المناقشة التفصيلية بين كافة المشاركين في كتابة الملف للاتفاق على اختيار أفضل العناصر تمهيدا لقيام المحافظة بالتقدم بالملف طبقا للمعايير المطلوبة.
مصرع 4 عناصر.. الشرطة تداهم عصابة أثناء محاولة تهريب مخدرات بـ 14 مليون جنيه