ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
إقرأ المزيد
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي روبوت التعلم الآلی
إقرأ أيضاً:
بعد رحيل ميكالي| 3 مرشحين لتدريب منتخب الشباب.. وأبوريدة يجتمع مع حسام حسن وجهازه المعاون
تابع أحدث الأخبار عبر تطبيق
أعلن الاتحاد المصرى لكرة القدم برئاسة المهندس هانى أبو ريدة، التوصل إلى اتفاق مع المدرب البرازيلى روجير ميكالي، المدير الفنى لمنتخب الشباب، لإنهاء التعاقد معه وحصوله على مستحقاته المالية المنصوص عليها فى العقد المبرم بتاريخ ١ أكتوبر الماضى والتى تتضمن ثلاثة أشهر كشرط جزائي.
ونص الاتفاق على أن يحصل المدرب على الشرط الجزائى مقسماً على ٦ أقساط شهرية اعتباراً من أول فبراير المقبل.
وكان اتحاد كرة القدم قد عرضًا على المدرب البرازيلى تخفيض عقده إلى النصف، والبالغ ١١٧ ألفًا و٥٠٠ دولار شهرياً شاملاً الضرائب المستحقة عليه، بخلاف تكاليف الإقامة و٨ تذاكر سفر سنوياً إلى البرازيل على درجة رجال الأعمال ليتلاءم راتبه مع مهمته كمدرب لمنتخب تحت السن، إلا أن ميكالى عرض التنازل عن ١٥ ألف دولار فقط، وهو ما رفضه الاتحاد المصرى الذى رأى أن راتب المدرب يظل مبالغاً فيه مقارنة مع المهمة التى يتولاها.
ومن المقرر أن يعلن اتحاد كرة القدم عن تشكيل الجهاز الفنى للمنتخب الوطنى للشباب من مواليد ٢٠٠٥ فى اجتماع مجلس إدارته المقبل الذى لم يتحدد موعده بعد وهناك ثلاثة أسماء مرشحة لتدريب منتخب الشباب وهم عادل مصطفى ووائل رياض ومحمد شوقى بينما ضمن عصام الحضرى منصب مدرب الحراس مع المنتخب الجديد.
ما زالت أصداء قرارات مجلس إدارة اتحاد الكرة برئاسة المهندس هانى أبو ريدة الأخيرة تلقى بظلالها على الشارع الرياضى بعد إعلان المجلس عن قرارات لجنة الانضباط والقيم والأخلاق، التى كانت قد اتخذتها اللجنة خلال الفترة الماضية، ولم يتم إعلانها فى حينه.
وشهدت عقوبة جوميز المدير الفنى السابق للنادى الزمالك جدلا كبيرا خصوصاً الغرامة المالية حيث جاء القرار إيقافه، مباراتين رسميتين، وتغريمه مبلغ ٥٠ ألف جنيه، لما بدر منه فى مباراة الزمالك والمصرى بتاريخ ١٧ يونيو ٢٠٢٤.
وتعتبر الغرامة صداعا فى رأس الجبلاية خصوصاً لعدم وجود لوائح تجبر المدير الفنى الراحل دفع الغرامة ورفض نادى الزمالك سداد المبلغ حيث أن الغرامة موقعة على المدير الفنى والنادى ليس طرفا فيها.
وعلى صعيد تشكيل اللجنة الفنية للجبلاية التى ضمت كلا من حسن شحاتة ومحسن صالح وعلى أبو جريشة وحلمى طولان وحسن فريد ومحمد عمر وأحمد حسن وعبد الظاهر السقا والمدير الفنى للاتحاد علاء نبيل، هناك عدم وضوح للاختصاصات الخاصة باللجنة وتضارب بين أعضاء اللجنة والمدير الفنى للجبلاية وتشهد الأيام المقبلة وضع النقاط فوق الحروف من حيث تحديد الاختصاصات والرواتب الخاصة بأعضاء اللجنة.
وكشف مصدر خاص لـ"البوابة نيوز" أن بعض الأعضاء يفكر فى الاعتذار عن الاستمرار داخل اللجنة فى حالة عدم وجود دور فعال فى الأمور الفنية لكرة القدم.
من ناحية أخرى، يجتمع المهندس هانى أبو ريدة رئيس اتحاد الكرة مع الجهاز الفنى لمنتخب مصر بعد عودة حسام حسن من الخارج الأسبوع القادم حيث يقضى إجازة خاصة خارج البلاد.
ومن المنتظر أن يشهد اللقاء رؤية الجهاز الفنى لكتيبة الفراعنة للفترة المقبلة والمساندة المطلوبة من مجلس الجبلاية للجهاز الفني، هذا وقد تأجل الاجتماع لأكثر من مرة بسبب ارتباطات المهندس هانى أبو ريدة الخارجية مع الاتحادين الدولى والأفريقى لكرة القدم.
ومن جانبه قرر مجلس إدارة اتحاد الكرة دعوة الجمعية العمومية للاتحاد للانعقاد غير العادى وذلك لتعديل بعض بنود لائحة النظام الأساسى والتى سيتم عقد ورش عمل بشأنها قبل إرسالها إلى الأعضاء، بالإضافة إلى انتخاب اللجان القضائية ومناقشة مقترح تعديل شكل المسابقات.
القبض على المتهم بتصوير طالب أثناء ممارسة الشذوذ معه في الوراق