ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة، وفق روسيا اليوم.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: بوابة الوفد
كلمات دلالية: معهد ماساتشوستس للتكنولوجيا روبوتات الدردشة التعلم الآلی
إقرأ أيضاً:
ابتكار جديد.. سلالة بكتيرية تقمع مسببات الأمراض وتحسن هضم الأعلاف في تربية الماشية
تابع أحدث الأخبار عبر تطبيق
ابتكر العلماء في إقليم ألتاي سلالة جديدة من البكتيريا تقمع الكائنات الحية الدقيقة المسببة للأمراض وتعمل على تركيب الإنزيمات المفيدة، يمكن أن تصبح أداة جديدة بديلة لمضادات الحيوية ما يحسن صداقة المنتجات للبيئة ويقلل من مخاطر العدوى في تربية الماشية والدواجن، وفقا لما نشرته مجلة تاس.
وتشير براءة الاختراع إلى أن المهمة التقنية لهذا الاختراع هي الحصول على سلالة جديدة من البكتيريا لها تأثير عدائي واضح ضد الكائنات الحية الدقيقة التي تسبب الأمراض في مزارع تربية الحيوانات والطيور وتكمن النتيجة التقنية في قمع مسببات الأمراض من الكائنات الحية الدقيقة الحيوانية وتخليق إنزيمات لهضم الكربوهيدرات باستخدام سلالة Bacillus atrophaeus RCAM06423 الجديدة المقترحة لاستخدامها في تكوين المستحضرات البيولوجية للزراعة.
ووفقا للباحثين، لا تقمع السلالة الجديدة من Bacillus atrophaeus RCAM06423 مجموعة واسعة من مسببات الأمراض بما في ذلك الفطريات والبكتيريا فقط بل وتعمل أيضا على إفراز الإنزيمات التي تحسن هضم الحيوانات للأعلاف ولذلك يمكن لهذا الاكتشاف أن يقلل من اعتماد الزراعة على مضادات الحيوية مع تحسين الإنتاجية والسلامة.
وأظهرت الدراسات، أن هذه السلالة تقمع بفعالية عالية مسببات الأمراض والفطريات التي تهدد صحة الحيوانات والطيور والميزة الرئيسية للسلالة هي تنوعها واستقرارها ويمكنها البقاء على قيد الحياة في نطاق واسع من درجات الحرارة والتكيف بسهولة مع الظروف البيئية بينما تظل حساسة لمضادات الحيوية القياسية أي أن استخدامها آمن ولا يخلق سلالات مقاومة، كما يحدث مع الاستخدام غير المنضبط لمضادات الحيوية.
السوداني:العراق منفتح على العالم لزيادة حجم الاستيرادات