ابتكار "ذكاء اصطناعي سام" لوقف خطر روبوتات الدردشة
تاريخ النشر: 25th, April 2024 GMT
استخدم باحثو معهد ماساتشوستس للتكنولوجيا طريقة جديدة "تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة.
ويطلق على الطريقة القائمة على التعلم الآلي، اسم "الفريق الأحمر القائم على الفضول" (CRT)، المصمم خصيصا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.
وبعد ذلك، يمكن استخدام هذه الأسئلة لتحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما قد يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم.
وعادة، يقوم الخبراء بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus، بهدف تقييد المحتوى الخطير أو الضار.
إقرأ المزيد
وأثناء عملية التدريب، يتم استخدام الأسئلة التي تثير محتوى خطيرا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين.
وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيا نطاقا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعا.
ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعا لجميع خيارات الأسئلة المريبة المحتملة.
وعندما اختبر العلماء طريقة CRT على نموذج LLaMA2 مفتوح المصدر، أنتج نموذج التعلم الآلي 196 سؤالا ينجم عنه محتوى ضار.
وقال الفريق إن النظام تفوق أيضا على أنظمة التدريب الآلية المنافسة.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي روبوت التعلم الآلی
إقرأ أيضاً:
حسيت بكسرة قلبي.. كارولين عزمي تتحدث عن قصة حب سامة دمرت حياتها
استعادت الفنانة كارولين عزمي ذكريات أول قصة حب في حياتها التي وصفتها بالمؤلمة، وذلك بعد أن قرر حبيبها تركها فجأة دون أي سبب، ليتسبب هذا الفراق في مرورها بأزمة نفسية رهيبة.
وروت كارولين هذه الواقعة أثناء استضافتها في برنامج "MIRROR"، الذي يقدمه الإعلامي خالد فرج قائلة: "عشت قصة حب كبيرة مع أحد الأشخاص، ولكن لم يحدث توافق بيننا رغم أن علاقتنا استمرت لسنوات،ن وحينما قرر إنهاء العلاقة شعرت بكسرة قلبي، وأتذكر أنني سألت ربنا: "ليه يا رب حطيت حبه في قلبي؟".
وأضافت: تولد بداخلي شعور بعدم الرضا وكنت أكره نفسي ولا أريد أن أقابل أحد، وكنت بنام لمدة ٢١ ساعة كل يوم للهروب من الواقع، كما أن وزني زاد بشكل ملحوظ، وعلاقتي بأهلي توترت إلى حد كبير، حيث كنت تائهة بشكل لم أتخيل نفسي فيه.
وفجرت كارولين مفاجأة بإعلانها عن رغبة هذا الشخص في العودة إليها بعد فترة من انتهاء علاقتهما، متابعة: نزلت قابلته ولكني فوجئت بأنه لم يعد الشخص الذي أحببته، حيث سرد أسبابا واهية دعته إلى إنهاء علاقتنا، ولكنها لم تقتنع ولم تشغل ذهنها بالتفكير فيما قاله، لأنها شعرت بعد مغادرتها للمكان بأن حبه في قلبها قد انتهى تماما دون رجعة".
وأكدت كارولين أنها في العلاقات العاطفية تحب بقلبها وعقلها وتكون أشبه بـ "المعمية" التي تنساق وراء حبيبها دون تفكير، متابعة: "أنا نحنوحة جدا في الحب، وبحب أكلم اللي بحبه كل شوية، أنا فعلا ملزقة جدا لإن الحب هو أحلى حاجة في الدنيا، مفيش أحلى ولا أجمل من الحب".
العدو الإسرائيلي يشدد إجراءاته العسكرية على حاجز الحمرا في الأغوار الشمالية