دراسة: يمكن خداع روبوتات الذكاء الاصطناعي للقيام بأعمال تخريبية
تاريخ النشر: 6th, December 2024 GMT
انتشرت نماذج اللغة الكبيرة "إل إل إم" (LLM) في السنوات السابقة، ولكن أظهر باحثون طرقا عديدة لخداعها بهدف إنشاء مخرجات شاذة مثل النكات المحرضة على الكراهية والبرمجيات الخبيثة ورسائل البريد الإلكتروني الاحتيالية والمعلومات الشخصية للمستخدمين، وفقا لموقع "وايرد".
ويبدو أن السلوك الشاذ لروبوتات الذكاء الاصطناعي يمكن أن يخرج إلى العالم المادي، إذ يمكن اختراق الروبوتات المدعومة بنماذج اللغة الكبيرة "إل إل إم" وتوجيهها للقيام بأعمال تخريبية.
وتمكن باحثون من جامعة بنسلفانيا من إقناع سيارة ذاتية القيادة بتجاهل علامات التوقف وحتى القيادة من فوق جسر، كما جعلوا روبوتا يسير على عجلات يجد أفضل مكان لزرع قنبلة، وأجبروا روبوتا رباعي الأرجل على التجسس على الناس ودخول المناطق المحظورة.
وفي هذا الصدد، يقول جورج باباس، رئيس مختبر أبحاث في جامعة بنسلفانيا، لموقع "وايرد"، والذي ساعد في إطلاق الروبوتات المتمردة "نحن لا ننظر إلى هجومنا باعتباره هجوما على الروبوتات فحسب، ولكن في أي وقت تربط فيه نماذج اللغة الكبيرة مع العالم المادي، يمكنك في الواقع تحويل النصوص الضارة إلى أفعال ضارة".
وقد قام باباس وزملاؤه بتصميم هجومهم من خلال البناء على أبحاث سابقة تستكشف طرق كسر الحماية لنماذج اللغة الكبيرة "إل إل إم"، ووجدوا أن صياغة المدخلات بطرق ذكية قادرة على كسر قواعد الأمان الخاصة بها، واختبروا أنظمة تعتمد على نماذج اللغة الكبيرة لتحويل الأوامر المصوغة بشكل طبيعي إلى أوامر يمكن للروبوت تنفيذها.
إعلانواعتمد الفريق في اختباراته على محاكي قيادة ذاتي مفتوح المصدر يدمج نموذج لغة كبيرا مطورا بواسطة "إنفيديا" يسمى "دولفين" (Dolphin) ونظاما خارجيا يدعى "جاكال" (Jackal) يعتمد على نموذج "جي بي تي -4 أو" (GPT-4o) للتخطيط، وكلبا روبوتيا يسمى "غو2" (Go2) يستخدم نموذج "جي بي تي 3.5" (GPT-3.5) لتفسير الأوامر.
واستخدم الباحثون تقنية طوروها في جامعة بنسلفانيا تسمى "بير" (PAIR) تعمل على كسر حماية روبوتات الذكاء الاصطناعي، وأطلقوا على برنامجهم اسم "روبو بير" (RoboPAIR) الذي يعمل على توليد مطالبات خاصة لجعل الروبوتات المدعومة بنموذج اللغة الكبير "إل إل إم" تكسر قواعدها الخاصة، وقاموا بذلك من خلال تجربة مدخلات مختلفة ثم تحسينها لدفع النظام نحو سلوك غير مرغوب فيه.
يقول الباحثون إن التقنية التي ابتكروها يمكن استخدامها لتحديد الأوامر الخطيرة المحتملة، وفقا لموقع "وايرد".
ويقول يي زينغ وهو طالب دكتوراه في جامعة فرجينيا يعمل على أمن أنظمة الذكاء الاصطناعي "إنه مثال رائع على نقاط ضعف نماذج اللغات الكبيرة في الأنظمة المُجسّدة". ويضيف أن النتائج "ليست مُفاجئة على الإطلاق بالنظر إلى المشاكل التي شوهدت في نماذج اللغات الكبيرة نفسها".
ويوضح الباحثون المشاركون أن كسر حماية الروبوت يسلط الضوء على خطر أوسع قد ينتشر مع استخدام نماذج الذكاء الاصطناعي بشكل متزايد كوسيلة لتفاعل البشر مع الأنظمة الفيزيائية.
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی إل إل إم
إقرأ أيضاً:
جامعة صحار تُنظِّم مؤتمريْ الذكاء الاصطناعي والبحوث ضمن جهود تعزيز الابتكار في التخصصات النوعية
◄ المؤتمر منصة أكاديمية للطلاب والباحثين لعرض دراساتهم ومشاريعهم البحثية
◄ مشاركة خبراء من عُمان وعدد من الدول الأجنبية ضمن أعمال المؤتمر
صحار- الرؤية
انطلقت بجامعة صحار، أمس الأحد، فعاليات مؤتمر الذكاء الاصطناعي: المهارات الرقمية والعمل اللائق، بالتعاون مع منظمة الأمم المتحدة للتربية والعلوم والثقافة "اليونسكو"- المكتب الإقليمي في الدوحة- واللجنة الوطنية العمانية للتربية والثقافة والعلوم، كما شهدت الجامعة انطلاق المؤتمر البحثي الثامن، وذلك تحت رعاية معالي الأستاذة الدكتورة رحمة بنت إبراهيم المحروقية وزيرة التعليم العالي والبحث العلمي والابتكار.
ويهدف المؤتمران إلى تعزيز البحث والابتكار في مجالات الذكاء الاصطناعي والتخصصات الأكاديمية المختلفة، ودعم بيئة الابتكار في التعليم العالي، إضافة إلى تطوير المهارات الرقمية والمهنية، وتعزيز جاهزية الكوادر الأكاديمية والمهنية لمواكبة التحولات الرقمية، وتعزيز التعاون الدولي وتوثيق الشراكات بين جامعة صحار والمنظمات العالمية، وتوفير منصة أكاديمية للطلاب والباحثين لعرض دراساتهم ومشاريعهم البحثية، والمشاركة في النقاشات العلمية المتخصصة، ودعم استراتيجيات التنمية المستدامة من خلال توظيف الذكاء الاصطناعي والتكنولوجيا الحديثة في مختلف المجالات.
وشهد المؤتمر مشاركة عدد من الخبراء كمتحدثين رئيسيين من جامعة السلطان قابوس وجامعة التقنية والعلوم التطبيقية، بجانب مشاركة خبراء خارجيين من أستراليا وفنلندا والصين وأمريكا ولبنان وقطر.
وفي كلمته، قال الدكتور حمدان الفزاري رئيس جامعة صحار: "هذه المؤتمرات تساهم في الحصول على المعارف التخصصية وتبادل الأفكار والآراء بين المختصين، كما أنها مجال خصب للباحثين والطلبة، للحصول على المعلومات العلمية في المجالات التي سيناقشها المؤتمر، ونحن نسعى إلى توظيف برامج وتخصصات تخدم متطلبات سوق وتكون منسجمة مع التطور التقني والتكنولوجي للذكاء الاصطناعي والتحول الرقمي، ولقد تبنت الجامعة هذه التقنيات في عروضها التعليمية وعملياتها الإدارية، وتقدم برنامجًا في الذكاء الاصطناعي على مستوى البكالوريوس، وقد طورت الجامعة روبوتات للمحادثة تعمل بنظام الذكاء الاصطناعي لتوفير الدعم الأكاديمي للطلاب، كما هيأت منصات للفصول الدراسية الافتراضية للتعلم عن بُعد".
وشهد اليوم الأول كلمات لكل من الدكتور أنس بوهلال أخصائي البرنامج الإقليمي للتعليم العالي والتدريب المهني والتقني بالمكتب الإقليمي لليونسكو لدول مجلس التعاون الخليجي واليمن، وبدر بن سليمان الحارثي مساعد أمين اللجنة الوطنية العُمانية للتربية والثقافة والعلوم، إلى جانب مشاركة سبعة متحدثين رئيسيين، قدموا رؤى متعمقة حول عدد من القضايا المحورية في مجال الذكاء الاصطناعي.
وافتتح الأستاذ الدكتور دراجان جاسيفيتش من جامعة موناش بأستراليا الجلسات بمناقشة أخلاقيات الذكاء الاصطناعي وتطوره، تلاه زيان كاو رئيس مكتب اليونسكو في الصين، متحدثًا عن جاهزية معلمي التعليم العالي في عصر الذكاء الاصطناعي، كما استعرض البروفيسور عبدالناصر حسين من كرسي اليونسكو بجامعة السلطان قابوس، مستقبل المهارات وتحول الوظائف في ظل الذكاء الاصطناعي، بينما قدم الدكتور مصعب الراوي من جامعة التقنية والعلوم التطبيقية محاضرة حول الذكاء الاصطناعي الأخلاقي ودوره في دعم التعلم مدى الحياة.
وفي السياق ذاته، ناقش فيل فالتونين من فنلندا تأثير الذكاء الاصطناعي على مستقبل المهارات وتحول الوظائف، بينما استعرض الدكتور سليم عراجي من الإسكوا أداة المنظمة لمراقبة المهارات وتطبيقات الذكاء الاصطناعي في سلطنة عمان، واختُتمت الجلسات بعرض قدمه البروفيسور ديل كيفر من جامعة جنوب كاليفورنيا، تناول فيه الفرص المتاحة لتنمية المهارات الرقمية في عمان.
واختُتم اليوم الأول بجلسة حوارية تفاعلية، شارك فيها جميع المتحدثين الرئيسيين، وأدارتها البروفيسور نور نها أبو منصور، عميدة كلية إدارة الأعمال بجامعة صحار.
الرئيس السوري يتحدّث عن «فترة اعتقاله» ويؤكّد: لن نشارك بأيّ نوع من الحروب الطائفية