دراسة: يمكن خداع روبوتات الذكاء الاصطناعي للقيام بأعمال تخريبية
تاريخ النشر: 6th, December 2024 GMT
انتشرت نماذج اللغة الكبيرة "إل إل إم" (LLM) في السنوات السابقة، ولكن أظهر باحثون طرقا عديدة لخداعها بهدف إنشاء مخرجات شاذة مثل النكات المحرضة على الكراهية والبرمجيات الخبيثة ورسائل البريد الإلكتروني الاحتيالية والمعلومات الشخصية للمستخدمين، وفقا لموقع "وايرد".
ويبدو أن السلوك الشاذ لروبوتات الذكاء الاصطناعي يمكن أن يخرج إلى العالم المادي، إذ يمكن اختراق الروبوتات المدعومة بنماذج اللغة الكبيرة "إل إل إم" وتوجيهها للقيام بأعمال تخريبية.
وتمكن باحثون من جامعة بنسلفانيا من إقناع سيارة ذاتية القيادة بتجاهل علامات التوقف وحتى القيادة من فوق جسر، كما جعلوا روبوتا يسير على عجلات يجد أفضل مكان لزرع قنبلة، وأجبروا روبوتا رباعي الأرجل على التجسس على الناس ودخول المناطق المحظورة.
وفي هذا الصدد، يقول جورج باباس، رئيس مختبر أبحاث في جامعة بنسلفانيا، لموقع "وايرد"، والذي ساعد في إطلاق الروبوتات المتمردة "نحن لا ننظر إلى هجومنا باعتباره هجوما على الروبوتات فحسب، ولكن في أي وقت تربط فيه نماذج اللغة الكبيرة مع العالم المادي، يمكنك في الواقع تحويل النصوص الضارة إلى أفعال ضارة".
وقد قام باباس وزملاؤه بتصميم هجومهم من خلال البناء على أبحاث سابقة تستكشف طرق كسر الحماية لنماذج اللغة الكبيرة "إل إل إم"، ووجدوا أن صياغة المدخلات بطرق ذكية قادرة على كسر قواعد الأمان الخاصة بها، واختبروا أنظمة تعتمد على نماذج اللغة الكبيرة لتحويل الأوامر المصوغة بشكل طبيعي إلى أوامر يمكن للروبوت تنفيذها.
إعلانواعتمد الفريق في اختباراته على محاكي قيادة ذاتي مفتوح المصدر يدمج نموذج لغة كبيرا مطورا بواسطة "إنفيديا" يسمى "دولفين" (Dolphin) ونظاما خارجيا يدعى "جاكال" (Jackal) يعتمد على نموذج "جي بي تي -4 أو" (GPT-4o) للتخطيط، وكلبا روبوتيا يسمى "غو2" (Go2) يستخدم نموذج "جي بي تي 3.5" (GPT-3.5) لتفسير الأوامر.
واستخدم الباحثون تقنية طوروها في جامعة بنسلفانيا تسمى "بير" (PAIR) تعمل على كسر حماية روبوتات الذكاء الاصطناعي، وأطلقوا على برنامجهم اسم "روبو بير" (RoboPAIR) الذي يعمل على توليد مطالبات خاصة لجعل الروبوتات المدعومة بنموذج اللغة الكبير "إل إل إم" تكسر قواعدها الخاصة، وقاموا بذلك من خلال تجربة مدخلات مختلفة ثم تحسينها لدفع النظام نحو سلوك غير مرغوب فيه.
يقول الباحثون إن التقنية التي ابتكروها يمكن استخدامها لتحديد الأوامر الخطيرة المحتملة، وفقا لموقع "وايرد".
ويقول يي زينغ وهو طالب دكتوراه في جامعة فرجينيا يعمل على أمن أنظمة الذكاء الاصطناعي "إنه مثال رائع على نقاط ضعف نماذج اللغات الكبيرة في الأنظمة المُجسّدة". ويضيف أن النتائج "ليست مُفاجئة على الإطلاق بالنظر إلى المشاكل التي شوهدت في نماذج اللغات الكبيرة نفسها".
ويوضح الباحثون المشاركون أن كسر حماية الروبوت يسلط الضوء على خطر أوسع قد ينتشر مع استخدام نماذج الذكاء الاصطناعي بشكل متزايد كوسيلة لتفاعل البشر مع الأنظمة الفيزيائية.
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی إل إل إم
إقرأ أيضاً:
القائم بأعمال الملحقية الثقافية السعودية يزور جامعة عمان الأهلية
#سواليف
استقبل رئيس #جامعة_عمان_الأهلية، الأستاذ الدكتور ساري حمدان، في مكتبه أمس ، الأستاذ الدكتور محمد بن خزيم الشمري، القائم بأعمال الملحقية الثقافية السعودية في الأردن والمشرف على أعمال الملحقية الثقافية في لبنان، في زيارة رسمية تهدف إلى تعزيز التعاون الأكاديمي والثقافي بين الجانبين.
وحضر اللقاء من الملحقية الثقافية السعودية مدير الشؤون الثقافية والإعلامية الأستاذة ريم البرهومي، والسيد قاسم الجازي والطالب علي خالد آل مستنير ممثل الطلبة السعوديين الدارسين بالجامعة، ومن الجامعة مستشارة الرئيس/عميدة كلية الدراسات العليا الأستاذة الدكتورة هديل الياسين، وعميدة كلية التمريض الأستاذة الدكتورة إيمان النزلي.
وفي سياق تطوير برامج التعليم العالي والتعاون المشترك ، أكد الجانبان خلال اللقاء على أهمية تعزيز الشراكات الأكاديمية، وتقديم الدعم للطلبة ، بما يسهم في تحقيق رؤى مشتركة تخدم تطلعات الجانبين على المستوى الأكاديمي والمهني.
كما تمت مناقشة مقترحات تساهم في بناء الكوادر القيادية في المجال الصحي، وتعزيز التكامل بين التمريض والإدارة بما يسهم في تحسين جودة الخدمات الصحية.
وأشاد رئيس الجامعة بالعلاقات المتينة التي تربط بين المملكتين ” الأردنية والسعودية ” في شتى المجالات ومن بينها التعاون المتميز في مجالات قطاع التعليم العالي .
فيما أكدت الاستاذة الدكتورة هديل الياسين على أهمية التركيزعلى استحداث برامج مشتركة والتعاون في كافة المجالات والدورات بما يخدم عملية تطوير التعليم العالي في البلدين .
وأشادت الاستاذة الدكتورة ايمان النزلي بالتعاون المشترك في مجال التمريض وبالمراكز التابعة لكلية التمريض ، مثنية على الطلبة السعوديين ومستواهم العلمي والتحصيلي وجديّتهم وأخلاقهم .
و ضمن زيارته للجامعة قام الأستاذ الدكتور محمد بن خزيم الشمري، والوفد المرافق بزيارة عمادة كلية التمريض حيث حضر اللقاء الدكتور عمر الزيود نائب العميدة للشؤون الاكاديمية .
كما قام الوفد بجولة ميدانية في الكلية ، شملت زيارة لمختبرات المحاكاة التابعة لمركز عمان الأهلية للتدريب الصحي ، حيث قدم الاستاذ الدكتور خلدون حمدان شرحًا تفصيليًا عن المركز وأهدافه وخدماته، مسلطًا الضوء على مختبر المحاكاة المجهز بأحدث التقنيات المتطورة على مستوى الشرق الأوسط.
وتم استعراض الخدمات التعليمية والتدريبية التي يقدمها المركز للطلبة في المجال الصحي، بالإضافة إلى الدورات المتخصصة التي تعزز من كفاءتهم العملية والعلمية.
وكانت الصيدلانية حنين المومني قد قدمت تعريفًا شاملًا عن مركز صحة المرأة التابع للكلية والذي تديره الدكتورة منى النسور، متناولة أهدافه وخدماته الرائدة، التي تهدف إلى تعزيز صحة المرأة وتقديم الدعم المجتمعي.
كما استعرضت أيضًا الأنشطة المستقبلية التي يخطط المركز لتنفيذها للطلبة بما فيهم الطلبة السعوديين الدارسين في الجامعة ، والتي تستهدف خدمة المجتمع المحلي.
وقد أظهرت الجولة مدى جدية واهتمام والتزام الجامعة بتقديم خدمات تعليمية وتدريبية متكاملة تتماشى مع أحدث المعايير العالمية.
حيث أثنى سعادة الدكتور الشمري على الجهود المتميزة التي تبذلها جامعة عمان الاهلية لخدمة الطلبة السعوديين، معرباً عن شكره وتقديره للجامعة ولكلية التمريض على الدورات والأنشطة التي قدمتها الجامعة للطلبة السعوديين من جميع الجامعات، مما يعكس الاهتمام البارز بالعملية التعليمية والتطوير المهني.
توجيهات السيسي للحكومة وزيارة الكنيسة القبطية تتصدر نشاط الرئيس الأسبوعي