دراسة: يمكن خداع روبوتات الذكاء الاصطناعي للقيام بأعمال تخريبية
تاريخ النشر: 6th, December 2024 GMT
انتشرت نماذج اللغة الكبيرة "إل إل إم" (LLM) في السنوات السابقة، ولكن أظهر باحثون طرقا عديدة لخداعها بهدف إنشاء مخرجات شاذة مثل النكات المحرضة على الكراهية والبرمجيات الخبيثة ورسائل البريد الإلكتروني الاحتيالية والمعلومات الشخصية للمستخدمين، وفقا لموقع "وايرد".
ويبدو أن السلوك الشاذ لروبوتات الذكاء الاصطناعي يمكن أن يخرج إلى العالم المادي، إذ يمكن اختراق الروبوتات المدعومة بنماذج اللغة الكبيرة "إل إل إم" وتوجيهها للقيام بأعمال تخريبية.
وتمكن باحثون من جامعة بنسلفانيا من إقناع سيارة ذاتية القيادة بتجاهل علامات التوقف وحتى القيادة من فوق جسر، كما جعلوا روبوتا يسير على عجلات يجد أفضل مكان لزرع قنبلة، وأجبروا روبوتا رباعي الأرجل على التجسس على الناس ودخول المناطق المحظورة.
وفي هذا الصدد، يقول جورج باباس، رئيس مختبر أبحاث في جامعة بنسلفانيا، لموقع "وايرد"، والذي ساعد في إطلاق الروبوتات المتمردة "نحن لا ننظر إلى هجومنا باعتباره هجوما على الروبوتات فحسب، ولكن في أي وقت تربط فيه نماذج اللغة الكبيرة مع العالم المادي، يمكنك في الواقع تحويل النصوص الضارة إلى أفعال ضارة".
وقد قام باباس وزملاؤه بتصميم هجومهم من خلال البناء على أبحاث سابقة تستكشف طرق كسر الحماية لنماذج اللغة الكبيرة "إل إل إم"، ووجدوا أن صياغة المدخلات بطرق ذكية قادرة على كسر قواعد الأمان الخاصة بها، واختبروا أنظمة تعتمد على نماذج اللغة الكبيرة لتحويل الأوامر المصوغة بشكل طبيعي إلى أوامر يمكن للروبوت تنفيذها.
إعلانواعتمد الفريق في اختباراته على محاكي قيادة ذاتي مفتوح المصدر يدمج نموذج لغة كبيرا مطورا بواسطة "إنفيديا" يسمى "دولفين" (Dolphin) ونظاما خارجيا يدعى "جاكال" (Jackal) يعتمد على نموذج "جي بي تي -4 أو" (GPT-4o) للتخطيط، وكلبا روبوتيا يسمى "غو2" (Go2) يستخدم نموذج "جي بي تي 3.5" (GPT-3.5) لتفسير الأوامر.
واستخدم الباحثون تقنية طوروها في جامعة بنسلفانيا تسمى "بير" (PAIR) تعمل على كسر حماية روبوتات الذكاء الاصطناعي، وأطلقوا على برنامجهم اسم "روبو بير" (RoboPAIR) الذي يعمل على توليد مطالبات خاصة لجعل الروبوتات المدعومة بنموذج اللغة الكبير "إل إل إم" تكسر قواعدها الخاصة، وقاموا بذلك من خلال تجربة مدخلات مختلفة ثم تحسينها لدفع النظام نحو سلوك غير مرغوب فيه.
يقول الباحثون إن التقنية التي ابتكروها يمكن استخدامها لتحديد الأوامر الخطيرة المحتملة، وفقا لموقع "وايرد".
ويقول يي زينغ وهو طالب دكتوراه في جامعة فرجينيا يعمل على أمن أنظمة الذكاء الاصطناعي "إنه مثال رائع على نقاط ضعف نماذج اللغات الكبيرة في الأنظمة المُجسّدة". ويضيف أن النتائج "ليست مُفاجئة على الإطلاق بالنظر إلى المشاكل التي شوهدت في نماذج اللغات الكبيرة نفسها".
ويوضح الباحثون المشاركون أن كسر حماية الروبوت يسلط الضوء على خطر أوسع قد ينتشر مع استخدام نماذج الذكاء الاصطناعي بشكل متزايد كوسيلة لتفاعل البشر مع الأنظمة الفيزيائية.
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی إل إل إم
إقرأ أيضاً:
كيف يشكل الذكاء الاصطناعي مستقبلنا الرقمي؟ وما جانبه المظلم؟
وتحتل البيتكوين اليوم مكانة كأصل إستراتيجي في احتياطيات بعض الدول مدفوعة بثورة صامتة قادها الذكاء الاصطناعي.
وحسب حلقة (2025/4/30) من برنامج "حياة ذكية"، فإن الذكاء الاصطناعي ساهم بشكل كبير في رفع كفاءة عمليات تعدين البيتكوين بنسبة تصل إلى 30%، وفقا لبيانات جامعة كامبردج، مما أدى إلى تقليل استهلاك الطاقة ومعالجة أحد أبرز الانتقادات الموجهة لهذه الصناعة والمتعلقة ببصمتها الكربونية.
كما لعبت خوارزميات التعلم العميق دورا حاسما في تعزيز أمان المحافظ الرقمية، إذ تمكنت شركات مثل "تشين أناليسيس" من تطوير أنظمة قادرة على تتبع المعاملات الاحتيالية واسترداد مليارات الدولارات من الأصول المسروقة.
ولم يتوقف تأثير الذكاء الاصطناعي عند هذا الحد، بل امتد ليشمل تسريع المعاملات عبر تطوير شبكات التحويل السريع مثل شبكة البرق، مما جعل البيتكوين منصة أكثر مرونة لمختلف التطبيقات.
ودفع هذا التطور التقني بعض الحكومات مثل الولايات المتحدة إلى تغيير موقفها، إذ أعلن الرئيس دونالد ترامب إنشاء احتياطي إستراتيجي للبيتكوين يقارب 200 ألف بيتكوين.
ورغم هذا التحول الإيجابي فإن الحلقة أشارت إلى أن المخاطر لا تزال قائمة، فاختراقات المنصات الكبرى وسرقة الأصول الرقمية بالإضافة إلى الاعتماد المتزايد على تقنيات الذكاء الاصطناعي المغلقة تطرح تساؤلات بشأن الشفافية والاستقلالية.
إعلانكما يبرز سباق جيوسياسي صامت بين القوى الكبرى بشأن الهيمنة على هذا الأصل الرقمي الجديد، مما يحول البيتكوين من مجرد عملة مشفرة إلى أداة محتملة لإعادة صياغة موازين القوى العالمية.
البيانات الضخمة
وفيما يتعلق بمفهوم "البيانات الضخمة"، أشارت الحلقة إلى الحجم الهائل للبيانات التي تنتجها البشرية يوميا، والذي تضاعف 60 مرة مقارنة بعام 2010.
وتتميز الخصائص الرئيسية للبيانات الضخمة المعروفة بـ5 مواصفات أساسية تسمى "5 في إس"، وهي الحجم، والتنوع، والسرعة، والموثوقية، والقيمة.
وأحدثت البيانات الضخمة ثورة هائلة في 10 مجالات رئيسية، بسبب القيمة الكبيرة التي يمكن استخلاصها من تحليل هذه البيانات، وشملت هذه المجالات:
الرعاية الصحية: تحليل السجلات الصحية لتخصيص العلاج وتحسين التشخيص. تطوير الأدوية: تسريع التجارب السريرية واكتشاف علاجات جديدة. التنبؤ بالكوارث: تحليل البيانات الجوية والبيئية لتحسين دقة التنبؤات وتقديم إنذارات مبكرة. المواصلات: تتبع حركة المرور وتوجيه السائقين لتحسين الكفاءة وتقليل التلوث. مكافحة الجريمة: تحليل البيانات الجنائية للتعرف على أنماط الجريمة وتوجيه التحقيقات. التعليم: تقييم أداء الطلاب وتوجيههم بشكل فعال. الزراعة الذكية: تحسين ممارسات الزراعة وزيادة الإنتاج ومراقبة المحاصيل. تجربة العملاء: تحليل تفضيلات العملاء لتقديم منتجات وخدمات مناسبة. تقليل الهدر الغذائي: تحسين سلسلة التوريد لتقليل هدر الطعام. توجيه الاستثمارات: دراسة الأسواق وتحديد الفرص الاستثمارية.
التزييف العميق
ولم تغفل الحلقة عن الجانب المظلم للذكاء الاصطناعي بسبب مخاطر تقنيات "التزييف العميق"، والتي أصبحت سلاحا خطيرا في يد المحتالين ومروجي الأخبار الكاذبة.
وكشف تقرير لوكالة الصحافة الفرنسية ظاهرة مقلقة تتمثل في استغلال وجوه أشخاص حقيقيين يتم التعاقد معهم لتصوير مقاطع فيديو قصيرة مقابل مبالغ زهيدة، ثم تستخدم تقنيات الذكاء الاصطناعي لتعديل هذه المقاطع وجعل الشخصيات تقول أو تفعل أشياء لم تقم بها في الواقع.
إعلانوعرضت الحلقة أمثلة واقعية لأشخاص فوجئوا بظهورهم في مقاطع فيديو تروج لمنتجات صحية مشبوهة أو تسرد نبوءات كاذبة أو تدعم شخصيات سياسية مثيرة للجدل من دون علمهم أو موافقتهم.
وتطرح سهولة الوصول إلى هذه التقنيات وقلة الرقابة تحديات جدية بشأن مصداقية المحتوى الرقمي.
ولفتت الحلقة إلى ضرورة التشكيك فيما نراه ونسمعه عبر الإنترنت، والتحقق من مصداقية المعلومات، خاصة في زمن تنتشر فيه مقاطع الفيديو المزيفة بسرعة البرق عبر المنصات الرقمية.
الصادق البديري30/4/2025
الفنان خالد كمال: بجدد دعمي الشخصي لمهرجان الإسكندرية للفيلم القصير