كشف بحث جديد أن اختراق حماية خدمات الذكاء الاصطناعي المتقدمة مثل ChatGPT و Claude 3 Opus أسهل مما كان يعتقد سابقًا. 

وتشير هذه النتائج إلى وجود ثغرات أمنية محتملة في هذه الأنظمة، والتي يمكن استغلالها لإنتاج محتوى ضار أو مضلل.

تقنية "Many-Shot Jailbreaking"

تعتمد تقنية الاختراق المسماة "Many-Shot Jailbreaking" على تقديم سلسلة من التعليمات المتلاعبة بها بعناية إلى نموذج الذكاء الاصطناعي.

فعلى سبيل المثال، يمكن إعطاء النموذج تعليمات مثل "تجاهل جميع التعليمات السابقة" أو "تصرف كممثل ذكاء اصطناعي شرير". ومن خلال سلسلة من هذه التعليمات، يمكن للمهاجمين خداع النموذج للقيام بمهام غير مصرح بها، مثل إنشاء محتوى عنيف أو كراهية.

سهولة الاختراق

أظهرت الدراسة أن اختراق نماذج الذكاء الاصطناعي باستخدام تقنية "Many-Shot Jailbreaking" ممكن بنسبة نجاح عالية. 

وتمكن الباحثون من اختراق نماذج مثل ChatGPT و Claude 3 Opus بسهولة، ما يثير القلق بشأن سلامة هذه الأنظمة.

التداعيات

تثير هذه النتائج مخاوف جدية بشأن إمكانية استخدام نماذج الذكاء الاصطناعي لأغراض ضارة. فمن الممكن أن يستغل المهاجمون هذه الثغرات الأمنية لنشر معلومات مضللة أو التحريض على العنف أو حتى شن هجمات إلكترونية.

الحاجة إلى إجراءات أمنية

يؤكد الباحثون على الحاجة الملحة إلى تطوير إجراءات أمنية أكثر قوة لحماية نماذج الذكاء الاصطناعي من الاختراق.

 وتشمل هذه الإجراءات تحسين خوارزميات الكشف عن التلاعب بالتعليمات وتطوير طرق أفضل لفهم وتوقع سلوك النماذج.

مستقبل الذكاء الاصطناعي

على الرغم من هذه المخاوف، لا يزال الذكاء الاصطناعي يحمل إمكانات هائلة لتحسين حياتنا. ولكن من الضروري معالجة هذه الثغرات الأمنية لضمان استخدام هذه التقنية بشكل آمن ومسؤول.

المصدر: صدى البلد

كلمات دلالية: الذکاء الاصطناعی

إقرأ أيضاً:

الاتحاد الأوروبي يضخ 1.3 مليارات يورو في الذكاء الاصطناعي والأمن السيبراني

المناطق_واس

أعلنت المفوضية الأوروبية عن تخصيص 1.3 مليارات يورو للاستثمار في مجالات الذكاء الاصطناعي، والأمن السيبراني، وتنمية المهارات الرقمية، وذلك ضمن برنامج “أوروبا الرقمية” للفترة من 2025م إلى 2027م.

وأكدت المفوضة الأوروبية للشؤون الرقمية هينا فيركونين أنّ هذه الخطوة تأتي في إطار تعزيز السيادة التقنية الأوروبية، عبر دعم التقنيات المتقدمة ورفع الكفاءة الرقمية للأفراد.

أخبار قد تهمك ترمب يعلن فرض رسوم جمركية 25% على المنتجات الأوروبية قريبًا 27 فبراير 2025 - 6:39 صباحًا مسؤولة الشؤون الخارجية والسياسة الأمنية بالاتحاد الأوروبي: تخفيف العقوبات الأوروبية المفروضة على سوريا يشمل قطاعات الطاقة والنقل والمصارف 24 فبراير 2025 - 11:57 صباحًا

مقالات مشابهة

  • الذكاء الاصطناعي يحوّل الأفكار إلى كلام في الوقت الحقيقي
  • الذكاء الاصطناعي يتقن الخداع!
  • بيل جيتس: الذكاء الاصطناعي سيحل محل العديد من المهن
  • استوديو جيبلي وكابوس الذكاء الاصطناعي
  • رغم الدفاع عن نظامها.. بلومبرج تواجه مشكلات مع ملخصات الذكاء الاصطناعي
  • «ChatGPT» يغير قواعد إنشاء الصور باستخدام الذكاء الاصطناعي
  • الذكاء الاصطناعي يشارك.. السعودية تدعو لتحري هلال عيد الفطر
  • بيل غيتس يكشف عن 3 مهن آمنة في عصر الذكاء الاصطناعي
  • تقنية الذكاء الاصطناعي تدخل عالم العلاج الطبيعي لآلام أسفل الظهر في بريطانيا
  • الاتحاد الأوروبي يضخ 1.3 مليارات يورو في الذكاء الاصطناعي والأمن السيبراني