كشف بحث جديد أن اختراق حماية خدمات الذكاء الاصطناعي المتقدمة مثل ChatGPT و Claude 3 Opus أسهل مما كان يعتقد سابقًا. 

وتشير هذه النتائج إلى وجود ثغرات أمنية محتملة في هذه الأنظمة، والتي يمكن استغلالها لإنتاج محتوى ضار أو مضلل.

تقنية "Many-Shot Jailbreaking"

تعتمد تقنية الاختراق المسماة "Many-Shot Jailbreaking" على تقديم سلسلة من التعليمات المتلاعبة بها بعناية إلى نموذج الذكاء الاصطناعي.

فعلى سبيل المثال، يمكن إعطاء النموذج تعليمات مثل "تجاهل جميع التعليمات السابقة" أو "تصرف كممثل ذكاء اصطناعي شرير". ومن خلال سلسلة من هذه التعليمات، يمكن للمهاجمين خداع النموذج للقيام بمهام غير مصرح بها، مثل إنشاء محتوى عنيف أو كراهية.

سهولة الاختراق

أظهرت الدراسة أن اختراق نماذج الذكاء الاصطناعي باستخدام تقنية "Many-Shot Jailbreaking" ممكن بنسبة نجاح عالية. 

وتمكن الباحثون من اختراق نماذج مثل ChatGPT و Claude 3 Opus بسهولة، ما يثير القلق بشأن سلامة هذه الأنظمة.

التداعيات

تثير هذه النتائج مخاوف جدية بشأن إمكانية استخدام نماذج الذكاء الاصطناعي لأغراض ضارة. فمن الممكن أن يستغل المهاجمون هذه الثغرات الأمنية لنشر معلومات مضللة أو التحريض على العنف أو حتى شن هجمات إلكترونية.

الحاجة إلى إجراءات أمنية

يؤكد الباحثون على الحاجة الملحة إلى تطوير إجراءات أمنية أكثر قوة لحماية نماذج الذكاء الاصطناعي من الاختراق.

 وتشمل هذه الإجراءات تحسين خوارزميات الكشف عن التلاعب بالتعليمات وتطوير طرق أفضل لفهم وتوقع سلوك النماذج.

مستقبل الذكاء الاصطناعي

على الرغم من هذه المخاوف، لا يزال الذكاء الاصطناعي يحمل إمكانات هائلة لتحسين حياتنا. ولكن من الضروري معالجة هذه الثغرات الأمنية لضمان استخدام هذه التقنية بشكل آمن ومسؤول.

المصدر: صدى البلد

كلمات دلالية: الذکاء الاصطناعی

إقرأ أيضاً:

تحديث المناهج لتسريع تبنّي الذكاء الاصطناعي في التعليم

دينا جوني (دبي)

أخبار ذات صلة عالم التكنولوجيا.. الذكاء الاصطناعي يدخل الصفوف الدراسية دبي تجمع قادة الابتكار في أسبوع الذكاء الاصطناعي

أعلن معالي عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي، عن أربعة أهداف سيتم تطبيقها خلال عام 2025 ضمن خطة دبي للذكاء الاصطناعي، أبرزها تحديث المناهج لتسريع تبني استخدام أدوات الذكاء الاصطناعي في التعليم، مشيراً إلى أن استثمارات الذكاء الاصطناعي في دبي خلال عام 2024 بلغت حوالي 20.6 مليار درهم.
وأشار معاليه في كلمته الافتتاحية لأسبوع وخلوة الذكاء الاصطناعي، والتي جاءت تحت عنوان «كيف ستسهم السنوات المقبلة في إعادة تشكيل إمكانات الدول؟»، إلى أنه بعد التطبيق الفعلي لاستخدامات الذكاء الاصطناعي في مواقع العمل، ستشهد الفترة المقبلة تقييم الدوائر الحكومية وتصنيفها بناءً على مستوى وجودة استخدام الذكاء الاصطناعي وتأثيراته الإيجابية وفاعليته في حياة الأفراد.
ولفت معاليه إلى ثلاثة محاور تؤطر استخدامات الذكاء الاصطناعي ومقاربته بالنسبة للحكومات، وهي السياسات والتشريعات، والابتكار، ومسّرعات التطبيق وتبنّي تطبيقاته في مختلف القطاعات. 
وقال معاليه: إن خطة دبي السنوية لتسريع استخدامات الذكاء الاصطناعي ركزت على تعيين 230 رئيساً تنفيذياً للذكاء الاصطناعي وفرق في كل جهة حكومية، وإطلاق 6 حاضنات أعمال، واستفادة 10,000 طالب من برامج التمكين.
وأشار إلى أنه تمّ إطلاق خطة متكاملة وحوافز لقطاع مراكز البيانات، نتج عنها إنشاء 17 مركز بيانات في 2024 لغاية اليوم، إضافة إلى 325 شركة ناشئة تقدّمت لشهادة اعتماد الذكاء الاصطناعي.
وأشار إلى أربعة أهداف رئيسية لخطة دبي لتسريع تبنّي استخدامات الذكاء الاصطناعي، هي تسريع تبنّي الذكاء الاصطناعي في التعليم من خلال تحديث المناهج وبناء القدرات الأكاديمية، وتقييم أداء الجهات الحكومية في دمج الذكاء الاصطناعي وفق مؤشرات واضحة للتحول الرقمي والاستباقية، وتمكين القطاعين الحكومي والخاص بالقدرات الرقمية المتقدمة لتقديم خدمات استباقية ذكية، وتحفيز الشركات على قيادة اقتصاد الذكاء الاصطناعي عبر شراكات وتشريعات داعمة ومجالات استثمار واضحة.

مقالات مشابهة

  • «الذكاء الاصطناعي» يقتحم عالم الملاعب والتحكيم
  • الوطنية لحقوق الإنسان تناقش أخلاقيات الذكاء الاصطناعي
  • الذكاء الاصطناعي ركيزة لتحول «كهرباء ومياه دبي» نحو خدمات ذكية شاملة
  • الذكاء الاصطناعي والبطالة.. هل اقتربت الروبوتات من السيطرة على سوق العمل؟
  • ميتا: إنستغرام يستخدم الذكاء الاصطناعي لمنع القُصّر من الكذب بشأن أعمارهم
  • تحديث المناهج لتسريع تبنّي الذكاء الاصطناعي في التعليم
  • الذكاء الاصطناعي يساعد المكفوفين على الحركة
  • جيني: سلاح الاحتلال الجديد في ميدان الذكاء الاصطناعي في غزة
  • DeepMind تقلب الموازين.. الذكاء الاصطناعي بحاجة لتجربة لا إلى تدريب فقط
  • نماذج OpenAI الجديدة للذكاء الاصطناعي تُخطئ و«تهلوس» عند التفكير والتحليل