اختراق خدمات الذكاء الاصطناعي مثل ChatGPT و Claude 3 Opus أسهل مما تتخيل
تاريخ النشر: 15th, April 2024 GMT
كشف بحث جديد أن اختراق حماية خدمات الذكاء الاصطناعي المتقدمة مثل ChatGPT و Claude 3 Opus أسهل مما كان يعتقد سابقًا.
وتشير هذه النتائج إلى وجود ثغرات أمنية محتملة في هذه الأنظمة، والتي يمكن استغلالها لإنتاج محتوى ضار أو مضلل.
تقنية "Many-Shot Jailbreaking"
تعتمد تقنية الاختراق المسماة "Many-Shot Jailbreaking" على تقديم سلسلة من التعليمات المتلاعبة بها بعناية إلى نموذج الذكاء الاصطناعي.
سهولة الاختراق
أظهرت الدراسة أن اختراق نماذج الذكاء الاصطناعي باستخدام تقنية "Many-Shot Jailbreaking" ممكن بنسبة نجاح عالية.
وتمكن الباحثون من اختراق نماذج مثل ChatGPT و Claude 3 Opus بسهولة، ما يثير القلق بشأن سلامة هذه الأنظمة.
التداعيات
تثير هذه النتائج مخاوف جدية بشأن إمكانية استخدام نماذج الذكاء الاصطناعي لأغراض ضارة. فمن الممكن أن يستغل المهاجمون هذه الثغرات الأمنية لنشر معلومات مضللة أو التحريض على العنف أو حتى شن هجمات إلكترونية.
الحاجة إلى إجراءات أمنية
يؤكد الباحثون على الحاجة الملحة إلى تطوير إجراءات أمنية أكثر قوة لحماية نماذج الذكاء الاصطناعي من الاختراق.
وتشمل هذه الإجراءات تحسين خوارزميات الكشف عن التلاعب بالتعليمات وتطوير طرق أفضل لفهم وتوقع سلوك النماذج.
مستقبل الذكاء الاصطناعي
على الرغم من هذه المخاوف، لا يزال الذكاء الاصطناعي يحمل إمكانات هائلة لتحسين حياتنا. ولكن من الضروري معالجة هذه الثغرات الأمنية لضمان استخدام هذه التقنية بشكل آمن ومسؤول.
المصدر: صدى البلد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
"تيك توك" تطلق أداة لإنشاء مقاطع تسويقية باستخدام الذكاء الاصطناعي
تابع أحدث الأخبار عبر تطبيق
أعلنت تيك توك، الخميس، عن طرح أداة جديدة للمسوقين على منصتها، تهدف إلى تسهيل إنشاء مقاطع تسويقية باستخدام الذكاء الاصطناعي.
ويأتي هذا الإعلان في وقت تشهد فيه صناعة الإعلان تحولًا كبيرًا نحو الاستفادة من التقنيات الحديثة، حيث تسمح الأداة التي تحمل اسم Symphony Creative Studio "سيمفوني كرييتيف ستوديو" للمعلنين بإنشاء إعلانات متطورة بفضل الذكاء الاصطناعي.
تتيح هذه الأداة للمعلنين استخدام الصور ومقاطع الفيديو المرخصة من وكالة غيتي، لتوليد رسائل تسويقية متكاملة، بما في ذلك محتوى يظهر شخصيات تشبه الأشخاص الحقيقيين، مما يفتح المجال أمام أفكار إبداعية جديدة وفعّالة في الإعلان. ورغم عدم الكشف عن التفاصيل المالية للصفقة بين تيك توك وغيتي، فإن هذه الخطوة تشير إلى تحول مهم في كيفية إنشاء المحتوى الترويجي باستخدام الذكاء الاصطناعي.
ويأتي هذا التعاون في إطار جهود تيك توك لتوسيع أدواتها الخاصة بالمعلنين وصنّاع المحتوى، وهو جزء من استراتيجية المنصة المملوكة للصين لتعزيز التفاعل بين العلامات التجارية والجماهير. في هذا السياق، قال آندي يانغ، رئيس قسم تحقيق الدخل من المنتجات الإبداعية في تيك توك: "نهدف إلى تمكين المعلنين ومساعدتهم على التواصل مع مجتمعاتهم بقوة الذكاء الاصطناعي التوليدي".
كما أن هذه الخطوة تتماشى مع توجهات أخرى لشركات الإعلان الكبرى مثل أمازون وغوغل وميتا، التي أطلقت أدوات مشابهة لتسهيل إنشاء الإعلانات باستخدام الذكاء الاصطناعي.
من جهة أخرى، أبدى البعض في مجال صناعة المحتوى تحفظاتهم حيال استخدام الذكاء الاصطناعي في التدريب على البيانات الإبداعية دون إذن أو تعويض مناسب، مما أدى إلى زيادة الدعوات القضائية في هذا المجال، مثل تلك التي رفعتها نيويورك تايمز للدفاع عن محتواها.
بذلك، تفتح تيك توك أفقًا جديدًا أمام المعلنين باستخدام تقنيات الذكاء الاصطناعي، بينما يستمر الجدل حول تأثير هذه الأدوات على صناعة المحتوى التقليدية.
الخُبجي: تكامل الإعلام والسياسة هو مفتاح دعم الجنوب