ديدان الذكاء الاصطناعي.. باحثون يبتكرون طريقة خطيرة لسرقة البيانات الحساسة
تاريخ النشر: 3rd, March 2024 GMT
ابتكر مجموعة من الباحثين دودة الذكاء الاصطناعي من الجيل الأول، والتي يمكنها سرقة البيانات ونشر البرامج الضارة، وإرسال رسائل غير مرغوب فيها للمستخدمين، وقابلة للانتشار عبر أنظمة متعددة عبر البريد الإلكتروني.
وتم تطوير هذه الدودة وتعمل بنجاح كما تم تصميمها في بيئات الاختبار باستخدام LLMs الشائعة، وبناءً على النتائج التي توصلوا إليها، نصح الباحثون مطوري GenAI، وشاركوا القلق بشأن المخاطر المحتملة التي يمكن أن تسببها مثل هذه البرامج الضارة.
وقام الفريق بمشاركة الأوراق البحثية ونشر مقطع فيديو يوضح كيفية استخدام طريقتين لسرقة البيانات والتأثير على عملاء البريد الإلكتروني الآخرين.
وابتكر دودة الذكاء الاصطناعي عدد من الباحثين من جامعة كورنيل تيك، أحد المعاهد للتكنولوجيا بـ “إسرائيل” ، وشركة إنتويت، حيث أطلقوا عليها اسم "Morris II" موريس الثانية على اسم موريس الأصلي، وهي أول دودة كمبيوتر أحدثت إزعاجًا عالميًا عبر الإنترنت في عام 1988.
تعمل هذه الدودة من خلال استهداف تطبيقات Gen AI وحتى مع مساعدي البريد الإلكتروني الذين يدعمون Gen AI والذين يقومون بإنشاء نصوص وصور ضد نماذج الذكاء الاصطناعي مثل Gemini Pro وChatGPT 4.0 وLLaVA.
وتعمل الدودة عن طريق استخدام موجه عدائي ذاتي النسخ يتم استخدامه ضد نماذجه، على غرار كيفية عمل كسر الحماية لنشر المحتوى السام باستخدام الذكاء الاصطناعي.
وقد أثبت الباحثون ذلك من خلال إنشاء نظام بريد إلكتروني باستخدام محركات الذكاء الاصطناعي التوليدية واستخدام موجه ذاتي التكرار باستخدام نص أو مضمن في ملف صورة.
وأبلغ فريق الباحثين نتائجهم إلى شركات مثل جوجل وOpenAI، وتواصلت مجلة “Wired” الأمريكية مع جوجل، والتي رفضت التعليق على البحث.
وأجاب المتحدث باسم OpenAI بأنه "يبدو أن الباحثين وجدوا طريقة لاستغلال الثغرات الأمنية من نوع الحقن الفوري من خلال الاعتماد على مدخلات المستخدم التي لم يتم فحصها أو تصفيتها".
وأكد أيضًا أنها تجعل أنظمتها أكثر مرونة وأضاف أنه يجب على المطورين استخدام أساليب تضمن عدم تعاملهم مع مدخلات ضارة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي سرقة البيانات الذکاء الاصطناعی
إقرأ أيضاً:
بحضور نهيان بن مبارك.. “بولينوم” و “أبوظبي للإدارة” تطلقان أكاديمية الذكاء الاصطناعي
أطلقت مجموعة بولينوم، بالتعاون مع كلية أبوظبي للإدارة، أكاديمية الذكاء الاصطناعي، وهي مبادرة تعليمية تركز على الذكاء الاصطناعي، وتهدف إلى تطوير جيل جديد من قادة الذكاء الاصطناعي من خلال دمج الأبحاث المتقدمة مع رؤى واقعية من الصناعة، مما يعزز مكانة منطقة الشرق الأوسط في مجال الابتكار العالمي في الذكاء الاصطناعي.
وتم توقيع اتفاقية الشراكة الإستراتيجية رسميًا، بحضور معالي الشيخ نهيان بن مبارك آل نهيان وزير التسامح والتعايش، وذلك خلال القمة المهنية السنوية للذكاء الاصطناعي “قمة الآلات يمكنها أن ترى”.
وتقدم أكاديمية الذكاء الاصطناعي، سلسلة من البرامج القصيرة المصممة خصيصًا للمديرين التنفيذيين، وكبار المسؤولين الحكوميين، والمتخصصين الفنيين، والتي ستتناول المفاهيم الأساسية للذكاء الاصطناعي، والإستراتيجيات الوطنية المتعلقة به، وأدوات الذكاء الاصطناعي التوليدية، بالإضافة إلى التطبيقات على المستوى التنفيذي التي تسهل على القادة الوصول إلى مختلف القطاعات، وستكون هذه العروض القصيرة متاحة بعدة لغات، وستشكل أساسا لجهود بناء قدرات أوسع في مجال الذكاء الاصطناعي.
وبعد الطرح الأولي، تطلق الأكاديمية برنامج المدير التنفيذي للذكاء الاصطناعي (CAIO)، وهو برنامج قيادي رائد يمتد من 3-4 أشهر، مصمم لتمكين جيل جديد من صانعي القرار في مجال الذكاء الاصطناعي، ويتألف من 8 وحدات متقدمة، ويقدم للمشاركين أساسًا شاملاً في إستراتيجيات الذكاء الاصطناعي، والحوكمة، وانتشاره في مجالات متعددة مثل التمويل، والرعاية الصحية، والإدارة العامة.
ويحضر المشاركون ندوات حصرية يديرها كبار العلماء والقادة العالميون في هذه الصناعة، مما يتيح لهم الاطلاع المباشر على أحدث الأبحاث والابتكارات في مجالات مثل الرؤية الحاسوبية، ونماذج اللغة الكبيرة، والذكاء الاصطناعي السيادي، وأخلاقيات الذكاء الاصطناعي، وستعزز هذه الجلسات الحوار المثمر، وتقدم رؤى عملية وإستراتيجية لأولئك الذين يسهمون في تشكيل مستقبل الذكاء الاصطناعي في المنطقة.
وفي إطار التزامها المستمر بتعزيز التعليم العملي في مجال الذكاء الاصطناعي، أعلنت مجموعة بولونيوم تعاونها مع شركة NVIDIA، بهدف دعم رؤية الأكاديمية من خلال دمج خبرات وتقنيات NVIDIA في برامج مختارة، مما يسهم في تحقيق المهمة المشتركة في تسريع جاهزية الذكاء الاصطناعي وتطبيقه في العالم الواقعي عبر المنطقة.
وأكد ألكسندر خانين مؤسس مجموعة بولينوم، التزم المجموعة بسد الفجوة بين الاكتشافات العلمية والتطبيقات التجارية للذكاء الاصطناعي، مشيرا إلى أنه من خلال التعاون مع كلية أبوظبي للإدارة وشركة NVIDIA، فإن المجموعة على استعداد لتقديم تجربة تعليمية فريدة تعزز الابتكار والقيادة التقنية المسؤولة.
من جهته أكد الدكتور طيب كمالي، رئيس مجلس إدارة كلية أبوظبي للإدارة أن إطلاق أكاديمية الذكاء الاصطناعي، التي تركز على تزويد القادة في المنطقة بالأدوات والرؤى اللازمة للاستفادة من الإمكانات التحويلية للذكاء الاصطناعي، تعكس الالتزام المستمر بالابتكار في مجال تعليم الإدارة، ووضع دولة الإمارات مركزا عالميا للقيادة في مجال الذكاء الاصطناعي في قطاع الأعمال.
وأوضح أن الهدف من هذه الشراكة، هو تمكين الجيل القادم من صانعي التغيير ليقوموا بقيادة التوجهات المستقبلية في عالم يتزايد فيه الاعتماد على التكنولوجيا والبيانات.
وتعمل أكاديمية الذكاء الاصطناعي كمحفز لمشاريع البحث التعاوني، وفرص الشبكات، واحتضان الشركات الناشئة.
ويؤكد هذا البرنامج رؤية مجموعة بولينوم الأوسع الهادفة إلى تعزيز تقدم الذكاء الاصطناعي الأخلاقي، وتمكين رواد الأعمال، وتحفيز النمو المستدام في الصناعات المعتمدة على الذكاء الاصطناعي داخل دولة الإمارات وخارجها.وام
عضو بالعمل الفلسطيني: العالم يشاهد مجازر الإحتلال بقطاع غزة في صمت