ديدان الذكاء الاصطناعي.. باحثون يبتكرون طريقة خطيرة لسرقة البيانات الحساسة
تاريخ النشر: 3rd, March 2024 GMT
ابتكر مجموعة من الباحثين دودة الذكاء الاصطناعي من الجيل الأول، والتي يمكنها سرقة البيانات ونشر البرامج الضارة، وإرسال رسائل غير مرغوب فيها للمستخدمين، وقابلة للانتشار عبر أنظمة متعددة عبر البريد الإلكتروني.
وتم تطوير هذه الدودة وتعمل بنجاح كما تم تصميمها في بيئات الاختبار باستخدام LLMs الشائعة، وبناءً على النتائج التي توصلوا إليها، نصح الباحثون مطوري GenAI، وشاركوا القلق بشأن المخاطر المحتملة التي يمكن أن تسببها مثل هذه البرامج الضارة.
وقام الفريق بمشاركة الأوراق البحثية ونشر مقطع فيديو يوضح كيفية استخدام طريقتين لسرقة البيانات والتأثير على عملاء البريد الإلكتروني الآخرين.
وابتكر دودة الذكاء الاصطناعي عدد من الباحثين من جامعة كورنيل تيك، أحد المعاهد للتكنولوجيا بـ “إسرائيل” ، وشركة إنتويت، حيث أطلقوا عليها اسم "Morris II" موريس الثانية على اسم موريس الأصلي، وهي أول دودة كمبيوتر أحدثت إزعاجًا عالميًا عبر الإنترنت في عام 1988.
تعمل هذه الدودة من خلال استهداف تطبيقات Gen AI وحتى مع مساعدي البريد الإلكتروني الذين يدعمون Gen AI والذين يقومون بإنشاء نصوص وصور ضد نماذج الذكاء الاصطناعي مثل Gemini Pro وChatGPT 4.0 وLLaVA.
وتعمل الدودة عن طريق استخدام موجه عدائي ذاتي النسخ يتم استخدامه ضد نماذجه، على غرار كيفية عمل كسر الحماية لنشر المحتوى السام باستخدام الذكاء الاصطناعي.
وقد أثبت الباحثون ذلك من خلال إنشاء نظام بريد إلكتروني باستخدام محركات الذكاء الاصطناعي التوليدية واستخدام موجه ذاتي التكرار باستخدام نص أو مضمن في ملف صورة.
وأبلغ فريق الباحثين نتائجهم إلى شركات مثل جوجل وOpenAI، وتواصلت مجلة “Wired” الأمريكية مع جوجل، والتي رفضت التعليق على البحث.
وأجاب المتحدث باسم OpenAI بأنه "يبدو أن الباحثين وجدوا طريقة لاستغلال الثغرات الأمنية من نوع الحقن الفوري من خلال الاعتماد على مدخلات المستخدم التي لم يتم فحصها أو تصفيتها".
وأكد أيضًا أنها تجعل أنظمتها أكثر مرونة وأضاف أنه يجب على المطورين استخدام أساليب تضمن عدم تعاملهم مع مدخلات ضارة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي سرقة البيانات الذکاء الاصطناعی
إقرأ أيضاً:
طريقة مذهلة لتقليل تأثير «الهواتف المحمولة» على صحة الدماغ
في ظل الانتشار الواسع للهواتف الذكية والاتصال الدائم بالإنترنت، يزداد الاهتمام بدراسة تأثير هذا التفاعل المستمر على الصحة العقلية والأداء الذهني.
وبهذا الصدد، نشرت دراسة في مجلة” PNAS Nexus”، نقلتها صحيفة “ديلي ميل”، حيث “أجرى فريق من الباحثين من جامعة كولومبيا البريطانية تجربة علمية لاستكشاف كيفية تأثير تقليل استخدام الإنترنت عبر الهواتف المحمولة على الدماغ والسلوك اليومي، ما قد يوفر رؤى جديدة حول العلاقة بين التكنولوجيا الحديثة والوظائف الإدراكية للإنسان”.
وبحسب الصحيفة، “شملت التجربة 400 شخص من الطلاب والبالغين العاملين، طُلب منهم تنزيل تطبيق يمنع الاتصال بالإنترنت على هواتفهم مع استمرار إمكانية إجراء المكالمات وإرسال الرسائل النصية. وخضع المشاركون لاختبارات واستبيانات قبل التجربة وبعدها لقياس وظائف الدماغ والصحة النفسية”.
وكشفت الدراسة أن “إيقاف الاتصال بالإنترنت على الهواتف الذكية لمدة أسبوعين يمكن أن يعكس شيخوخة الدماغ ويحسن التركيز والصحة العقلية بشكل ملحوظ”.
وأظهرت النتائج أن “قدرة المشاركين على التركيز تحسنت لدرجة تعادل مدى انتباه شخص أصغر بعشر سنوات، كما أفاد 90% منهم بتحسن في صحتهم النفسية، بمعدل يفوق تأثير تناول مضادات الاكتئاب خلال الفترة نفسها”.
وخلال فترة الدراسة، “انخفض متوسط وقت استخدام الهاتف لدى إحدى المجموعات من 5 ساعات و14 دقيقة يوميا إلى ساعتين و41 دقيقة فقط، أي بمقدار النصف تقريبا”، وأدى ذلك إلى “زيادة التفاعل الاجتماعي وممارسة الرياضة وقضاء وقت أطول في الطبيعة، ما انعكس إيجابيا على جودة حياتهم”.
وأوضح الباحثون أن “هذا التحسن قد يكون ناتجا عن تغيير نمط الحياة، حيث قلّ الاعتماد على الإنترنت وزاد التفاعل المباشر”.
وأكدوا أن “الاتصال المستمر بالعالم الرقمي قد يكون له “ثمن”، إذ يؤدي إلى تراجع الأداء الذهني والصحة العقلية، في حين أن تقليل هذا الاتصال يعزز الرفاهية النفسية”.
ويخطط الباحثون لدراسة “تأثير تقليل استخدام تطبيقات معينة فقط، مثل مواقع التواصل الاجتماعي، بدلا من حجب الإنترنت بالكامل، كما يسعون لمعرفة ما إذا كان تقليل استخدام الأجهزة الأخرى المتصلة بالإنترنت، مثل الحواسيب المحمولة والأجهزة اللوحية، يمكن أن يؤدي إلى نتائج مشابهة”.
ووفق “ديلي ميل” فقد “تم تمويل الدراسة من قبل “مؤسسة مجتمع وادي السيليكون”، والتي تعد من أكبر المؤسسات الخيرية في وادي السيليكون، وتلقى دعما كبيرا من “فيسبوك”، حيث تبرع بمبلغ 1.95 مليار دولار عام 2010، و200 مليون دولار أخرى عام 2018”.
"الصحة الفلسطينية": الاحتلال يواصل ارتكاب المجازر بحق شعبنا في غزة