ديدان الذكاء الاصطناعي.. باحثون يبتكرون طريقة خطيرة لسرقة البيانات الحساسة
تاريخ النشر: 3rd, March 2024 GMT
ابتكر مجموعة من الباحثين دودة الذكاء الاصطناعي من الجيل الأول، والتي يمكنها سرقة البيانات ونشر البرامج الضارة، وإرسال رسائل غير مرغوب فيها للمستخدمين، وقابلة للانتشار عبر أنظمة متعددة عبر البريد الإلكتروني.
وتم تطوير هذه الدودة وتعمل بنجاح كما تم تصميمها في بيئات الاختبار باستخدام LLMs الشائعة، وبناءً على النتائج التي توصلوا إليها، نصح الباحثون مطوري GenAI، وشاركوا القلق بشأن المخاطر المحتملة التي يمكن أن تسببها مثل هذه البرامج الضارة.
وقام الفريق بمشاركة الأوراق البحثية ونشر مقطع فيديو يوضح كيفية استخدام طريقتين لسرقة البيانات والتأثير على عملاء البريد الإلكتروني الآخرين.
وابتكر دودة الذكاء الاصطناعي عدد من الباحثين من جامعة كورنيل تيك، أحد المعاهد للتكنولوجيا بـ “إسرائيل” ، وشركة إنتويت، حيث أطلقوا عليها اسم "Morris II" موريس الثانية على اسم موريس الأصلي، وهي أول دودة كمبيوتر أحدثت إزعاجًا عالميًا عبر الإنترنت في عام 1988.
تعمل هذه الدودة من خلال استهداف تطبيقات Gen AI وحتى مع مساعدي البريد الإلكتروني الذين يدعمون Gen AI والذين يقومون بإنشاء نصوص وصور ضد نماذج الذكاء الاصطناعي مثل Gemini Pro وChatGPT 4.0 وLLaVA.
وتعمل الدودة عن طريق استخدام موجه عدائي ذاتي النسخ يتم استخدامه ضد نماذجه، على غرار كيفية عمل كسر الحماية لنشر المحتوى السام باستخدام الذكاء الاصطناعي.
وقد أثبت الباحثون ذلك من خلال إنشاء نظام بريد إلكتروني باستخدام محركات الذكاء الاصطناعي التوليدية واستخدام موجه ذاتي التكرار باستخدام نص أو مضمن في ملف صورة.
وأبلغ فريق الباحثين نتائجهم إلى شركات مثل جوجل وOpenAI، وتواصلت مجلة “Wired” الأمريكية مع جوجل، والتي رفضت التعليق على البحث.
وأجاب المتحدث باسم OpenAI بأنه "يبدو أن الباحثين وجدوا طريقة لاستغلال الثغرات الأمنية من نوع الحقن الفوري من خلال الاعتماد على مدخلات المستخدم التي لم يتم فحصها أو تصفيتها".
وأكد أيضًا أنها تجعل أنظمتها أكثر مرونة وأضاف أنه يجب على المطورين استخدام أساليب تضمن عدم تعاملهم مع مدخلات ضارة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي سرقة البيانات الذکاء الاصطناعی
إقرأ أيضاً:
معلومات الوزراء: استثمار مليارات الدولارات في الذكاء الاصطناعي خلال عام 2025
سلط مركز المعلومات ودعم اتخاذ القرار بمجلس الوزراء، الضوء على التقرير الصادر عن وكالة «موديز» للتصنيف الائتماني بعنوان «توقعات عام 2025 - الانتقال إلى وضع طبيعي جديد في ظل بيئة هشة ومتغيرة»، حيث أشار إلى أن معدلات النمو في الاقتصادات الكبرى عادت إلى طبيعتها، وبدأت أسعار الفائدة في الانخفاض، ومع ذلك، من غير المستبعد حدوث اضطرابات في عام 2025، نتيجة لعدد من العوامل الجيوسياسية.
أشار التقرير، إلى أنه بعد سلسلة من الصدمات الكبرى في السنوات الأخيرة، بدأ نمو الاقتصاد العالمي يعود إلى طبيعته مع تلاشي تلك الصدمات. ومع بلوغ معدل التضخم في أغلب الأسواق مستوياته المستهدفة من قِبَل البنوك المركزية أو اقترابه منها، يستعد العالم للدخول في دورة من التيسير النقدي، وهو ما من شأنه أن يقلل من حالة عدم اليقين ويساعد في احتواء تقلبات الأسواق المالية.
أوضح التقرير، أن انخفاض التضخم من شأنه أن يخفف الضغوط لرفع الأجور، كما سيستفيد المستهلكون من انخفاض تكاليف الرهن العقاري بالإضافة إلى القروض الأكثر تكلفة والتي يمكن أن تفيد قطاعي التجزئة والسلع المعمرة.
نتائج حدوث انتعاش اقتصادي في 2025ولفت التقرير، إلى أنه إذا ما انتعش النمو الاقتصادي في العام المقبل، فسيتيح ذلك لحكومات الدول فرصة أكبر لتحقيق الاستقرار أو خفض الديون. ومن الممكن أيضًا أن تدعم دورة التيسير النقدي انتعاشًا في تدفقات رأس المال إلى الأسواق الناشئة.
وذكر التقرير، أن هناك قدرا كبيرا من عدم اليقين بشأن ما قد يبدو عليه الوضع «الطبيعي» الآن بالنسبة للاقتصاد العالمي، حيث توقع أن يكون النمو الاقتصادي أقل في العديد من البلدان مما قد تشير إليه متوسطات النمو المتوقعة. ويعكس هذا عوامل هيكلية مثل ضعف الاستثمار، ومستويات الديون المرتفعة، وشيخوخة السكان، وضعف نمو الإنتاجية، والقيود المؤسسية في بعض البلدان، وخاصةً بعض الأسواق الناشئة الكبرى.
وتطرق التقرير إلى التوترات الجيوسياسية ودورها في التأثير على الاقتصاد العالمي، حيث أشار إلى أن الجغرافيا السياسية برزت باعتبارها التهديد الرئيس لظروف الائتمان العالمية. وطبقًا للتقرير، فإن الحكومات والشركات تعمل بالفعل على بناء القدرة على الصمود في مواجهة حالة عدم اليقين المرتبطة بذلك من خلال تنويع سلاسل التوريد، ولكن الطبيعة غير المتوقعة للتطورات الجيوسياسية من شأنها أن تؤدي إلى المزيد من الصدمات التي يتعين على كل من الحكومات وشركات الأعمال الاستجابة لها.
تدهور العلاقات الاقتصادية بين الولايات المتحدة الأمريكية والصينوأشار التقرير إلى تدهور العلاقات الاقتصادية بين الولايات المتحدة الأمريكية والصين منذ أن رفع الرئيس المنتخب حالياً «دونالد ترامب» التعريفات الجمركية والحواجز التجارية ضد الصين خلال فترة ولايته الأولى في عام 2019، وحتى الآن، كان التأثير على التجارة العالمية ضئيلًا، ومع هذا، فإن التعريفات الجمركية الجديدة التي اقترحها الرئيس المنتخب «ترامب» ستكون أكثر إرباكًا وذلك اعتمادًا على كيفية تنفيذها. وفي هذا الصدد، يتوقع التقرير أن تعمل التعريفات الجمركية الشاملة في حال فرضها على خفض نمو اقتصاد الصين بنسبة تتراوح بين 0.9% و2.5% في السنة الأولى من تنفيذها.
وبالإضافة إلى التعريفات الجمركية، يتوقع التقرير فرض قيود استثمارية وقيود تتعلق بقواعد منشأ أكثر صرامة تتجاوز تلك المعمول بها بالفعل. وقد يؤثر هذا على المناطق والقطاعات التي تربطها روابط تجارية قوية بالصين مثل أمريكا اللاتينية ومنطقة آسيا والمحيط الهادئ.
وبالنسبة لتايوان، قد يؤدي ذلك إلى تسريع الجهود الجارية التي تبذلها الاقتصادات الكبرى لتنويع إنتاج الرقائق، مما يهدد قدرتها التنافسية الاقتصادية على المدى الطويل. وبالنسبة لآسيا بشكل عام، قد تؤدي هذه التوترات التجارية إلى تفاقم الانقسامات الجيوسياسية، وخاصةً في مضيق تايوان وبحر الصين الجنوبي.
ومن المتوقع أن يتضاعف حجم الاضطراب في التجارة العالمية إذا اختار الرئيس المنتخب «ترامب» فرض رسوم جمركية على مجموعة أوسع من البلدان أو إعادة التفاوض على اتفاقيات تجارية قائمة. ومن الممكن في هذا السيناريو أن تستفيد الشركات الأمريكية في القطاعات الاستراتيجية من الحوافز لبناء قدرات تصنيع جديدة محليًّا.
وأكد التقرير، أن الحروب التجارية عادة ما تتسبب في خسارة للجميع، وخاصةً للاقتصادات التي تشكل التجارة نسبة كبيرة من حجم اقتصادها. كما تمثل تحديًّا أمام الشركات المتصلة بسلاسل التوريد العالمية، والشركات التي لديها موردون من مصدر واحد، حيث تكون أكثر عرضة للخطر حتى تنوع مصادرها، مضيفاً أن هناك تأثيرات أخرى، حيث تؤدي التوترات إلى اختلاف معايير المنتجات عبر المناطق، مما يزيد من التكاليف بالنسبة للمصدرين ويحدّ من تبادل المعلومات الذي يعد أمرًا حاسمًا للتصنيع عالي التقنية. ونظرًا لأن الصين تعد دولة رائدة في معالجة واستخراج المواد الخام الأساسية للتكنولوجيا الخضراء، فإن هذه التوترات قد تؤدي إلى إبطاء سلسلة التوريد الخضراء العالمية، مما يؤخر الانتقال إلى تقنيات خضراء جديدة.
ووفقًا للتقرير، فقد تبلورت المخاطر الجيوسياسية في شكل صراع مستمر ومباشر في الشرق الأوسط، وفي حين أن الجهود الدبلوماسية والردع العسكري والتكلفة العالية تجعل الصراع الشامل في الشرق الأوسط أقل احتمالًا، فإن كل تبادل لإطلاق النار -يزيد من خطر اندلاع صراع بين إيران وإسرائيل- يجر الولايات المتحدة الأمريكية وحلفاء آخرين.
دور الرقمنة في الاقتصاد العالميأشار معلومات الوزراء، إلى أن التقرير قد حذر في هذا الصدد من أن التأثيرات الائتمانية لهذا الأمر ستكون كبيرة بالنسبة لبعض الحكومات في الشرق الأوسط، موضحًا أنه إذا تعطلت حركة الشحن عبر مضيق هرمز أو هاجمت إيران دولاً أخرى في منطقة الخليج، فسيكون لذلك تأثيرات عالمية ستنعكس في ارتفاع أسعار الطاقة، وتعطل سلاسل التوريد، وتقلبات الأسواق المالية، وضعف المعنويات الاقتصادية والمالية. ومع ذلك، حتى في هذا السيناريو، قد تظل هذه التأثيرات العالمية أصغر من صدمة التضخم بعد جائحة «كوفيد-19». وبشكل عام، أوضح التقرير أن الأحداث الجيوسياسية سوف تستمر في التأثير على الائتمان في عام 2025.
تناول التقرير دور الرقمنة في الاقتصاد العالمي، حيث أكد أن التقنيات الجديدة باتت لها تأثيرات فعالة على الشركات والمؤسسات، حيث تعمل تقنيات الذكاء الاصطناعي على تحسين إنتاجية العاملين، وأن الشركات سوف تستمر في استثمار مليارات الدولارات عام 2025 في سعيها إلى إيجاد حلول تضمن لها ميزتها التنافسية، وخاصةً في مجال الذكاء الاصطناعي، ومع ذلك، فالأرباح تظل بعيدة المنال وقد ينتهي الأمر ببعض الشركات إلى استخدام الموارد النادرة التي كان من الممكن أن تعزز الميزانيات العمومية أو مراكز السيولة دون استرداد أي فوائد كبيرة.
بالإضافة إلى ذلك، ستحتاج الشركات والحكومات إلى التعامل مع عدد لا يحصى من المخاطر المرتبطة بالذكاء الاصطناعي، ومن المرجح أن تصب المعادلة بين المخاطر والمكافآت في صالح الشركات الكبرى والبنوك نظرًا لمواردها المالية الأكبر وقدرتها على اجتذاب المواهب.
أشار التقرير إلى التحولات العالمية المتوقعة وخاصةً في مجال العمل المناخي، حيث لفت إلى أن فوز الرئيس «ترامب» في الانتخابات الأمريكية لعام 2024 سوف يغير اتجاه سياسة المناخ الأمريكية، مما يزيد من المخاطر على الاستثمار الأخضر، ويبطئ وتيرة انتقال الكربون في الولايات المتحدة الأمريكية وربما يضعف الزخم في العمل المناخي العالمي.
وفي هذا الصدد، توقع التقرير أن يؤدي ذلك إلى انخفاض التمويل للطاقة النظيفة والتقنيات الخضراء، وتخفيف القيود التنظيمية البيئية، ودعم متجدد لصناعة الوقود الأحفوري في الولايات المتحدة الأمريكية. ومن المحتمل أيضًا أن تنسحب إدارة « ترامب» من اتفاقية باريس للمناخ مرة أخرى.
أكد التقرير في ختامه أن الشركات والحكومات ستحتاج إلى التكيف مع تحديات أخرى مثل شيخوخة السكان، التي تتسارع في أجزاء من آسيا وأوروبا وأمريكا الشمالية، الأمر الذي يحد من قدرة البلدان على الإنتاج والنمو. وعلى النقيض من ذلك، أوضح التقرير أن هناك أجزاء أخرى من العالم مثل إفريقيا جنوب الصحراء وجنوب آسيا، من المقرر أن تجني عائدًا ديموغرافيًّا، ولكن في ظل عدم وجود اقتصاد قوي قادر على توفير فرص العمل، فإن زيادة عدد الأشخاص في سن العمل قد يؤدي إلى البطالة وعدم الاستقرار الاجتماعي.
اقرأ أيضاًانطلاق فعاليات المؤتمر العلمي السنوي لمركز المعلومات ودعم اتخاذ القرار بجامعة القاهرة
رئيس جامعة طنطا يُشارك في فعاليات المؤتمر السنوي لمركز المعلومات ودعم اتخاذ القرار بمجلس الوزراء
رئيس الوزراء يتفقد جناح «مركز المعلومات ودعم اتخاذ القرار» بمعرض القاهرة الدولي للكتاب
بأرقام الشاسيه.. حماية المستهلك: وقف التعامل على هذه السيارات الجديدة