ديدان الذكاء الاصطناعي.. باحثون يبتكرون طريقة خطيرة لسرقة البيانات الحساسة
تاريخ النشر: 3rd, March 2024 GMT
ابتكر مجموعة من الباحثين دودة الذكاء الاصطناعي من الجيل الأول، والتي يمكنها سرقة البيانات ونشر البرامج الضارة، وإرسال رسائل غير مرغوب فيها للمستخدمين، وقابلة للانتشار عبر أنظمة متعددة عبر البريد الإلكتروني.
وتم تطوير هذه الدودة وتعمل بنجاح كما تم تصميمها في بيئات الاختبار باستخدام LLMs الشائعة، وبناءً على النتائج التي توصلوا إليها، نصح الباحثون مطوري GenAI، وشاركوا القلق بشأن المخاطر المحتملة التي يمكن أن تسببها مثل هذه البرامج الضارة.
وقام الفريق بمشاركة الأوراق البحثية ونشر مقطع فيديو يوضح كيفية استخدام طريقتين لسرقة البيانات والتأثير على عملاء البريد الإلكتروني الآخرين.
وابتكر دودة الذكاء الاصطناعي عدد من الباحثين من جامعة كورنيل تيك، أحد المعاهد للتكنولوجيا بـ “إسرائيل” ، وشركة إنتويت، حيث أطلقوا عليها اسم "Morris II" موريس الثانية على اسم موريس الأصلي، وهي أول دودة كمبيوتر أحدثت إزعاجًا عالميًا عبر الإنترنت في عام 1988.
تعمل هذه الدودة من خلال استهداف تطبيقات Gen AI وحتى مع مساعدي البريد الإلكتروني الذين يدعمون Gen AI والذين يقومون بإنشاء نصوص وصور ضد نماذج الذكاء الاصطناعي مثل Gemini Pro وChatGPT 4.0 وLLaVA.
وتعمل الدودة عن طريق استخدام موجه عدائي ذاتي النسخ يتم استخدامه ضد نماذجه، على غرار كيفية عمل كسر الحماية لنشر المحتوى السام باستخدام الذكاء الاصطناعي.
وقد أثبت الباحثون ذلك من خلال إنشاء نظام بريد إلكتروني باستخدام محركات الذكاء الاصطناعي التوليدية واستخدام موجه ذاتي التكرار باستخدام نص أو مضمن في ملف صورة.
وأبلغ فريق الباحثين نتائجهم إلى شركات مثل جوجل وOpenAI، وتواصلت مجلة “Wired” الأمريكية مع جوجل، والتي رفضت التعليق على البحث.
وأجاب المتحدث باسم OpenAI بأنه "يبدو أن الباحثين وجدوا طريقة لاستغلال الثغرات الأمنية من نوع الحقن الفوري من خلال الاعتماد على مدخلات المستخدم التي لم يتم فحصها أو تصفيتها".
وأكد أيضًا أنها تجعل أنظمتها أكثر مرونة وأضاف أنه يجب على المطورين استخدام أساليب تضمن عدم تعاملهم مع مدخلات ضارة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي سرقة البيانات الذکاء الاصطناعی
إقرأ أيضاً:
جديد الذكاء الاصطناعي.. يمكنه اكتشاف المشاعر!
بدأ الذكاء الاصطناعي في التغلغل في العديد من جوانب التجربة الإنسانية، وهو ليس مجرد أداة لتحليل البيانات، إنه يحول الطريقة التي نتواصل بها ونعمل ونعيش بها، من ChatGP إلى مولدات الفيديو بالذكاء الاصطناعي، أصبحت الخطوط الفاصلة بين التكنولوجيا وأجزاء من حياتنا غير واضحة بشكل متزايد، ولكن هل تعني هذه التطورات التكنولوجية أن الذكاء الاصطناعي يمكنه تحديد مشاعرنا عبر الإنترنت؟.
في بحث جديد، قام موقع "ذا كونفيرسيشن"، بفحص ما إذا كان الذكاء الاصطناعي قادرًا على اكتشاف المشاعر البشرية في المنشورات على X .
وركز البحث على كيفية تأثير المشاعر المعبر عنها في المنشورات حول بعض المنظمات غير الربحية على الإجراءات، مثل قرار التبرع لها في وقت لاحق، استخدام المشاعر لدفع الاستجابة تقليديًا، واعتمد الباحثون على تحليل المشاعر، الذي يصنف الرسائل على أنها إيجابية أو سلبية أو محايدة.
وفي حين أن هذه الطريقة بسيطة وبديهية، إلا أنها محدودة، فالمشاعر البشرية أكثر دقة، وعلى سبيل المثال، الغضب وخيبة الأمل كلاهما مشاعر سلبية، لكنهما يمكن أن يثيرا ردود فعل مختلفة جدًا، وقد يتفاعل العملاء الغاضبون بقوة أكبر بكثير من العملاء المحبطين في سياق الأعمال.
سلوك الناس
ولمعالجة هذه القيود، طبق البحث نموذجًا للذكاء الاصطناعي يمكنه اكتشاف مشاعر معينة - مثل الفرح والغضب والحزن والاشمئزاز - المعبر عنها في التغريدات.
وجد البحث أن المشاعر المعبر عنها على X يمكن أن تكون بمثابة تمثيل للمشاعر العامة للجمهور حول منظمات غير ربحية محددة.
وكان لهذه المشاعر تأثير مباشر على سلوك التبرع.
واكتشاف المشاعر استخدم البحث نموذج "تعلم نقل المحول" لاكتشاف المشاعر في النص، فالمحولات، المدربة مسبقًا على مجموعات بيانات ضخمة من قبل شركات مثل Google وFacebook، هي خوارزميات ذكاء اصطناعي متطورة للغاية تتفوق في فهم اللغة الطبيعية (اللغات التي تطورت بشكل طبيعي على عكس لغات الكمبيوتر أو الكود).
وقام البحث بضبط النموذج على مجموعة من أربع مجموعات بيانات للعواطف المبلغ عنها ذاتياً (أكثر من 3.6 مليون جملة) وسبع مجموعات بيانات أخرى (أكثر من 60000 جملة)، وسمح هذا برسم خريطة لمجموعة واسعة من المشاعر المعبر عنها عبر الإنترنت.
وعلى سبيل المثال، سيكتشف النموذج الفرح باعتباره العاطفة السائدة عند قراءة منشور X مثل، إن بدء صباحنا في المدارس هو الأفضل! كل الابتسامات لأطفال، وعلى العكس من ذلك، سيلتقط النموذج الحزن في تغريدة تقول، أشعر أنني فقدت جزءًا من نفسي، لقد فقدت أمي منذ أكثر من شهر، وأبي منذ 13 عامًا، أنا ضائع وخائف.
وحقق النموذج دقة مذهلة بنسبة 84٪ في اكتشاف المشاعر من النص، وهو إنجاز جدير بالملاحظة في مجال الذكاء الاصطناعي، ثم نظر البحث إلى تغريدات حول منظمتين مقرهما نيوزيلندا - مؤسسة فريد هولوز وجامعة أوكلاند. لقد وجد أن التغريدات التي تعبر عن الحزن كانت أكثر عرضة لدفع التبرعات لمؤسسة فريد هولوز، في حين ارتبط الغضب بزيادة التبرعات لجامعة أوكلاند.
ومفهوم تكنولوجيا التعلم الآلي ChatBot الرقمية تمكن النموذج الجديد من تحديد المشاعر المختلفة المعبر عنها في منشورات. عدة.
الأسئلة الأخلاقية
إن تحديد المشاعر المحددة له آثار كبيرة على قطاعات مثل التسويق والتعليم والرعاية الصحية، والقدرة على تحديد الاستجابات العاطفية للأشخاص في سياقات محددة عبر الإنترنت يمكن أن تدعم صناع القرار في الاستجابة لعملائهم الفرديين أو سوقهم الأوسع، وتتطلب كل عاطفة محددة يتم التعبير عنها في منشورات وسائل التواصل الاجتماعي عبر الإنترنت رد فعل مختلف من الشركة أو المنظمة.
وأظهر البحث أن المشاعر المختلفة تؤدي إلى نتائج مختلفة عندما يتعلق الأمر بالتبرعات.
إن معرفة الحزن في الرسائل التسويقية يمكن أن تزيد من التبرعات للمنظمات غير الربحية تسمح بحملات أكثر فعالية وعاطفية، ويمكن للغضب أن يحفز الناس على التصرف استجابة للظلم المتصور، وفي حين يتفوق نموذج التعلم عن طريق نقل المحول في اكتشاف المشاعر في النص، فإن الاختراق الكبير القادم سيأتي من دمجه مع مصادر بيانات أخرى، مثل نبرة الصوت أو تعبيرات الوجه، لإنشاء ملف تعريف عاطفي أكثر اكتمالاً.
تخيل الذكاء الاصطناعي الذي لا يفهم فقط ما تكتبه ولكن أيضًا كيف تشعر، و من الواضح أن مثل هذه التطورات تأتي مع تحديات أخلاقية، فإذا كان الذكاء الاصطناعي قادرًا على قراءة مشاعرنا، فكيف نضمن استخدام هذه القدرة بشكل مسؤول؟ كيف نحمي الخصوصية؟ هذه أسئلة حاسمة يجب معالجتها مع استمرار تطور التكنولوجيا، وفق البحث.
وما نحتاج إلى معرفته لفهم كيفية تعلم الآلات الذكاء الاصطناعي يحمل جانبًا إيجابيًا كبيرًا، ولكن الأضرار المحتملة يجب إدارتها، حيث الذكاء الاصطناعي يغذي أزمات عدة، وما وراء ذلك، وكيفية إصلاحه مسألة بالغة الأهمية.
روسيا تعلّق على احتمالات الصراع المسلح مع أمريكا