مفاجأة صادمة.. الذكاء الاصطناعي يمكنه سرقة كلمات المرور بدقة تقارب 100٪
تاريخ النشر: 9th, August 2023 GMT
اكتشف باحثون في جامعة كورنيل الأمريكية أنه يمكن لأدوات الذكاء الاصطناعي سرقة بيانات المستخدمين، وسرقة كلمات المرور الخاصة بحساباتهم بدقة تصل إلى 95٪ من خلال الاستماع إلى ما يتم كتابته على لوحة المفاتيح.
وحقق الباحثون التجربة من خلال تدريب نموذج ذكاء اصطناعي على صوت ضغطات المفاتيح ونشره على هاتف قريب، واستمع الميكروفون المدمج إلى ضغطات المفاتيح على MacBook Pro وكان قادرًا على إعادة إنتاجها بدقة 95٪، وهي أعلى دقة شاهدها الباحثون دون استخدام نموذج لغة كبير.
واختبر الفريق أيضًا الدقة أثناء مكالمة Zoom ، حيث تم تسجيل ضغطات المفاتيح باستخدام ميكروفون جهاز لاب توب أثناء الاجتماع، وفي هذا الاختبار ، كان الذكاء الاصطناعي دقيقًا بنسبة 93٪ في استنساخ ضغطات المفاتيح في التطبيق، كما تم إجراء نفس العملية على تطبيق Skype ، وكان النموذج دقيقًا بنسبة 91.7٪.
وتم تدريب نموذج الذكاء الاصطناعي على شكل الموجة وكثافة ووقت كل ضغطة مفتاح لتحديدها، فعلى سبيل المثال ، يمكنك الضغط على مفتاح واحد بعد جزء من الثانية عن الآخرين بسبب أسلوب الكتابة الخاص بك ، ويؤخذ ذلك في الاعتبار مع نموذج الذكاء الاصطناعي.
وبحسب موقع Digital Trends فإنه يمكن لهذه التجربة أن تمثل خطورة كبيرة مستقبلا، حيث قد يتم استغلالها من قبل المقرصنين، حيث قد يتخذ هذا الهجوم شكل برامج ضارة مثبتة على الهاتف أو أي جهاز قريب آخر به ميكروفون، وبعد ذلك ، يحتاج الأمر فقط إلى جمع البيانات من ضغطات المفاتيح وإدخالها في نموذج AI من خلال الاستماع إلى الميكروفون.
وفقا لـ Bleeping Computer فإن هناك بعض الطرق للتغلب على هذا النوع من الهجوم، من بينها تجنب كتابة كلمة المرور الخاصة بك على الإطلاق من خلال الاستفادة من ميزات مثل Windows Hello و Touch ID.
المصدر: أخبارنا
كلمات دلالية: الذکاء الاصطناعی من خلال
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
«BMI» التابعة لـ فيتش تتوقع نموا إيجابيا في قطاع السياحة بمصر خلال 2025