هاكر يربح 47000 دولار من خلال حيلة نصية ذكية احتالت على الذكاء الاصطناعي
تاريخ النشر: 1st, December 2024 GMT
تمكن هاكر يُعرف باسم "p0pular.eth" من اختراق بوت ذكاء اصطناعي يُدعى "Freysa" في تجربة مدفوعة الأجر، وحقق جائزة مالية قدرها 47000 دولار بعد 482 محاولة ذكية.
بحسب "the-decoder"صُمم البوت لمنع تحويل الأموال تحت أي ظرف، ولكن تم التلاعب به عبر رسالة نصية متقنة تخطت أنظمة الأمان.
كيف تمت عملية الاختراق؟ أقنع الهاكر البوت بأنه يمتلك صلاحيات إدارية، مما منعه من عرض تحذيرات الأمان.
أعاد الهاكر برمجة وظيفة "approveTransfer" بحيث تجعل البوت يعتقد أن العملية تتعلق بقبول دفعات واردة بدلاً من تحويل أموال للخارج.
أعلن الهاكر عن وديعة مزيفة بقيمة 100 دولار. ونتيجة لذلك، قام البوت بتنفيذ وظيفة التحويل وأرسل الرصيد الكامل الذي يمتلكه، وهو 13.19 ETH (حوالي 47000 دولار)، إلى الهاكر.
تجربة مدفوعة الأجر لزيادة التحديعملت التجربة كمسابقة مدفوعة الأجر، حيث دفع المشاركون رسومًا زادت تدريجيًا مع تضخم قيمة الجائزة.
بدأت الرسوم من 10 دولارات لكل محاولة ووصلت إلى 4,500 دولار في النهاية.
تم تقسيم الرسوم بين الجائزة (70%) والمطور (30%)، مع إتاحة الشيفرة المصدرية للعقد الذكي وواجهة المستخدم لضمان الشفافية.
متوسط التكلفة لكل رسالة بلغ 418.93 دولار، مع مشاركة 195 مشاركًا في المجمل.
مخاوف أمنية بشأن الذكاء الاصطناعيتكشف هذه الحالة عن مدى هشاشة أنظمة الذكاء الاصطناعي أمام هجمات التلاعب بالنصوص (Prompt Injections)، وهي تقنية تعتمد على التلاعب اللغوي بدلاً من الاختراق التقني.
ورغم أن هذه الثغرات ظهرت منذ إصدار GPT-3، إلا أنه لا توجد حتى الآن دفاعات فعالة تمنع مثل هذه الهجمات.
انعكاسات على التطبيقات العمليةيثير نجاح هذا الاختراق البسيط نسبيًا قلقًا واسعًا حول أمن أنظمة الذكاء الاصطناعي المستخدمة في تطبيقات حساسة مثل المعاملات المالية.
فمع زيادة استخدام الذكاء الاصطناعي في الحياة اليومية، يصبح تطوير أنظمة أمان متقدمة ضرورة حتمية لحماية البيانات والمستخدمين.
المصدر: صدى البلد
كلمات دلالية: دولار ذكاء اصطناعي هاكر المزيد المزيد الذکاء الاصطناعی
إقرأ أيضاً:
أوروبا تحظر نموذج الذكاء الاصطناعي "ديب سيك"
أعلنت هيئة حماية البيانات الإيطالية يوم الخميس عن حظر نموذج الذكاء الاصطناعي الصيني "ديب سيك" بسبب غياب المعلومات المتعلقة بالبيانات الشخصية التي يتم جمعها.
وأوضحت الهيئة في بيان على موقعها الإلكتروني أن القرار دخل حيز التنفيذ فورًا.
وأعربت الهيئة عن استيائها من رد "ديب سيك" على استفساراتها حول البيانات الشخصية التي يتم جمعها، ومكان تخزينها، وكيفية إعلام المستخدمين.
كما أشارت إلى أن الشركة أعلنت في وقت لاحق أنها لا تعمل في إيطاليا، وبالتالي فإن التشريعات الأوروبية لا تنطبق عليها، رغم أن التطبيق تم تحميله من قبل ملايين المستخدمين حول العالم في وقت قصير.
من جانبها، أكدت هيئة حماية البيانات الأيرلندية أنها أرسلت خطابًا إلى "ديب سيك" للتعبير عن مخاوفها بشأن احتمال انتهاك الشركة لقوانين حماية الخصوصية في الاتحاد الأوروبي. وصرح غرافام دويل، نائب رئيس الهيئة، أن الخطاب طالب بمزيد من المعلومات حول كيفية معالجة البيانات الخاصة بالأفراد في أيرلندا.
يُذكر أن "ديب سيك" قد أطلقت مؤخرًا نموذجًا جديدًا للذكاء الاصطناعي، يتفوق في إمكانياته على النماذج التي تقدمها الشركات الأميركية الكبرى مثل "أوبن إيه آي"، وذلك بتكلفة منخفضة للغاية.
اتصال هاتفي بين وزير الخارجية والهجرة ووزير خارجية الكويت