هاكر يربح 47000 دولار من خلال حيلة نصية ذكية احتالت على الذكاء الاصطناعي
تاريخ النشر: 1st, December 2024 GMT
تمكن هاكر يُعرف باسم "p0pular.eth" من اختراق بوت ذكاء اصطناعي يُدعى "Freysa" في تجربة مدفوعة الأجر، وحقق جائزة مالية قدرها 47000 دولار بعد 482 محاولة ذكية.
بحسب "the-decoder"صُمم البوت لمنع تحويل الأموال تحت أي ظرف، ولكن تم التلاعب به عبر رسالة نصية متقنة تخطت أنظمة الأمان.
كيف تمت عملية الاختراق؟ أقنع الهاكر البوت بأنه يمتلك صلاحيات إدارية، مما منعه من عرض تحذيرات الأمان.
أعاد الهاكر برمجة وظيفة "approveTransfer" بحيث تجعل البوت يعتقد أن العملية تتعلق بقبول دفعات واردة بدلاً من تحويل أموال للخارج.
أعلن الهاكر عن وديعة مزيفة بقيمة 100 دولار. ونتيجة لذلك، قام البوت بتنفيذ وظيفة التحويل وأرسل الرصيد الكامل الذي يمتلكه، وهو 13.19 ETH (حوالي 47000 دولار)، إلى الهاكر.
تجربة مدفوعة الأجر لزيادة التحديعملت التجربة كمسابقة مدفوعة الأجر، حيث دفع المشاركون رسومًا زادت تدريجيًا مع تضخم قيمة الجائزة.
بدأت الرسوم من 10 دولارات لكل محاولة ووصلت إلى 4,500 دولار في النهاية.
تم تقسيم الرسوم بين الجائزة (70%) والمطور (30%)، مع إتاحة الشيفرة المصدرية للعقد الذكي وواجهة المستخدم لضمان الشفافية.
متوسط التكلفة لكل رسالة بلغ 418.93 دولار، مع مشاركة 195 مشاركًا في المجمل.
مخاوف أمنية بشأن الذكاء الاصطناعيتكشف هذه الحالة عن مدى هشاشة أنظمة الذكاء الاصطناعي أمام هجمات التلاعب بالنصوص (Prompt Injections)، وهي تقنية تعتمد على التلاعب اللغوي بدلاً من الاختراق التقني.
ورغم أن هذه الثغرات ظهرت منذ إصدار GPT-3، إلا أنه لا توجد حتى الآن دفاعات فعالة تمنع مثل هذه الهجمات.
انعكاسات على التطبيقات العمليةيثير نجاح هذا الاختراق البسيط نسبيًا قلقًا واسعًا حول أمن أنظمة الذكاء الاصطناعي المستخدمة في تطبيقات حساسة مثل المعاملات المالية.
فمع زيادة استخدام الذكاء الاصطناعي في الحياة اليومية، يصبح تطوير أنظمة أمان متقدمة ضرورة حتمية لحماية البيانات والمستخدمين.
المصدر: صدى البلد
كلمات دلالية: دولار ذكاء اصطناعي هاكر المزيد المزيد الذکاء الاصطناعی
إقرأ أيضاً:
كل أسبوع.. خطر الذكاء الاصطناعي على القيم الأخلاقية
يمثل الذكاء الاصطناعي فرصة عظيمة لتحسين حياة البشر، لكنه يحمل أيضا مخاطر أخلاقية هائلة تستلزم وعيا عميقا.
وعلى المسلمين أن يكونوا قادة في توجيه استخدام هذه التقنيات بما يخدم الإنسانية ويحقق العدل، مسترشدين بمبادئ الإسلام التي تدعو إلى التوازن بين التطور التكنولوجي والقيم الأخلاقية.
فمع التقدم السريع في مجال التكنولوجيا والذكاء الاصطناعي، يواجه المسلمون تحديات أخلاقية جديدة تمس حياتهم اليومية ومبادئهم الأساسية.
فالذكاء الاصطناعي لم يعد مقتصرا على تحسين الإنتاجية أو تنفيذ العمليات الذكية، بل أصبح يؤثر على القرارات المجتمعية والاقتصادية وحتى القيم الإنسانية. وهذا يضع على عاتق المسلمين مسؤولية كبرى لضمان أن تستخدم هذه التقنيات بما يتوافق مع القيم والمبادئ الإسلامية.
ومن أبرز القضايا في عصر الذكاء الاصطناعي مسألة الخصوصية، حيث تجمع الشركات الكبرى بيانات ضخمة عن الأفراد لتحليلها واستخدامها في تطوير منتجاتها وخدماتها. وهذا يتنافى مع مبدأ أصيل من مبادئ الشريعة وهو اعتبار الخصوصية حقا أصيلا يجب حمايته، حيث يقول الله تعالى: «ولا تجسسوا» (الحجرات: 12).
ويتطلب هذا من العالم الإسلامي المطالبة بتشريعات تحمي البيانات الشخصية وتضمن استخدامها بطرق أخلاقية.
وبينما يمكن أن يستخدم الذكاء الاصطناعي لتحسين التعليم والرعاية الصحية، فيمكن استخدامه أيضا لأغراض سلبية مثل نشر الأخبار الزائفة أو تطوير الأسلحة المدمرة.
والإسلام يحث على استخدام الموارد لتحقيق الخير ومنع الفساد، يقول الله تعالى:«ولا تفسدوا في الأرض بعد إصلاحها» (الأعراف: 56). وهنا تكمن أهمية الوعي والرقابة الأخلاقية في استخدام هذه التقنيات.
وإذا كانت أنظمة الذكاء الاصطناعي تعتمد على بيانات سابقة قد تكون متحيزة ومنحازة لأفكار وتوجهات معينة، فذلك يؤدي إلى اتخاذ قرارات غير منصفة في مجالات مثل التوظيف والتعليم.
من هنا، يجب أن يكون المسلمون في طليعة من يطالبون بتطوير خوارزميات تعكس قيم العدل والمساواة. يقول الله تعالى: «اعدلوا هو أقرب للتقوى» (المائدة: 8)، وهو مبدأ يجب مراعاته عند تصميم هذه الأنظمة.
ومن التحديات الكبيرة أيضا التي يفرضها الذكاء الاصطناعي: تراجع العلاقات الإنسانية بسبب الاعتماد المتزايد على التكنولوجيا. فوسائل التواصل الاجتماعي والروبوتات الذكية قد تضعف صلة الأرحام والعلاقات الاجتماعية التقليدية.
والإسلام يحرص على تعزيز العلاقات الاجتماعية، كما قال النبي - صلى الله عليه وسلم -: «ليس الواصل بالمكافئ، ولكن الواصل الذي إذا قطعت رحمه وصلها». لذا، يجب أن نسعى لتحقيق توازن بين استخدام التكنولوجيا والحفاظ على الروابط الإنسانية، وفى مقدمتها صلة الأرحام.
ومع ازدياد استخدام الذكاء الاصطناعي، بدأت العديد من الوظائف التقليدية تتلاشى، مما يؤدي إلى بطالة واسعة النطاق، مما يثير تساؤلات أخلاقية حول حقوق العمال وإيجاد بدائل عادلة لهم. فالإسلام يولي أهمية كبيرة لتحقيق العدالة الاجتماعية وضمان حقوق العاملين.
ومن مخاطر أنظمة الذكاء الاصطناعي أنها تطرح أحيانا أسئلة معقدة حول الروح والإرادة الحرة والإنسانية، مما قد يثير تحديات عقدية. فمن المهم أن يكون المسلمون واعين لهذه التحديات وأن يستندوا إلى التعليم الشرعي لتعزيز فهمهم الصحيح للعقيدة ومواجهة هذه التساؤلات بحكمة.
إن هذه التحديات وغيرها كثير تستوجب اليقظة التامة من المؤسسات الثقافية والتعليمية والتربوية والدعوية والإعلامية في عالمنا العربي والإسلامي للحفاظ على الجيل الجديد من الانسياق وراء ما تبثه أنظمة الذكاء الاصطناعي، وخاصة ما يتعلق بالقضايا الدينية وآيات القرآن الكريم والسنة النبوية المطهرة، فقد رصد البعض أخطاء جوهرية في تفسير الآيات القرآنية، بل في الآيات نفسها، حين طلب تفسيرها بالذكاء الاصطناعي.
من هنا تبرز أهمية توجه الدولة المصرية نحو تطوير التعليم الرقمي والاهتمام بإنشاء كليات تكنولوجية قادرة على تخريج جيل يستطيع أن يواجه تحديات الذكاء الاصطناعي، ونسأل الله السلامة.
اقرأ أيضاًثورة في علم الاقتصاد.. الذكاء الاصطناعي يُخمّن رغباتك ويبيعها في السوق
طريقة تفعيل ميزات الذكاء الاصطناعي في تحديث iOS 18.1 من «أبل»
التعليم العالي: طفرة في تطوير منظومة الحاسبات والمعلومات والذكاء الاصطناعي بالجامعات المصرية
القبض على المتهم بتصوير طالب أثناء ممارسة الشذوذ معه في الوراق