تخترق الحماية .. اكتشاف نماذج ذكاء اصطناعي خبيثة على «Hugging Face» |تفاصيل
تاريخ النشر: 9th, February 2025 GMT
اكتشف باحثون في مجال الأمن السيبراني نماذج خبيثة للذكاء الاصطناعي على منصة Hugging Face تستخدم تقنية جديدة تعتمد على ملفات Pickle "المكسورة" لتجاوز أدوات الكشف عن البرمجيات الضارة.
تفاصيل الهجوم: كيف تم استغلال Pickle؟وكشف الباحث الأمني كارلو زانكي من شركة ReversingLabs أن الملفات الضارة كانت مخبأة داخل أرشيفات PyTorch، حيث تم وضع شيفرة خبيثة في بداية الملفات، مما يسمح بتنفيذ هجوم عبر "Shell عكسي" يتصل بعنوان IP محدد مسبقًا.
أُطلق على هذه الطريقة اسم "nullifAI"، وهي تستغل نقاط الضعف في آليات الأمان المستخدمة لاكتشاف النماذج الضارة. وقد تم تحميل النماذج على المستودعات التالية في Hugging Face:
glockr1/ballr7who-r-u0000/0000000000000000000000000000000000000لماذا يمثل Pickle خطرًا أمنيًا؟يعد تنسيق Pickle خيارًا شائعًا لتوزيع نماذج الذكاء الاصطناعي، لكنه يحمل مخاطر أمنية كبيرة، حيث يتيح تنفيذ أوامر عشوائية بمجرد تحميله وإلغاء تسلسله (Deserialization).
في هذه الحالة، استخدم المهاجمون تنسيق 7z بدلاً من ZIP لضغط النماذج، مما سمح لهم بتجاوز أداة Picklescan، وهي أداة مخصصة لاكتشاف الملفات المشبوهة على Hugging Face.
ثغرة في آليات الكشف.. وكيف تم استغلالها؟أوضح الباحثون أن هذه الملفات مصممة بحيث يتم تنفيذ الشيفرة الخبيثة قبل تعطل عملية إلغاء التسلسل، مما يمنع أدوات الفحص من اكتشافها.
وقال زانكي:"تتم معالجة أكواد Pickle بالتسلسل، مما يسمح بتنفيذ الأوامر الضارة قبل اكتشاف المشكلة. في هذه الحالة، لم تستطع أدوات الفحص في Hugging Face تصنيف النموذج على أنه غير آمن."
ما الإجراءات التي تم اتخاذها؟قامت Hugging Face بتحديث أداة Picklescan لسد هذه الثغرة ومنع تنفيذ الشيفرات الضارة باستخدام نفس الأسلوب.
تواصل شركات الأمن السيبراني مراقبة مستودعات الذكاء الاصطناعي بحثًا عن نماذج مشبوهة قد تستخدم تقنيات مماثلة في المستقبل.
ماذا يعني هذا للمطورين والمستخدمين؟يُحذر الخبراء من مخاطر تحميل نماذج الذكاء الاصطناعي من مصادر غير موثوقة، وينصحون باستخدام بيئات تشغيل معزولة (Sandboxing) عند اختبار النماذج الجديدة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي ذكاء الاصطناعي المزيد
إقرأ أيضاً:
برنامج ذكاء اصطناعي صيني جديد يثير حماسة قليلة وقلقا كبيرا
استرعى « مانوس »، المنافس الصيني الجديد لـ »تشات جي بي تي »، اهتمام المتخصصين في هذا القطاع خلال الأسبوع الماضي، مثيرا حماسة محدودة وخيبة أمل ومخاوف متعلقة بأمن البيانات.
يأتي الاهتمام ببرنامج الذكاء الاصطناعي التوليدي الجديد بشكل خاص من المشاعر التي أثارها في يناير أداء نموذج « ديب سيك آر 1 » الصيني المصمم بنسبة صغيرة من التكاليف التي د فعت لابتكار النماذج الأميركية الكبيرة.
وقال مبتكر برنامج « مانوس » ييشاو « بيك » جي في مقطع فيديو ترويجي، « إنه ليس مجرد روبوت دردشة آخر ».
وتابع « إنه برنامج مستقل بالفعل »، مضيفا « في حين تولد أنظمة الذكاء الاصطناعي الأخرى الأفكار ببساطة، يقدم مانوس نتائج، ونرى أنه النموذج التالي للتعاون بين البشر والآلات ».
منذ إطلاق برنامج « تشات جي بي تي » في نهاية عام 2022، تتنافس شركات التكنولوجيا الكبرى والشركات الناشئة على ابتكار مساعدي ذكاء اصطناعي متطورة.
وثمة برامج تتمتع بقدرات مشابهة للبرامج المساعدة، إذ يمكنها التصرف بطريقة مستقلة نوعا ما، ويحل محل المستخدم، لتنفيذ مهام عبر الإنترنت مثل التصفح ونقر على الروابط، وإنشاء ملخصات.
هكذا يعمل برنامج « كلود » (من شركة « أنثروبي ») مثلا مع وضعية « كبيوتر يوز » التي أطلقت خلال أكتوبر، وبرنامج « تشات جي بي تي » مع ميزة « ديب ريسيرتش ».
عبر موقعها الإلكتروني، تقدم « باتر فلاي إيفكت »، الشركة الصينية الناشئة التي ابتكرت « مانوس »، أمثلة على المهام التي ي فترض أن يكون برنامجها المساعد قادرا على إنجازها، مثل « شراء عقار في نيويورك » مثلا.
لكن كايل ويغرز، وهو صحافي في موقع « تيك كرانش » المتخصص، أشار في مقال حديث إلى أن البرامج المساعدة القائمة على الذكاء الاصطناعي فشل في أن يطلب له وجبة ويحجز له تذكرة إلى اليابان.
كلمات دلالية اصطناعي تكنولوجيا ذكاء
الرئيس الأمريكي يتراجع عن مضاعفة الرسوم الجمركية على كندا