تحذير خطير.. ChatGPT-4o قد يصبح أداة لسرقة الأموال
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
تزداد المخاوف من الذكاء الاصطناعي، على الرغم من الفوائد المتعددة، إذ كشفت دراسة حديثة عن إمكانية استغلال المجرمين لواجهة برمجة التطبيقات الصوتية لنموذج ChatGPT-4o من شركة Open AI لتنفيذ عمليات احتيال مالي، وفقًا لما نقلته مجلة ديلي ميل حيث أظهرت الدراسة أن نسب نجاح الاحتيال باستخدام هذه التقنية تتراوح بين منخفضة ومتوسطة.
يعد ChatGPT-4o من أحدث إصدارات الذكاء الاصطناعي، حيث يمتلك قدرة عالية على استيعاب النصوص، الأصوات، والمرئيات، إلى جانب أنظمة أمان صُممت للحد من إساءة الاستخدام، لكن مع تقدم تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، يتزايد احتمال إساءة استخدام الذكاء الاصطناعي في الاحتيالات، ما قد يسفر عن خسائر مالية كبيرة.
تحديات الأمان وأساليب الاحتيال
وفقًا لدراسة من جامعة إلينوي، فإن أدوات الذكاء الاصطناعي الحديثة تعاني من نقص في آليات الحماية الكافية، واستعرض الباحثون أنواع الاحتيالات المحتملة، مثل التحويلات المصرفية وسرقة البيانات الرقمية، والتي يمكن تنفيذها عبر أدوات ChatGPT-4o المصممة للتفاعل مع المواقع الإلكترونية وإدارة الأكواد المتعلقة بالمصادقة الثنائية، مع القدرة على تجاوز بعض القيود الأمنية.
تفاصيل عن نجاح عمليات الاحتيال في تجربة أجراها الباحثون.
وأظهرت النتائج أن عمليات الاحتيال الصوتي قد تحقق نسب نجاح تصل إلى 60%، باستخدام 26 خطوة متتابعة عبر المتصفح، وكانت من بين العمليات الناجحة سرقة حسابات Gmail بنسبة 60%، بينما بلغت تكلفة عمليات تحويل مصرفي معقدة 2.51 دولار فقط.
رد Open AI
صرحت شركة Open AI بأن نموذجها الجديد "o1-preview" يتميز بأمان أعلى من النماذج السابقة، حيث حقق نسبة أمان تبلغ 93% مقارنة بـ71% في ChatGPT-4o.
وأكدت الشركة التزامها بمواصلة تعزيز الأمان وتقييد استخدام الذكاء الاصطناعي لتوليد الأصوات المعتمدة فقط، مما يقلل من احتمالات التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: مخاطره دراسة نموذج ChatGPT 4o الذکاء الاصطناعی
إقرأ أيضاً:
ذكاء Apple المتعثر.. هل فقدت الشركة سباق الذكاء الاصطناعي؟
يبدو أن Apple تواجه أزمة غير مسبوقة في سباق الذكاء الاصطناعي، بعد تأجيلها المتكرر لميزات Apple Intelligence التي روجت لها بقوة عند إطلاق سلسلة iPhone 16.
وبدلاً من أن تكون هذه الميزات نقلة نوعية في تجربة المستخدم؛ تحولت إلى مصدر إحباط للعديد من المستهلكين، مما أثار موجة من الانتقادات حتى بين أكثر معجبي الشركة ولاءً.
تأجيلات متكررة تضع Apple في مأزقكان من المفترض أن تقدم Apple Intelligence تحسينات غير مسبوقة، مثل مساعد ذكي متكامل مع Siri، وميزات متطورة لتحليل البيانات وإنشاء المحتوى.
لكن بعد تأخيرات متتالية؛ أعلنت Apple مؤخراً أن هذه الميزات لن ترى النور حتى عام 2026، أي بعد إطلاق iPhone 17، مما يعني أن مستخدمي iPhone 16 لن يحصلوا على ما وعدت به الشركة عند الشراء.
ولم ترتق الميزات التي تم طرحها، مثل تلخيص الإشعارات وتحرير الصور بالذكاء الاصطناعي، إلى مستوى المنافسين مثل Google وSamsung، بل جاءت بإمكانيات محدودة وأداء ضعيف.
ودفع هذا الفشل المديرين التنفيذيين داخل Apple، مثل كريج فيديريجي، إلى التعبير عن استيائهم من التأخيرات المتكررة، وسط قلق متزايد بشأن تأثير ذلك على سمعة الشركة.
هل Apple متأخرة في سباق الذكاء الاصطناعي؟في الوقت الذي تكافح فيه Apple لتحسين Apple Intelligence، تواصل شركات مثل Google وOpenAI وSamsung تطوير ميزات ذكاء اصطناعي متقدمة تدمجها بفعالية في أجهزتها.
وإذا استمرت Apple في هذا النهج المتأخر، فقد تجد نفسها في موقف صعب، حيث يصبح من الصعب عليها اللحاق بركب المنافسة في هذا المجال الحيوي.
لجنة حماية المعطيات: هجومات سيبرانية تستهدف مواقع حكومية مغربية