تحذير خطير.. ChatGPT-4o قد يصبح أداة لسرقة الأموال
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
تزداد المخاوف من الذكاء الاصطناعي، على الرغم من الفوائد المتعددة، إذ كشفت دراسة حديثة عن إمكانية استغلال المجرمين لواجهة برمجة التطبيقات الصوتية لنموذج ChatGPT-4o من شركة Open AI لتنفيذ عمليات احتيال مالي، وفقًا لما نقلته مجلة ديلي ميل حيث أظهرت الدراسة أن نسب نجاح الاحتيال باستخدام هذه التقنية تتراوح بين منخفضة ومتوسطة.
يعد ChatGPT-4o من أحدث إصدارات الذكاء الاصطناعي، حيث يمتلك قدرة عالية على استيعاب النصوص، الأصوات، والمرئيات، إلى جانب أنظمة أمان صُممت للحد من إساءة الاستخدام، لكن مع تقدم تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، يتزايد احتمال إساءة استخدام الذكاء الاصطناعي في الاحتيالات، ما قد يسفر عن خسائر مالية كبيرة.
تحديات الأمان وأساليب الاحتيال
وفقًا لدراسة من جامعة إلينوي، فإن أدوات الذكاء الاصطناعي الحديثة تعاني من نقص في آليات الحماية الكافية، واستعرض الباحثون أنواع الاحتيالات المحتملة، مثل التحويلات المصرفية وسرقة البيانات الرقمية، والتي يمكن تنفيذها عبر أدوات ChatGPT-4o المصممة للتفاعل مع المواقع الإلكترونية وإدارة الأكواد المتعلقة بالمصادقة الثنائية، مع القدرة على تجاوز بعض القيود الأمنية.
تفاصيل عن نجاح عمليات الاحتيال في تجربة أجراها الباحثون.
وأظهرت النتائج أن عمليات الاحتيال الصوتي قد تحقق نسب نجاح تصل إلى 60%، باستخدام 26 خطوة متتابعة عبر المتصفح، وكانت من بين العمليات الناجحة سرقة حسابات Gmail بنسبة 60%، بينما بلغت تكلفة عمليات تحويل مصرفي معقدة 2.51 دولار فقط.
رد Open AI
صرحت شركة Open AI بأن نموذجها الجديد "o1-preview" يتميز بأمان أعلى من النماذج السابقة، حيث حقق نسبة أمان تبلغ 93% مقارنة بـ71% في ChatGPT-4o.
وأكدت الشركة التزامها بمواصلة تعزيز الأمان وتقييد استخدام الذكاء الاصطناعي لتوليد الأصوات المعتمدة فقط، مما يقلل من احتمالات التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: مخاطره دراسة نموذج ChatGPT 4o الذکاء الاصطناعی
إقرأ أيضاً:
هواوي تدمج نموذج الذكاء الاصطناعي Deepseek في خدمتها
أعلنت شركة هواوي Huawei، عن شراكة استراتيجية مع شركة AI Siliconflow لإطلاق نماذج Deepseek للذكاء الاصطناعي على خدمتها السحابية Ascend Cloud، مما يسهم في جعل تقنيات الذكاء الاصطناعي أكثر تكلفة معقولة وسهولة في الوصول.
وتتضمن الشراكة طرح نموذجين رئيسيين من Deepseek، وهما Deepseek V3 (نموذج لغة) و Deepseek R1 (نموذج تفكير)، اللذان يقدمان أداءً عاليا بتكلفة أقل، مما يعزز من قدرة المستخدمين على الاستفادة من الذكاء الاصطناعي بشكل موسع.
تقدم هواوي Cloud أسعارا مخفضة لنماذج Deepseek، مما يجعل الذكاء الاصطناعي أكثر توفيرا، على سبيل المثال، تكلف معالجة مليون رمز إدخال باستخدام Deepseek V3 حوالي 1 يوان (0.13 دولار أمريكي)، بينما تكلف معالجة مليون رمز إخراج 2 يوان (0.26 دولار)، أما نموذج Deepseek R1 فيتطلب 4 يوان (0.53 دولار) لكل مليون رمز إدخال و 16 يوان (2.13 دولار) لكل مليون رمز إخراج، هذه الأسعار تجعل الذكاء الاصطناعي في متناول الشركات والمطورين بأسعار تنافسية، مما يساهم في نشر هذه التكنولوجيا بشكل أكبر.
يشير إطلاق هواوي لنماذج Deepseek إلى جهود الصين المستمرة من أجل تحقيق الاكتفاء الذاتي في مجال الذكاء الاصطناعي، خاصة في ظل القيود التي تفرضها الولايات المتحدة على وصول الصين إلى الرقائق المتطورة.
تعمل نماذج Deepseek على أجهزة Huawei Ascend AI، مما يقلل الاعتماد على التقنيات الأجنبية ويعزز من استقلالية النظام الإيكولوجي التكنولوجي في الصين، هذه الخطوة تساهم في تعزيز مكانة الصين كمنافس قوي في تطوير الذكاء الاصطناعي على الساحة العالمية.
انضمام علي بابا إلى موجة Deepseek AI
بعد تكامل هواوي، انطلقت أيضا خدمة علي بابا في تقديم خدمات Deepseek AI على منصتها السحابية. يتمكن المستخدمون من الوصول إلى هذه النماذج عبر معرض PAI Model، مما يسهل استخدام الذكاء الاصطناعي بدون الحاجة لكتابة أكواد معقدة. تقدم Alibaba Cloud نسخا كاملة ومخففة من نموذج Deepseek R1، مما يتيح مرونة كبيرة في تطبيقات الذكاء الاصطناعي المختلفة.
تكتسب نماذج Deepseek AI شهرة متزايدة في كل من الصين و الولايات المتحدة، حيث دمجت مايكروسوفت و أمازون نماذجها في منصات الذكاء الاصطناعي الخاصة بهما. بينما كان Deepseek قد استخدم سابقا وحدات معالجة الرسومات H100 من NVIDIA في تدريب نماذجه، فإنه الآن يعتمد على شريحة Huawei Ascend 910C. في المستقبل، تخطط هواوي لتطوير Ascend 920C، التي من المتوقع أن تتفوق على Blackwell B200 من NVIDIA، مما سيحسن قدرات Deepseek في مجال الذكاء الاصطناعي.
إن التوسع السريع لنماذج Deepseek وتكاملها مع منصات السحابة الكبرى يشير إلى تأثير متزايد للصين في تطوير الذكاء الاصطناعي، حيث يتوقع أن تصبح هذه النماذج الفعالة من حيث التكلفة والخوادم المحسنة عنصرًا رئيسيًا في المنافسة العالمية على تطوير الذكاء الاصطناعي.
نجمات يتعرضن للخيانة ضمن أحداث مسلسلات رمضان 2025.. بينها «وتقابل حبيب»