تحذير خطير.. ChatGPT-4o قد يصبح أداة لسرقة الأموال
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
تزداد المخاوف من الذكاء الاصطناعي، على الرغم من الفوائد المتعددة، إذ كشفت دراسة حديثة عن إمكانية استغلال المجرمين لواجهة برمجة التطبيقات الصوتية لنموذج ChatGPT-4o من شركة Open AI لتنفيذ عمليات احتيال مالي، وفقًا لما نقلته مجلة ديلي ميل حيث أظهرت الدراسة أن نسب نجاح الاحتيال باستخدام هذه التقنية تتراوح بين منخفضة ومتوسطة.
يعد ChatGPT-4o من أحدث إصدارات الذكاء الاصطناعي، حيث يمتلك قدرة عالية على استيعاب النصوص، الأصوات، والمرئيات، إلى جانب أنظمة أمان صُممت للحد من إساءة الاستخدام، لكن مع تقدم تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، يتزايد احتمال إساءة استخدام الذكاء الاصطناعي في الاحتيالات، ما قد يسفر عن خسائر مالية كبيرة.
تحديات الأمان وأساليب الاحتيال
وفقًا لدراسة من جامعة إلينوي، فإن أدوات الذكاء الاصطناعي الحديثة تعاني من نقص في آليات الحماية الكافية، واستعرض الباحثون أنواع الاحتيالات المحتملة، مثل التحويلات المصرفية وسرقة البيانات الرقمية، والتي يمكن تنفيذها عبر أدوات ChatGPT-4o المصممة للتفاعل مع المواقع الإلكترونية وإدارة الأكواد المتعلقة بالمصادقة الثنائية، مع القدرة على تجاوز بعض القيود الأمنية.
تفاصيل عن نجاح عمليات الاحتيال في تجربة أجراها الباحثون.
وأظهرت النتائج أن عمليات الاحتيال الصوتي قد تحقق نسب نجاح تصل إلى 60%، باستخدام 26 خطوة متتابعة عبر المتصفح، وكانت من بين العمليات الناجحة سرقة حسابات Gmail بنسبة 60%، بينما بلغت تكلفة عمليات تحويل مصرفي معقدة 2.51 دولار فقط.
رد Open AI
صرحت شركة Open AI بأن نموذجها الجديد "o1-preview" يتميز بأمان أعلى من النماذج السابقة، حيث حقق نسبة أمان تبلغ 93% مقارنة بـ71% في ChatGPT-4o.
وأكدت الشركة التزامها بمواصلة تعزيز الأمان وتقييد استخدام الذكاء الاصطناعي لتوليد الأصوات المعتمدة فقط، مما يقلل من احتمالات التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: مخاطره دراسة نموذج ChatGPT 4o الذکاء الاصطناعی
إقرأ أيضاً:
ترامب يعلن استثمار 500 مليار دولار في الذكاء الاصطناعي
تابع أحدث الأخبار عبر تطبيق
أعلن الرئيس الأمريكي دونالد ترامب، خلال مؤتمر صحفي عُقد اليوم الأربعاء، عن خطة استثمارية ضخمة بقيمة 500 مليار دولار، تهدف إلى تطوير البنية التحتية للذكاء الاصطناعي ضمن مشروع«ستارجيت» في الولايات المتحدة.
أوضح ترامب، أن شركات أمريكية ستستثمر 500 مليار دولار في مشروعات البنية التحتية للذكاء الاصطناعي، مشيرًا إلى أن هذه الاستثمارات ستضع الولايات المتحدة في مقدمة الدول الرائدة عالميًا في هذا المجال.
وأعلن عن مشروع جديد يحمل اسم "ستار جيت" (بوابة النجوم)، والذي وصفه بأنه سيكون حجر الزاوية في تطوير البنية التحتية الداعمة للذكاء الاصطناعي، بما يضمن تحديث التكنولوجيا المستخدمة في مختلف القطاعات.
كما أكد ترامب على خطط إدارته لزيادة إنتاج الطاقة الكهربائية من خلال بناء مولدات جديدة للطاقة، مما سيسهم في تقوية شبكة الطاقة الوطنية.
وأشار إلى أن هذه الجهود ستؤدي إلى توفير 100 ألف وظيفة جديدة للأمريكيين، مما يعزز النمو الاقتصادي ويوفر فرص عمل في القطاعات التقنية والهندسية.
ووقّع ترامب في اليوم الأول له داخل البيت الأبيض على سلسلة من الأوامر التنفيذية، بما في ذلك إلغاء 78 إجراءً تنفيذيًا من عهد بايدن وإنهاء حق المواطنة ومغادرة منظمة الصحة العالمية واتفاقية باريس، ونشر الجيش على الحدود.
واستهل الرئيس الأمريكي دونالد ترامب حملة تطهير رجال بايدن، بإقالة أربعة من كبار المعينين الرئاسيين من أبرزهم الجنرال المتقاعد مارك ميلي من المجلس الاستشاري للبنية التحتية الوطنية، والناشط خوسيه أندريس من مجلس الرئيس للرياضة واللياقة البدنية والتغذية، بحسب صحيفة "ذا هيل".
كما أقال كيشا بوتومز، رئيسة بلدية أتلانتا السابقة، من مجلس الرئيس للتصدير، التي كانت مستشارة كبيرة في حملة إعادة انتخاب بايدن، وأكد ترامب أن قرارات اليوم الأول لم تنته بعد، مشددًا على أنه كلّف مكتب شؤون الموظفين الرئاسي بتحديد وإزالة أكثر من ألف من المعينين الرئاسيين من الإدارة السابقة.
جنين ومخيمها.. سماع دوي انفجار كبير بمخيم جنين