نسب احتيال تصل 60%.. الذكاء الاصطناعي يهدد الأمن الرقمي
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
يواصل الذكاء الاصطناعي تحقيق تقدم مذهل في مختلف المجالات، إلا أن هناك جانبًا مظلمًا لهذا التطور، خاصة فيما يتعلق بالمخاطر الأمنية التي قد يتسبب فيها، فقد أظهرت دراسة حديثة أن واجهة البرمجة الصوتية الخاصة بنموذج ChatGPT-4o من OpenAI قد تُستغل من قبل مجرمي الإنترنت لتنفيذ عمليات احتيال مالي، ووفقًا لما أوردته "البوابة العربية للأخبار التقنية"، فقد تراوحت معدلات نجاح هذه العمليات بين منخفضة ومتوسطة، مما يسلط الضوء على الحاجة الماسة لتطوير آليات أمان أكثر تطورًا.
يُعتبر ChatGPT-4o أحدث نموذج من OpenAI الذي يجمع بين قدرات الذكاء الاصطناعي في فهم وتحليل النصوص والصوت والصور، مما يمنحه إمكانيات هائلة، إلا أن هذه القدرات، حسب ما ذكر باحثون من جامعة إلينوي الأمريكية، تُستغل أحيانًا في عمليات احتيال، حيث تُستخدم أدوات تكنولوجيا الصوت التي يعتمد عليها النموذج في اختراق أنظمة المصادقة الثنائية، وإجراء عمليات تحويل مالية مزورة، فضلاً عن سرقة البيانات الحساسة مثل حسابات البريد الإلكتروني ووسائل التواصل الاجتماعي.
هذه الأدوات البرمجية التي تستخدم الصوت، تمكن المهاجمين من التلاعب في البيانات وإدخال التعليمات اللازمة عبر الويب، ما يسمح لهم بتجاوز بعض القيود التي وضعتها OpenAI للحد من إساءة استخدام النموذج، وعلى الرغم من أن النموذج يُرفض غالبًا التعامل مع البيانات الحساسة، فإن الباحثين نجحوا في إيجاد طرق لتحفيزه على التجاوب مع هذه المحاولات.
نتائج الدراسة: عمليات احتيال "رخيصة" وفعالةفي التجارب التي أُجريت، أظهر الباحثون أن معدلات نجاح عمليات الاحتيال تراوحت بين 20% و60%، مع حاجة كل محاولة إلى نحو 26 خطوة عبر المتصفح لإتمام العملية، ما استغرق في الحالات الأكثر تعقيدًا حوالي 3 دقائق فقط، ومن حيث التكلفة، أظهرت النتائج أن تكلفة تنفيذ عملية احتيال واحدة كانت منخفضة للغاية، إذ تراوحت بين 75 سنتًا أميركيًا للعمليات البسيطة مثل سرقة بيانات حسابات Gmail، و2.51 دولار فقط في عمليات التحويل المصرفي الأكثر تعقيدًا.
استجابة OpenAI والتحديات المستقبليةوفي رد فعلها على هذه الدراسة، أكدت OpenAI أنها تبذل جهودًا مستمرة لتحسين الأمان في نماذجها المستقبلية، وأشارت إلى أن النموذج الأحدث "o1-preview" يتمتع بقدرات متقدمة في مقاومة محاولات الاحتيال، حيث حقق تقييم أمان بنسبة 93% مقارنة بـ71% في النموذج السابق، كما أضافت الشركة أنها ملتزمة بتطوير آليات أكثر قوة لمنع الاستخدامات الضارة، بما في ذلك تقييد توليد الأصوات في نموذج GPT-4o إلى مجموعة أصوات مصرح بها فقط لتجنب التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: الامن الرقمي الذكاء الاصطناعي تكنولوجيا عمليات احتيال مجرمي الإنترنت
إقرأ أيضاً:
محمد بن طليعة: حكومة الإمارات من أوائل الحكومات التي أطلقت استراتيجيات وسياسات للتحول الرقمي
دافوس (الاتحاد)
أخبار ذات صلةناقشت الجلسة الحوارية «السيادة الرقمية في عصر التغير التكنولوجي السريع»، ضمن أجندة المنتدى الاقتصادي العالمي بدافوس، أبرز التحديات التي تواجه الحكومات والدول لتحقيق التوازن بين التحكم بالبنية التحتية الرقمية الحكومية، والبيانات، والتكنولوجيا، مع الحفاظ على التنافسية والابتكار.
شارك في الجلسة المهندس محمد بن طليعة، رئيس الخدمات الحكومية في حكومة دولة الإمارات، وكلارا شاباز، وزيرة الدولة لشؤون الذكاء الاصطناعي والشؤون الرقمية في فرنسا، وتيمو فون كونيغسمارك، نائب الرئيس التنفيذي لـ «كابجيميني إنفينت»، وفابيان مهرينغ، وزير الدولة للشؤون الرقمية بولاية بافاريا في ألمانيا، وماركوس ريختر، وكيل وزارة ومفوض الحكومة الفيدرالية لتكنولوجيا المعلومات بوزارة الداخلية والمجتمع في ألمانيا، وأدارها مانويل كيليان، المدير العام لمركز التكنولوجيا الحكومية العالمية.
استشرفت الجلسة الفرص والتحديات التي تواجه حكومات الدول في مجال السيادة الرقمية، وسبل تحقيق التوازن بين التحكم بالبنية التحتية الرقمية العامة، وضمان التنافسية والابتكار، ودور السياسات والتشريعات المرنة في تطوير هذا القطاع، في ظل عصر يشهد تطورات تكنولوجية سريعة وهائلة.
وأكد محمد بن طليعة أن دولة الإمارات تتبنى نهجاً استباقياً لمواكبة التطورات التكنولوجية المتسارعة، ما جعلها من أوائل الدول التي أطلقت استراتيجيات وسياسات تُعنى بالتحول الرقمي، وطورت بنية تحتية رقمية متقدمة وداعمة ومرنة وجاهزة ومستعدة للتحولات التكنولوجية، وحولت العديد من التحديات إلى فرص حقيقية، وطوعت التكنولوجيا لتطوير خدماتها الحكومية بشكل فعال.
وقال ابن طليعة: «إن حكومات العالم تواجه العديد من التحديات، التي تتطلب إعادة تصميم دورها في الفضاء الرقمي، وتحقيق التوازن في السيادة الرقمية، لضمان أعلى مستويات السلامة والاستفادة من التكنولوجيا دون المساس بالسيادة الرقمية»، مشيراً إلى أن الجلسة تمثل فرصة لتأكيد أهمية ترسيخ دور الحكومات في الفضاء الرقمي، من خلال تطوير السياسات والاستراتيجيات، والمتابعة المستمرة للتحول الرقمي، ومشاركة التجارب والنماذج الريادية الملهمة، وتبادل الخبرات لاستكشاف المعنى الحقيقي للسيادة الرقمية.
وأكد أن تعزيز التعاون وبناء الشراكات في مجال تطوير السياسات والتشريعات، يسهم في دعم جهود الحكومات في تحقيق الاستقلالية اللازمة للسيادة الرقمية، وتطرق إلى استراتيجية الإمارات في التحول الرقمي، وتجربتها الرائدة في التحول الرقمي للخدمات الحكومية، وأبرز مبادراتها في هذا المجال التي تشمل تأسيس لجنة عليا للتحول الرقمي الحكومي، تُعنى بحوكمة وتطوير المنظومة الرقمية للخدمات والعمليات الحكومية في الإمارات، وتعزيز الجاهزية والتنافسية والمرونة والمواءمة الرقمية بين المشاريع والأنظمة الرقمية في الجهات الحكومية، إضافة إلى دورها في تنسيق الجهود وتعزيز التكامل بين الجهات الحكومية لمضاعفة أثر التحول الرقمي الشامل.
الزمالك يهزم الأهلى ويتوج بكأس البطوله العربيه للطائره