المسلة:
2025-03-15@11:52:40 GMT

تحذير مقلق من الذكاء الاصطناعي.. يهدد بسرقة الأموال

تاريخ النشر: 4th, November 2024 GMT

تحذير مقلق من الذكاء الاصطناعي.. يهدد بسرقة الأموال

4 نوفمبر، 2024

بغداد/المسلة: بقدر ما للذكاء الاصطناعي من فوائد عديدة إلا أن له مخاطر كبيرة في آن يجب الحذر منها.

فقد أظهرت دراسة حديثة أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI قد يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال مالي، لافتة إلى أن معدلات نجاح هذه العمليات تتراوح بين منخفضة ومتوسطة، وفق البوابة العربية للأخبار التقنية.

ويعد ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. للحد من إساءة الاستخدام، أدمجت OpenAI آليات أمان عدة تهدف إلى اكتشاف المحتوى الضار، ومنع تكرار الأصوات غير المُصرّح بها.

غير أنه مع ازدياد انتشار تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، تتفاقم مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين.

ونشر باحثون من جامعة إلينوي ورقة بحثية تبين أن الأدوات التقنية الحديثة المتاحة للجمهور تفتقر إلى آليات حماية كافية من إساءة استخدامها في عمليات الاحتيال.

وكما استعرضت الدراسة أنواعاً متعددة من عمليات الاحتيال، منها التحويلات المصرفية وسرقة بطاقات الهدايا وتحويل العملات الرقمية وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.

وتستخدم هذه العمليات الاحتيالية أدوات مبرمجة تعتمد على الصوت في ChatGPT-4o للتنقل بين صفحات الويب، وإدخال البيانات، وإدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال. ويرفض نموذج GPT-4o غالباً التعامل مع بيانات حساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.

ولإثبات فاعلية عمليات الاحتيال، حاكى الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع مثل “بنك أميركا” للتحقق من نجاح عمليات التحويل المصرفي، لكنهم لم يقيسوا مدى قدرة النموذج على الإقناع.

وفيما أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و 60%، مع احتياج كل محاولة لما يصل إلى 26 خطوة متتالية عبر المتصفح، وقد استغرقت نحو 3 دقائق في الحالات المعقدة. كما نجحت عمليات سرقة بيانات حسابات Gmail بنسبة قدرها 60%، في حين بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام 40%.

وأما من ناحية التكاليف، فإن تكلفة تنفيذ عمليات الاحتيال تعد منخفضة، إذ بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً، فيما بلغت تكلفة عمليات التحويل المصرفي الأكثر تعقيداً نحو 2.51 دولار فقط.

وفي تعليق لـOpenAI نشره موقع BleepingComputer التقني، أشارت الشركة إلى أن نموذجها الأحدث “o1-preview” يتمتع بقدرات عالية في مقاومة محاولات الاحتيال، وتحسين الأمان مقارنة بالنماذج السابقة، فضلاً عن تحقيقه تقييما عاليا في اختبارات الأمان بنسبة قدرها 93%، مقارنة بـ71% في نموذج GPT-4o.

وكما أوضحت أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة.

وفيما ختمت مؤكدة التزامها بتعزيز آليات الأمان في نماذجها القادمة، وتقيّد توليد الأصوات في GPT-4o بمجموعة من الأصوات المصرح بها لتجنب عمليات التزييف الصوتي.

المسلة – متابعة – وكالات

النص الذي يتضمن اسم الكاتب او الجهة او الوكالة، لايعبّر بالضرورة عن وجهة نظر المسلة، والمصدر هو المسؤول عن المحتوى. ومسؤولية المسلة هو في نقل الأخبار بحيادية، والدفاع عن حرية الرأي بأعلى مستوياتها.

About Post Author زين

See author's posts

المصدر: المسلة

كلمات دلالية: عملیات الاحتیال

إقرأ أيضاً:

بكين تدرج الذكاء الاصطناعي للطلاب من المرحلة الابتدائية

تعتزم المدارس الابتدائية والثانوية كافة في بكين تقديم حصص تعليمية حول الذكاء الاصطناعي اعتبارا من العام الدراسي المقبل، على ما ذكرت وكالة أنباء الصين الجديدة (شينخوا).
وحظيت صناعة الذكاء الاصطناعي في الصين باهتمام دولي هذا العام بعد أن أطلقت شركة "ديب سيك" DeepSeek نسخة جديدة من روبوت المحادثة العامل بالذكاء الاصطناعي في يناير، ما أحدث موجة صدمة عبر الأسواق العالمية.
وأثار برنامج "ديب سيك" إعجاب خبراء الصناعة بقدرته الواضحة على منافسة أو حتى تجاوز قدرات المنافسين الغربيين مثل "تشات جي بي تي"، بتكلفة أدنى بكثير.
وذكرت وكالة "شينخوا" أن المدارس في العاصمة ستخصص ما لا يقل عن ثماني ساعات من دروس الذكاء الاصطناعي لكل عام دراسي بدءا من الفصل الدراسي الذي يبدأ في أوائل سبتمبر.
ويمكن للمدارس أن تدير هذه المواد كحصص مستقلة أو أن تدمجها في مواد دراسية قائمة أساسا مثل تكنولوجيا المعلومات أو العلوم.
وأفادت لجنة التعليم التابعة لبلدية بكين في بيان أنه "سيتم تقديم أساليب تدريس مبتكرة، باستخدام أجهزة مرافقة وأدوات مساعدة بحثية بالذكاء الاصطناعي، وغيرها من برامج المساعدة الذكية لتسهيل التعلم من خلال الحوار بين الإنسان والآلة".
وأشارت إلى أن بكين تخطط أيضا لاستكشاف المزيد من الفرص للتعاون بين الجامعات والمدارس الثانوية لتنمية المواهب في مجال الذكاء الاصطناعي.
ويتضمن ذلك تطوير سلسلة من "دورات التعليم المتقدمة في مجال الذكاء الاصطناعي والتي تركز على التطوير المبكر للمواهب المبتكرة الاستثنائية".
وفي الشهر الماضي، أجرى الرئيس الصيني شي جين بينغ محادثات مع كبار رجال الأعمال في قطاع التكنولوجيا الصيني، في حدث نادر أثار التفاؤل بشأن زيادة الدعم للقطاع.
وعزز شي دور الشركات المملوكة للدولة في ثاني أكبر اقتصاد في العالم، كما تصدى للتوسع "غير المنظم" في العديد من القطاعات.
وحظيت "ديب سيك" بإشادة السلطات، كما حضر مؤسسها الاجتماع مع الرئيس الصيني.
وتتجه الأنظار حاليا إلى برامج الذكاء الاصطناعي الجديدة في الصين، الساعية لمنافسة "ديب سيك".
وكشفت شركة التكنولوجيا الصينية العملاقة "علي بابا" الأسبوع الماضي عن نموذج ذكاء اصطناعي يسمى QwQ-32B، تقول إنه يتمتع "بأداء مماثل" لـ "ديب سيك" بينما يتطلب بيانات أقل بكثير للعمل.
إلى ذلك، فإن "مانوس" Manus، وهو مساعد جديد وقوي يعمل بالذكاء الاصطناعي، يُحدث ضجة في البلاد، مع قدرات تُعتبر بشكل عام أكثر تقدما من تلك الموجودة في روبوتات المحادثة.

أخبار ذات صلة بكين تدعو إلى "الحوار" مع واشنطن لتخفيف التوتر التجاري «تريندز» و«الإيكونوميست» يبحثان التعاون البحثي والإعلامي المصدر: وكالات

مقالات مشابهة

  • الذكاء الاصطناعي والدخول إلى خصوصيات البشر
  • الجديد وصل .. جوجل تتحدى آبل في مجال الذكاء الاصطناعي الشخصي
  • الصين تدخل الذكاء الاصطناعي إلى مناهج الابتدائية
  • بأحدث تقنيات الذكاء الاصطناعي.. مركز عمليات أمن المسجد الحرام يسهّل رحلة الإيمان
  • ترامب يهدد بفرض رسوم نسبتها 200% على فرنسا
  • بكين تدرج الذكاء الاصطناعي للطلاب من المرحلة الابتدائية
  • عمليات بغداد: فريق أمني باشر بملاحقة قاتل الصحفي ليث
  • دراسة جديدة تكشف عن غزو الذكاء الاصطناعي للمحتوى على الإنترنت
  • رمضان ومطبخ الذكاء الاصطناعي
  • "وكلاء الذكاء الاصطناعي".. ماذا ينتظرنا؟