تحذير مقلق من الذكاء الاصطناعي.. يهدد بسرقة الأموال
تاريخ النشر: 4th, November 2024 GMT
4 نوفمبر، 2024
بغداد/المسلة: بقدر ما للذكاء الاصطناعي من فوائد عديدة إلا أن له مخاطر كبيرة في آن يجب الحذر منها.
فقد أظهرت دراسة حديثة أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI قد يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال مالي، لافتة إلى أن معدلات نجاح هذه العمليات تتراوح بين منخفضة ومتوسطة، وفق البوابة العربية للأخبار التقنية.
ويعد ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. للحد من إساءة الاستخدام، أدمجت OpenAI آليات أمان عدة تهدف إلى اكتشاف المحتوى الضار، ومنع تكرار الأصوات غير المُصرّح بها.
غير أنه مع ازدياد انتشار تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، تتفاقم مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين.
ونشر باحثون من جامعة إلينوي ورقة بحثية تبين أن الأدوات التقنية الحديثة المتاحة للجمهور تفتقر إلى آليات حماية كافية من إساءة استخدامها في عمليات الاحتيال.
وكما استعرضت الدراسة أنواعاً متعددة من عمليات الاحتيال، منها التحويلات المصرفية وسرقة بطاقات الهدايا وتحويل العملات الرقمية وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.
وتستخدم هذه العمليات الاحتيالية أدوات مبرمجة تعتمد على الصوت في ChatGPT-4o للتنقل بين صفحات الويب، وإدخال البيانات، وإدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال. ويرفض نموذج GPT-4o غالباً التعامل مع بيانات حساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.
ولإثبات فاعلية عمليات الاحتيال، حاكى الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع مثل “بنك أميركا” للتحقق من نجاح عمليات التحويل المصرفي، لكنهم لم يقيسوا مدى قدرة النموذج على الإقناع.
وفيما أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و 60%، مع احتياج كل محاولة لما يصل إلى 26 خطوة متتالية عبر المتصفح، وقد استغرقت نحو 3 دقائق في الحالات المعقدة. كما نجحت عمليات سرقة بيانات حسابات Gmail بنسبة قدرها 60%، في حين بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام 40%.
وأما من ناحية التكاليف، فإن تكلفة تنفيذ عمليات الاحتيال تعد منخفضة، إذ بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً، فيما بلغت تكلفة عمليات التحويل المصرفي الأكثر تعقيداً نحو 2.51 دولار فقط.
وفي تعليق لـOpenAI نشره موقع BleepingComputer التقني، أشارت الشركة إلى أن نموذجها الأحدث “o1-preview” يتمتع بقدرات عالية في مقاومة محاولات الاحتيال، وتحسين الأمان مقارنة بالنماذج السابقة، فضلاً عن تحقيقه تقييما عاليا في اختبارات الأمان بنسبة قدرها 93%، مقارنة بـ71% في نموذج GPT-4o.
وكما أوضحت أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة.
وفيما ختمت مؤكدة التزامها بتعزيز آليات الأمان في نماذجها القادمة، وتقيّد توليد الأصوات في GPT-4o بمجموعة من الأصوات المصرح بها لتجنب عمليات التزييف الصوتي.
المسلة – متابعة – وكالات
النص الذي يتضمن اسم الكاتب او الجهة او الوكالة، لايعبّر بالضرورة عن وجهة نظر المسلة، والمصدر هو المسؤول عن المحتوى. ومسؤولية المسلة هو في نقل الأخبار بحيادية، والدفاع عن حرية الرأي بأعلى مستوياتها.
About Post Author زينSee author's posts
المصدر: المسلة
كلمات دلالية: عملیات الاحتیال
إقرأ أيضاً:
سامسونج تطلق Galaxy A56 مع دعم ميزات الذكاء الاصطناعي
طرحت شركة سامسونج، هاتفها الجديد Galaxy A56 الذي يأتي مع دعم الشحن السلكي بقدرة 45 وات، بعد أربع سنوات من اعتماد الشركة لهذه السرعة لأول مرة، تشمل الميزات الجديدة أيضا دعم ميزات الذكاء الاصطناعي، ومعالج قوي وشاشة أكبر بقياس مع حواف أصغر من جميع الجهات.
وبحسب ما ذكره موقع “gsmarena” التقني، يعد Galaxy A56 أول هاتف يحمل معالج ميدياتك Exynos 1580، وهو يعد ترقية كبيرة مقارنة بسابقه، مما يمنح الهاتف أداء كبير مقارنة بـ A55.
ويحتوي المعالج على وحدة معالجة مركزية CPU بسرعة 2.9 جيجاهرتز، وحدة معالجة رسومات GPU قائمة على AMD، ووحدة معالجة الشبكات العصبية NPU بسرعة 14.7 TOPS، مما يعني أن الأداء سيكون أعلى بنسبة 37% مقارنة بالعام الماضي، يحتوي الهاتف على 8 جيجابايت من ذاكرة الوصول العشوائي رامم.
تم تحسين الشاشة أيضا، حيث أصبحت شاشة HBM أكثر سطوعا، مع 1200 شمعة في السطوع العادي و1900 شمعة في السطوع الأقصى، كما تحافظ الشاشة على دقة Full HD+ وحماية Gorilla Glass Victus+.
فيما يخص المتانة، فإن Galaxy A56 يحتوي أيضا على Victus+ في الجهة الخلفية مع إطار من الألمنيوم، كما أن الهاتف أصبح أنحف من سابقه بملف بسمك 7.4 مم ويتميز بجزيرة كاميرا معاد تصميمها.
يحتوي هاتف Galaxy A56، على كاميرا خلفية رئيسية 50 ميجابكسل، مصحوبة بكاميرا بدقة 12 ميجابكسل بزاوية واسعة، وعدسة بدقة 5 ميجابكسل ماكرو، بالإضافة إلى كاميرا أمامية بدقة 12 ميجابكسل لالتقاط صور السيلفي، يدعم نظام الكامير بعض ميزات الذكاء الاصطناعي.
يشمل الهاتف أيضا تحسينات في التصوير مثل تعزيز الصور السياقي، وتحسين الصور والفيديوهات في الإضاءة المنخفضة باستخدام وضع الحد من الضوضاء، وزيادة سرعة التصوير المستمر، تم تحسين التبديل بين الكاميرا الرئيسية والكاميرا الواسعة الزاوية ليصبح أسرع بمرتين.
وعدت سامسونج بتقديم 6 سنوات من التحديثات الأمنية و6 تحديثات لنظام التشغيل، مما يعد المستخدمين بعمر أطول للهاتف، سيتم إطلاق الهاتف بنظام Android 15 وواجهة One UI 7.0، التي تأتي مع تصميم جديد للواجهة وخيارات تخصيص أكثر.
يأتي الهاتف أيضا مع ميزة Circle to Search، التي تتيح للمستخدمين البحث عن أي شيء على شاشتهم من خلال حركة واحدة فورية.
وتعج هذه هي المرة الأولى التي يحصل فيها هاتف من سلسلة Galaxy A على دعم الشحن السريع بقدرة 45 وات، وهي ميزة كانت مقتصرة سابقا على هواتف Galaxy S الرائدة.
تسمى سامسونج هذه الميزة Super Fast Charge 2.0، ومن المفترض أن يشحن الهاتف 65% من بطاريته التي تبلغ 5000 مللي أمبير في 30 دقيقة، بينما سيستغرق الشحن من 0 إلى 100% حوالي 68 دقيقة.
يتوفر Samsung Galaxy A56 بأربعة ألوان هي: الرمادي الغامق، الرمادي الفاتح، الزيتوني، والوردي، مقابل سعر يبدأ من 479 دولار للإصدار بسعة 128 جيجابايت.
فريدة سيف النصر: الست لو عدت الـ 60 سنة من حقها تقلع الحجاب شرعًا