نسب احتيال تصل 60%.. الذكاء الاصطناعي يهدد الأمن الرقمي
تاريخ النشر: 5th, November 2024 GMT
تابع أحدث الأخبار عبر تطبيق
يواصل الذكاء الاصطناعي تحقيق تقدم مذهل في مختلف المجالات، إلا أن هناك جانبًا مظلمًا لهذا التطور، خاصة فيما يتعلق بالمخاطر الأمنية التي قد يتسبب فيها، فقد أظهرت دراسة حديثة أن واجهة البرمجة الصوتية الخاصة بنموذج ChatGPT-4o من OpenAI قد تُستغل من قبل مجرمي الإنترنت لتنفيذ عمليات احتيال مالي، ووفقًا لما أوردته "البوابة العربية للأخبار التقنية"، فقد تراوحت معدلات نجاح هذه العمليات بين منخفضة ومتوسطة، مما يسلط الضوء على الحاجة الماسة لتطوير آليات أمان أكثر تطورًا.
يُعتبر ChatGPT-4o أحدث نموذج من OpenAI الذي يجمع بين قدرات الذكاء الاصطناعي في فهم وتحليل النصوص والصوت والصور، مما يمنحه إمكانيات هائلة، إلا أن هذه القدرات، حسب ما ذكر باحثون من جامعة إلينوي الأمريكية، تُستغل أحيانًا في عمليات احتيال، حيث تُستخدم أدوات تكنولوجيا الصوت التي يعتمد عليها النموذج في اختراق أنظمة المصادقة الثنائية، وإجراء عمليات تحويل مالية مزورة، فضلاً عن سرقة البيانات الحساسة مثل حسابات البريد الإلكتروني ووسائل التواصل الاجتماعي.
هذه الأدوات البرمجية التي تستخدم الصوت، تمكن المهاجمين من التلاعب في البيانات وإدخال التعليمات اللازمة عبر الويب، ما يسمح لهم بتجاوز بعض القيود التي وضعتها OpenAI للحد من إساءة استخدام النموذج، وعلى الرغم من أن النموذج يُرفض غالبًا التعامل مع البيانات الحساسة، فإن الباحثين نجحوا في إيجاد طرق لتحفيزه على التجاوب مع هذه المحاولات.
نتائج الدراسة: عمليات احتيال "رخيصة" وفعالةفي التجارب التي أُجريت، أظهر الباحثون أن معدلات نجاح عمليات الاحتيال تراوحت بين 20% و60%، مع حاجة كل محاولة إلى نحو 26 خطوة عبر المتصفح لإتمام العملية، ما استغرق في الحالات الأكثر تعقيدًا حوالي 3 دقائق فقط، ومن حيث التكلفة، أظهرت النتائج أن تكلفة تنفيذ عملية احتيال واحدة كانت منخفضة للغاية، إذ تراوحت بين 75 سنتًا أميركيًا للعمليات البسيطة مثل سرقة بيانات حسابات Gmail، و2.51 دولار فقط في عمليات التحويل المصرفي الأكثر تعقيدًا.
استجابة OpenAI والتحديات المستقبليةوفي رد فعلها على هذه الدراسة، أكدت OpenAI أنها تبذل جهودًا مستمرة لتحسين الأمان في نماذجها المستقبلية، وأشارت إلى أن النموذج الأحدث "o1-preview" يتمتع بقدرات متقدمة في مقاومة محاولات الاحتيال، حيث حقق تقييم أمان بنسبة 93% مقارنة بـ71% في النموذج السابق، كما أضافت الشركة أنها ملتزمة بتطوير آليات أكثر قوة لمنع الاستخدامات الضارة، بما في ذلك تقييد توليد الأصوات في نموذج GPT-4o إلى مجموعة أصوات مصرح بها فقط لتجنب التزييف الصوتي.
المصدر: البوابة نيوز
كلمات دلالية: الامن الرقمي الذكاء الاصطناعي تكنولوجيا عمليات احتيال مجرمي الإنترنت
إقرأ أيضاً:
الذكاء الاصطناعي يكشف مخاطر أمراض القلب عبر مسح شبكية العين
في خطوة واعدة نحو تحسين تشخيص أمراض القلب، نجح باحثون من جامعة “ملبورن” الأسترالية في دمج تقنية مسح شبكية العين المدعومة بالذكاء الاصطناعي داخل عيادات الطب العام، بهدف الكشف المبكر عن مخاطر الإصابة بالنوبات القلبية والسكتات الدماغية.
وأظهرت الدراسة، التي قادتها الباحثة ويني هو، أن هذه التقنية غير الجراحية توفر تقييماً سريعاً وفعالاً لمخاطر أمراض القلب والأوعية الدموية. وشارك في الدراسة 361 مريضًا تتراوح أعمارهم بين 45 و70 عامًا، حيث خضعوا لتقييم تقليدي للمخاطر، ثم تم مسح شبكية كل منهم باستخدام كاميرا متخصصة، ليقوم الذكاء الاصطناعي بتحليل الأوعية الدموية وإصدار تقرير فوري حول حالتهم الصحية.
وقارن الباحثون نتائج المسح الشبكي مع مخطط منظمة الصحة العالمية لتقييم مخاطر القلب، فوجدوا تطابقًا بنسبة 67.4% بين التقييمين. كما أظهرت التقنية نتائج مختلفة لدى بعض المرضى، حيث صنّفت 17.1% منهم ضمن فئة المخاطر الأعلى مقارنة بالمخطط التقليدي، بينما قُدّرت المخاطر بنسبة أقل لدى 19.5% من المرضى.
وبلغت نسبة نجاح التصوير 93.9%، ما يدل على إمكانية تصنيف معظم المرضى بناءً على الفحص البصري فقط. كما أعرب 92.5% من المشاركين و87.5% من الأطباء العامين عن رضاهم عن التقنية، مؤكدين إمكانية تبنيها في المستقبل لتعزيز الرعاية الصحية الوقائية.
هذه النتائج تفتح آفاقًا جديدة لاستخدام تقنيات الذكاء الاصطناعي في مجال الطب، مما قد يسهم في تقليل الوفيات المرتبطة بأمراض القلب عبر التشخيص المبكر والتدخل السريع.
محافظ المنوفية: نقل المتقاعسين بالإدارة الزراعية بشبين الكوم وإحالة المتعدين للنيابة