احذر الجرائم السيبرانية عبر الإنترنت المظلم
تاريخ النشر: 29th, January 2024 GMT
كشفت خدمة Digital Footprint Intelligence من كاسبرسكي على ما يقرب من 3 آلاف منشور على الإنترنت المظلم يناقش استخدام ChatGPT وغيره من النماذج اللغوية الكبيرة لإجراء الأنشطة غير القانونية.
حيث تستكشف مصادر التهديد مخططات مختلفة، بدءاً من إنشاء بدائل خبيثة لروبوت المحادثة الشهير وحتى كسر حماية (jailbreak) النسخة الأصلية من الروبوت وغيرها.
هذا إضافة إلى امتلاء قنوات تواصل الإنترنت المظلم بحسابات ChatGPT مسروقة وخدمات تعرض إنشاءها التلقائي بكميات هائلة، لتصل بذلك إلى 3 آلاف منشور آخر.
واكتشفت الخدمة في عام 2023 ما يقرب من 3 آلاف منشور على الإنترنت المظلم يناقشون استخدام ChatGPT لأغراض غير قانونية أو يتحدثون عن الأدوات التي تعتمد على تقنيات الذكاء الاصطناعي.
حيث بلغ عدد هذه النقاشات ذروته في مارس من ذلك العام، إلا أن النقاشات استمرت حتى بعد مارس.
وشرحت «أليسا كوليشينكو»، محللة معلومات البصمة الرقمية في كاسبرسكي حول هذا الموضوع قائلة: «تستكشف مصادر التهديد مخططات مختلفة لاستخدام ChatGPT والذكاء الاصطناعي بنشاط. وغالباً ما تتضمن الموضوعات تطوير البرمجيات الخبيثة وأنواع أخرى من الاستخدام غير المشروع للنماذج اللغوية، مثل معالجة بيانات المستخدمين المسروقة، وتحليل ملفات الأجهزة المصابة، وغيرها. أدت شعبية أدوات الذكاء الاصطناعي إلى دمج استجابات ChatGPT الآلية أو ما يعادلها في بعض منتديات المجرمين السيبرانيين. بالإضافة إلى ذلك، تميل مصادر التهديد إلى مشاركة تعليمات كسر حماية هذه الأداة عبر مختلف قنوات تواصل الإنترنت المظلم؛ إذ تعد هذه التعليمات مجموعات خاصة من الأوامر القادرة على إتاحة وظائف إضافية للأداة. كما تميل المصادر إلى ابتكار طرق لاستغلال الأدوات المشروعة، مثل تلك المستخدمة في اختبار الاختراق المعتمدة على نماذج لغوية لأغراض خبيثة.
بصرف النظر عن روبوتات المحادثة وأدوات الذكاء الاصطناعي المذكورة سابقاً، يتم إيلاء اهتمام كبير لروبوتات المحادثة المصممة لأغراض خبيثة مثل XXXGPT، وFraudGPT، وغيرهما. حيث يتم الترويج للنماذج اللغوية هذه على الإنترنت المظلم كبدائل لأداة ChatGPT مع تميّزها بوظائف إضافية وبعدم فرضها القيود الموجودة في الأداة الأصلية.
عرض حسابات ChatGPT مسروقة للبيع
يواجه المستخدمون والشركات تهديداً آخر وهو سوق لبيع حسابات النسخة المدفوعة من ChatGPT. ففي عام 2023، اكتشفت كاسبرسكي 3 آلاف منشور آخر (بالإضافة إلى المنشورات المذكورة سابقاً) يعرضون حسابات ChatGPT للبيع عبر الإنترنت المظلم وقنوات مظلمة على تطبيق تلجرام. إذ تقوم هذه المنشورات إما ببيع الحسابات المسروقة أو الترويج لخدمات التسجيل التلقائي لمجموعة من الحسابات عند الطلب. والجدير بالذكر أن بعض المنشورات تمت مشاركتها أكثر من مرة عبر قنوات تواصل الإنترنت المظلم المتعددة.
نشاط المنشورات على الإنترنت المظلم التي تقدم حسابات ChatGPT مسروقة أو خدمات التسجيل التلقائي. المصدر: Kaspersky Digital Footrpint Intelligence
كما أضافت «أليسا كوليشينكو»: «أدوات الذكاء الاصطناعي ليست خطيرة بطبيعتها، لكن يحاول المجرمون السيبرانيون التوصل إلى طرق فعالة لاستخدام النماذج اللغوية الكبيرة، مما يدفع التوجه نحو تسهيل ارتكاب الجريمة السيبرانية، وربما يزيد عدد الهجمات السيبرانية في بعض الحالات. ومع ذلك، فليس مرجحاً أن يُحدث الذكاء الاصطناعي التوليدي وروبوتات المحادثة ثورة في مشهد الهجمات السيبرانية، في عام 2024 على الأقل. غالباً ما تعني الطبيعة الآلية للهجمات السيبرانية الحاجة إلى دفاعات آلية. ومع ذلك، فإن البقاء على اطلاع بأنشطة المهاجمين أمر بالغ الأهمية لاستباق الخصوم فيما يتعلق بأمن الشركات السيبراني.»
يمكنك قراءة الدراسة المفصلة على الموقع الإلكتروني الرسمي لخدمة Kaspersky Digital Footprint Intelligence. كما يجدر تنفيذ التدابير الأمنية التالية لتجنب التهديدات من المجرمين السيبرانيين في الإنترنت المظلم:
• استخدم خدمة Kaspersky Digital Footprint Intelligence لمساعدة المحللين الأمنيين على إدراك منظور المخترقين لموارد الشركة، وللكشف السريع عن اتجاهات الهجوم المحتملة والمتاحة على الفور. ويساعد هذا أيضاً في نشر الوعي حول التهديدات الحالية من المخترقين، الذي بدوره يساعدك في ضبط دفاعاتك أو اتخاذ إجراءات وقائية في الوقت المناسب.
• اختر حلاً موثوقاً لحماية النقاط الطرفية مثل حل Kaspersky Endpoint Security for Business المجهَّز بقدرات تحليل السلوك ليكتشف الأنشطة الخبيثة ويدير الحالات الشاذة، وذلك لحماية فعالة ضد التهديدات المعروفة وغير المعروفة.
• يمكن أن تساعد الخدمات المخصصة في مكافحة الهجمات على الأهداف المهمة. فيمكن أن تساعد خدمة Kaspersky Managed Detection and Response في كشف عمليات التطفل وإيقافها في مراحلها المبكرة قبل أن يحقق المخترقون أهدافهم. إذا واجهت حادثاً لسبب ما، فستساعدك خدمة Kaspersky Incident Response على الاستجابة له وتقليل عواقبه.
المصدر: صدى البلد
كلمات دلالية: على الإنترنت المظلم الذکاء الاصطناعی
إقرأ أيضاً:
آبل تكشف خطتها لتطوير الذكاء الاصطناعي بتحليل بيانات المستخدمين
في محاولة للرد على الانتقادات المتعلقة بضعف أداء أدوات الذكاء الاصطناعي التي أطلقتها مؤخرًا، خاصة فيما يتعلق بتلخيص الإشعارات، كشفت شركة "آبل" يوم الإثنين عن آلية جديدة لتحسين نماذج الذكاء الاصطناعي الخاصة بها، تعتمد على تحليل بيانات المستخدمين بطريقة تراعي الخصوصية، باستخدام ما يعرف بـ"البيانات الاصطناعية".
تحسين الذكاء الاصطناعي دون المساس بالخصوصيةوأوضحت الشركة في منشور رسمي على مدونتها التقنية أنها تستخدم تقنية "الخصوصية التفاضلية" (Differential Privacy)، والتي تتيح تحليل البيانات بشكل آمن من دون جمع محتوى المستخدمين الفعلي، مما يسمح بتحسين أداء النماذج من دون المساس بخصوصية الأفراد.
وتعتمد آبل على إنشاء بيانات اصطناعية تشبه في الشكل والخصائص بيانات المستخدمين الحقيقية، لكنها لا تتضمن أي محتوى فعلي قام المستخدم بإنتاجه.
وفقًا لآبل، تبدأ العملية بإنشاء مجموعة كبيرة من الرسائل الإلكترونية الاصطناعية حول مواضيع متنوعة، ثم يتم تحويل كل رسالة إلى ما يُعرف بـ"التمثيل الرقمي" (Embedding)، وهو نموذج يعكس الخصائص الأساسية للرسالة مثل اللغة، الموضوع، والطول.
بعد ذلك، يتم إرسال هذه التمثيلات الرقمية إلى عدد محدود من أجهزة المستخدمين الذين اختاروا مشاركة تحليلات الجهاز مع آبل (Device Analytics)، حيث تقوم الأجهزة بمقارنة هذه التمثيلات مع عينات من الرسائل الحقيقية لتحديد مدى دقتها، وبالتالي إبلاغ آبل بأي تحسينات مطلوبة.
نماذج مستهدفة بالتحسينأكدت آبل أنها بدأت باستخدام هذه التقنية لتحسين نموذج Genmoji، وهو النظام المسؤول عن إنشاء رموز تعبيرية مخصصة اعتمادًا على الذكاء الاصطناعي، كما تخطط لتوسيع استخدامها لتشمل ميزات أخرى مثل Image Playground لإنشاء صور تفاعلية، و أداة Image Wand لتحسين الصور بواسطة الذكاء الاصطناعي.
بالاضافة إلى أداة Memories Creation، لإنشاء الذكريات تلقائيًا من صور المستخدم، وأداة Writing Tools لتحسين تجربة الكتابة، واخيراً أداة Visual Intelligence لفهم وتحليل الصور والمحتوى المرئي.
كما أشارت الشركة إلى أنها ستعتمد هذه الطريقة لاحقًا لتحسين ميزة تلخيص الرسائل الإلكترونية، والتي تلقت انتقادات لكونها غير دقيقة أو غير مفيدة.
خلاصةفي ظل المنافسة الشرسة بين عمالقة التكنولوجيا لتطوير حلول ذكاء اصطناعي فعالة وآمنة، يبدو أن آبل تسير في طريق مختلف، يركز على الخصوصية كأولوية مطلقة.
فيما يمثل استخدام البيانات الاصطناعية نقلة نوعية في كيفية تحسين المنتجات دون التضحية بثقة المستخدم – وهي ركيزة أساسية في فلسفة آبل منذ سنوات.
اقتحامات بأنحاء الضفة وهجمات للمستوطنين بأريحا وبيت لحم