احذر الجرائم السيبرانية عبر الإنترنت المظلم
تاريخ النشر: 29th, January 2024 GMT
كشفت خدمة Digital Footprint Intelligence من كاسبرسكي على ما يقرب من 3 آلاف منشور على الإنترنت المظلم يناقش استخدام ChatGPT وغيره من النماذج اللغوية الكبيرة لإجراء الأنشطة غير القانونية.
حيث تستكشف مصادر التهديد مخططات مختلفة، بدءاً من إنشاء بدائل خبيثة لروبوت المحادثة الشهير وحتى كسر حماية (jailbreak) النسخة الأصلية من الروبوت وغيرها.
هذا إضافة إلى امتلاء قنوات تواصل الإنترنت المظلم بحسابات ChatGPT مسروقة وخدمات تعرض إنشاءها التلقائي بكميات هائلة، لتصل بذلك إلى 3 آلاف منشور آخر.
واكتشفت الخدمة في عام 2023 ما يقرب من 3 آلاف منشور على الإنترنت المظلم يناقشون استخدام ChatGPT لأغراض غير قانونية أو يتحدثون عن الأدوات التي تعتمد على تقنيات الذكاء الاصطناعي.
حيث بلغ عدد هذه النقاشات ذروته في مارس من ذلك العام، إلا أن النقاشات استمرت حتى بعد مارس.
وشرحت «أليسا كوليشينكو»، محللة معلومات البصمة الرقمية في كاسبرسكي حول هذا الموضوع قائلة: «تستكشف مصادر التهديد مخططات مختلفة لاستخدام ChatGPT والذكاء الاصطناعي بنشاط. وغالباً ما تتضمن الموضوعات تطوير البرمجيات الخبيثة وأنواع أخرى من الاستخدام غير المشروع للنماذج اللغوية، مثل معالجة بيانات المستخدمين المسروقة، وتحليل ملفات الأجهزة المصابة، وغيرها. أدت شعبية أدوات الذكاء الاصطناعي إلى دمج استجابات ChatGPT الآلية أو ما يعادلها في بعض منتديات المجرمين السيبرانيين. بالإضافة إلى ذلك، تميل مصادر التهديد إلى مشاركة تعليمات كسر حماية هذه الأداة عبر مختلف قنوات تواصل الإنترنت المظلم؛ إذ تعد هذه التعليمات مجموعات خاصة من الأوامر القادرة على إتاحة وظائف إضافية للأداة. كما تميل المصادر إلى ابتكار طرق لاستغلال الأدوات المشروعة، مثل تلك المستخدمة في اختبار الاختراق المعتمدة على نماذج لغوية لأغراض خبيثة.
بصرف النظر عن روبوتات المحادثة وأدوات الذكاء الاصطناعي المذكورة سابقاً، يتم إيلاء اهتمام كبير لروبوتات المحادثة المصممة لأغراض خبيثة مثل XXXGPT، وFraudGPT، وغيرهما. حيث يتم الترويج للنماذج اللغوية هذه على الإنترنت المظلم كبدائل لأداة ChatGPT مع تميّزها بوظائف إضافية وبعدم فرضها القيود الموجودة في الأداة الأصلية.
عرض حسابات ChatGPT مسروقة للبيع
يواجه المستخدمون والشركات تهديداً آخر وهو سوق لبيع حسابات النسخة المدفوعة من ChatGPT. ففي عام 2023، اكتشفت كاسبرسكي 3 آلاف منشور آخر (بالإضافة إلى المنشورات المذكورة سابقاً) يعرضون حسابات ChatGPT للبيع عبر الإنترنت المظلم وقنوات مظلمة على تطبيق تلجرام. إذ تقوم هذه المنشورات إما ببيع الحسابات المسروقة أو الترويج لخدمات التسجيل التلقائي لمجموعة من الحسابات عند الطلب. والجدير بالذكر أن بعض المنشورات تمت مشاركتها أكثر من مرة عبر قنوات تواصل الإنترنت المظلم المتعددة.
نشاط المنشورات على الإنترنت المظلم التي تقدم حسابات ChatGPT مسروقة أو خدمات التسجيل التلقائي. المصدر: Kaspersky Digital Footrpint Intelligence
كما أضافت «أليسا كوليشينكو»: «أدوات الذكاء الاصطناعي ليست خطيرة بطبيعتها، لكن يحاول المجرمون السيبرانيون التوصل إلى طرق فعالة لاستخدام النماذج اللغوية الكبيرة، مما يدفع التوجه نحو تسهيل ارتكاب الجريمة السيبرانية، وربما يزيد عدد الهجمات السيبرانية في بعض الحالات. ومع ذلك، فليس مرجحاً أن يُحدث الذكاء الاصطناعي التوليدي وروبوتات المحادثة ثورة في مشهد الهجمات السيبرانية، في عام 2024 على الأقل. غالباً ما تعني الطبيعة الآلية للهجمات السيبرانية الحاجة إلى دفاعات آلية. ومع ذلك، فإن البقاء على اطلاع بأنشطة المهاجمين أمر بالغ الأهمية لاستباق الخصوم فيما يتعلق بأمن الشركات السيبراني.»
يمكنك قراءة الدراسة المفصلة على الموقع الإلكتروني الرسمي لخدمة Kaspersky Digital Footprint Intelligence. كما يجدر تنفيذ التدابير الأمنية التالية لتجنب التهديدات من المجرمين السيبرانيين في الإنترنت المظلم:
• استخدم خدمة Kaspersky Digital Footprint Intelligence لمساعدة المحللين الأمنيين على إدراك منظور المخترقين لموارد الشركة، وللكشف السريع عن اتجاهات الهجوم المحتملة والمتاحة على الفور. ويساعد هذا أيضاً في نشر الوعي حول التهديدات الحالية من المخترقين، الذي بدوره يساعدك في ضبط دفاعاتك أو اتخاذ إجراءات وقائية في الوقت المناسب.
• اختر حلاً موثوقاً لحماية النقاط الطرفية مثل حل Kaspersky Endpoint Security for Business المجهَّز بقدرات تحليل السلوك ليكتشف الأنشطة الخبيثة ويدير الحالات الشاذة، وذلك لحماية فعالة ضد التهديدات المعروفة وغير المعروفة.
• يمكن أن تساعد الخدمات المخصصة في مكافحة الهجمات على الأهداف المهمة. فيمكن أن تساعد خدمة Kaspersky Managed Detection and Response في كشف عمليات التطفل وإيقافها في مراحلها المبكرة قبل أن يحقق المخترقون أهدافهم. إذا واجهت حادثاً لسبب ما، فستساعدك خدمة Kaspersky Incident Response على الاستجابة له وتقليل عواقبه.
المصدر: صدى البلد
كلمات دلالية: على الإنترنت المظلم الذکاء الاصطناعی
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
1.5% زيادة في إجمالي المساحة المنزرعة عام 2022 / 2023