تأثير الذكاء الاصطناعي على مشهد الأمن السيبراني لعام 2023
تاريخ النشر: 13th, December 2023 GMT
يكشف خبراء كاسبرسكي في تقريرهم الأخير عن التأثير العميق للذكاء الاصطناعي على مشهد الأمن السيبراني لعام 2023. يقوم التقرير بتحليل متعدد الأوجه للآثار المترتبة على الذكاء الاصطناعي، مع التركيز على كيفية استخدام المدافعين والمنظمين له، وتقييم استغلاله المحتمل من قبل المجرمين السيبرانيين بشكل منفصل. هذا التحليل الشامل - الذي يعد جزءاً من نشرة كاسبرسكي الأمنية - سلسلة سنوية من التنبؤات والتقارير التحليلية حول التحولات الرئيسية في عالم الأمن السيبراني.
وسط الوتيرة السريعة للتقدم التكنولوجي والتحولات المجتمعية، صعد مصطلح «الذكاء الاصطناعي» ليصبح محوراً رئيسياً للنقاشات العالمية. ومع الانتشار المتوسع للنماذج اللغوية الكبيرة (LLMs)، تربُط زيادة المخاوف المتعلقة بالأمن والخصوصية الذكاء الاصطناعي بعالم الأمن السيبراني بشكل مباشر. يوضح باحثو كاسبرسكي في التقرير كيف ساعدت أدوات الذكاء الاصطناعي المجرمين السيبرانيين في أنشطتهم الخبيثة في عام 2023، كما يعرضون التطبيقات الدفاعية المحتملة لهذه التقنية. كما يكشف خبراء الشركة أيضاً عن المشهد المتطور للتهديدات المتعلقة بالذكاء الاصطناعي في المستقبل والتي قد تشمل:
زيادة نقاط الضعف المعقدة
مع استمرار دمج النماذج اللغوية الكبيرة التي تتبع التعليمات في المزيد من المنتجات الموجهة للمستهلكين، ستظهر ثغرات أمنية معقدة جديدة عند التقاء الذكاء الاصطناعي التوليدي الاحتمالي مع التقنيات القطعية التقليدية، مما سيؤدي إلى توسيع سطح الهجوم الذي يتوجب على متخصصي الأمن السيبراني حمايته. سيتطلب هذا من المطورين البحث في إجراءات أمنية جديدة مثل إصدار موافقة المستخدم على الأنشطة التي يبدأها الوكلاء العاملين بنماذج لغوية كبيرة.
ظهور مساعد شخصي شامل يعمل بالذكاء الاصطناعي يساعد متخصصي الأمن السيبراني
يستفيد أعضاء فريق المخترقين الاختباري (Red Team) والباحثون من الذكاء الاصطناعي التوليدي في بناء أدوات أمن سيبراني مبتكرة، مما قد يؤدي إلى ظهور مساعد شخصي يستخدم نموذجاً لغوياً كبيراً أو تعلم الآلة. إذ يمكن لهذه الأداة أتمتة مهام فريق المخترقين الاختباري وتوجيههم بناءً على أوامر منفذة في بيئة لاختبار الاختراق.
تزايد استخدام الشبكات العصبونية لإنشاء محتوى بصري مقنع لعمليات الاحتيال
في العام المقبل، قد يستخدم المحتالون الشبكات العصبونية لتعزيز مناوراتهم وأيضاً أدوات الذكاء الاصطناعي لإنشاء محتوى احتيالي أكثر إقناعاً. فبفضل قدرة هذه التقنيات على إنشاء صور ومقاطع فيديو مقنعة دون عناء سيرتفع خطر تصعيد جهات الممارسات الخبيثة للتهديدات السيبرانية المتعلقة بالاحتيال والخداع.
لن يُحدث الذكاء الاصطناعي تغييراً عظيماً في مشهد التهديدات في عام 2024
على الرغم من التوجهات المذكورة أعلاه، يبقى خبراء كاسبرسكي شاكّين في قدرة الذكاء الاصطناعي على تغيير مشهد التهديدات بشكل كبير في أي وقت قريب. ففي حين يتبنى المجرمون السيبرانيون الذكاء الاصطناعي التوليدي، سيفعل المدافعون السيبرانيون الأمر ذاته، فهم سيستخدمون نفس الأدوات أو حتى أدوات أكثر تقدماً لاختبار تعزيز أمان البرامج والشبكات، مما يقلل احتمالية تغيير هذه التقنية لمشهد الهجوم بشكل جذري.
إجراء المزيد من المبادرات التنظيمية المتعلقة بالذكاء الاصطناعي، بمساهمة من القطاع الخاص
أصبح وضع السياسات والتنظيمات أولوية وسط التطوير السريع للتكنولوجيا. فمن المتوقع أن يرتفع عدد المبادرات التنظيمية المتعلقة بالذكاء الاصطناعي. ويمكن أن تقدم الجهات غير الحكومية، مثل الشركات التقنية نظراً لخبرتها في تطوير واستخدام الذكاء الاصطناعي معلومات ستكون قيّمة لإجراء نقاشات حول التنظيمات التي سيتم تطبيقها على الذكاء الاصطناعي على المنصات العالمية والوطنية.
تعريف المحتوى المولد بالذكاء الاصطناعي بعلامة مائية
ستظهر حاجة إلى المزيد من التنظيمات، فضلاً عن سياسات لمزودي الخدمات، التي تفرض تعريف أو تفريق المحتوى الاصطناعي، مع الاستمرار في الاستثمار في تقنيات الكشف عنه. وبدورهم، سيساهم المطورون والباحثون في تطوير طرق لوضع علامات مائية على المحتوى الاصطناعي لتسهيل التعرف عليه ومعرفة مصدره.
قال فلاديسلاف توشكانوف، خبير أمني لدى كاسبرسكي: «الذكاء الاصطناعي سلاح ذو حدين في مجال الأمن السيبراني. حيث تعمل قدراته التكيفية على تعزيز دفاعاتنا وتوفر درعاً استباقياً ضد التهديدات المتطورة. ومع ذلك، تشكل نفس تلك المرونة مخاطراً كثيرة، حيث يستفيد المهاجمون من الذكاء الاصطناعي لتطوير هجمات أكثر تطوراً. لذلك، يعد تحقيق التوازن الصحيح، أي ضمان الاستخدام المسؤول للتقنية دون الإفراط في مشاركة البيانات الحساسة بالغ الأهمية في تأمين حدودنا الرقمية.»
المصدر: بوابة الوفد
كلمات دلالية: الامن السيبراني كاسبرسكي الذكاء الاصطناعى بالذکاء الاصطناعی الذکاء الاصطناعی الأمن السیبرانی الاصطناعی على
إقرأ أيضاً:
Copilot Search.. مايكروسوفت تنافس جوجل بإطلاق ميزة البحث بالذكاء الاصطناعي
أعلنت شركة مايكروسوفت، عن إطلاق ميزة بحث Copilot، وهي ميزة جديدة في محرك بحث Bing تعتمد على الذكاء الاصطناعي لتوفير إجابات دقيقة وأكثر تفاعلية.
ويتزامن هذا الإعلان مع الكشف عن وضع الذكاء الاصطناعي من جوجل، مما يشير إلى تزايد المنافسة بين الشركتين لتحسين تجربة البحث باستخدام الذكاء الاصطناعي.
في الشهر الماضي، أعلنت جوجل عن توسيع ميزة "نظرة عامة على الذكاء الاصطناعي"، إلى جانب طرح وضع الذكاء الاصطناعي، الذي يتيح للمستخدمين الحصول على إجابات أكثر تعمقا مدعومة بالذكاء الاصطناعي، بما في ذلك روابط ويب ذات صلة وأسئلة متابعة.
تهدف هذه الميزة إلى توفير إجابات أكثر دقة لعمليات البحث التي تتطلب تحليلا أعمق أو مقارنات منطقية.
وفي خطوة مماثلة، قدمت مايكروسوفت ميزة بحث Copilot في Bing، وهي متاحة الآن لجميع مستخدمي الموقع، توفر هذه الميزة تجربة بحث تفاعلية، مما يمكن الذكاء الاصطناعي من توليد إجابات بناء على مصادر متعددة عبر الإنترنت عند إدخال استعلام.
كيف يعمل بحث Copilot؟عند إدخال استعلام في محرك البحث، يستخدم Copilot Search الذكاء الاصطناعي لإنشاء إجابة مخصصة، ثم يعرض صفحة نتائج البحث بخيارين رئيسيين تتضمن عرض جميع الروابط عبر فتح شريطا جانبيا يعرض المصادر والروابط ذات الصلة.
بالإضافة إلى عرض طريقة الاستدلال حيث يوضح Copilot Search كيفية صياغة الإجابة بناء على البيانات المتاحة.
كما يمكن للمستخدمين أيضا إضافة أسئلة متابعة من خلال مربع النص أسفل الصفحة، مما يسهل التفاعل المستمر مع النظام والحصول على إجابات إضافية في الصفحة نفسها.
بالإضافة إلى ذلك، يعرض Copilot Search روابط للصور ومقاطع الفيديو ذات الصلة على الجانب الأيمن من الصفحة، ولكن النقر على هذه الروابط ينقل المستخدمين إلى واجهة Bing التقليدية للصور والفيديو.
يوفر Bing للمستخدمين الذين يفضلون تجربة بحث تقليدية، إلى جانب خيارا لعرض النتائج بتنسيق تقليدي، تظهر إجابة Copilot أعلى صفحة الروابط، مما يعكس تجربة هجينة تجمع بين الذكاء الاصطناعي والبحث التقليدي، على غرار ميزة AI Overviews من جوجل.
تسلط ميزة البحث المساعد من مايكروسوفت الضوء على اتجاه متزايد نحو دمج نماذج التعلم الآلي الكبيرة LLMs في محركات البحث، مما يحسن تجارب البحث التفاعلية والذكية.
ارتفاع درجات الحرارة على جميع الأنحاء اليوم مع رياح مثيرة للأتربة