كاسبرسكي تحذر من المخاطر الأمنية في عصر الذكاء الاصطناعي
تاريخ النشر: 4th, April 2024 GMT
أدى الاعتماد واسع النطاق لتقنيات الذكاء الاصطناعي وتعلم الآلة في السنوات الأخيرة إلى تزويد مصادر التهديد بأدوات جديدة متطورة لتنفيذ هجماتهم. ويُعد التزييف العميق أحد هذه المنتجات، إذ يقلد البشر ويتضمن كلاماً أو صوراً أو فيديو مولداً يصعب تمييزه من الحقيقي. وبينما عادة ما تستهلك هذه الهجمات وقتاً وجهداً أكبر من «مكافآتها» المحتملة، تحذر كاسبرسكي من وجوب إدراك الشركات والمستهلكين لكون عمليات التزييف العميق ستصبح مصدر قلق أكبر في المستقبل على الأرجح.
كشفت أبحاث كاسبرسكي وجود أدوات وخدمات صنع التزييف العميق في أسواق الشبكة المظلمة. وتوفر هذه الخدمات مقاطع فيديو مصنوعة بالذكاء الاصطناعي التوليدي ومخصصة لمجموعة متنوعة من الأغراض، بما في ذلك الاحتيال، والابتزاز، وسرقة البيانات السرية. كما تشير تقديرات خبراء كاسبرسكي إلى إمكانية شراء دقيقة واحدة من فيديوهات التزييف العميق مقابل أقل من 300 دولار أمريكي.
بالإضافة لذلك، هناك مخاوف حول الفجوة الكبيرة في المعرفة الرقمية بين مستخدمي الإنترنت. حيث أشار استطلاع رأي رقمنة الأعمال الذي أجرته كاسبرسكي مؤخراً¹ إلى أن 51% من الموظفين الذين شملهم الاستطلاع في منطقة الشرق الأوسط وتركيا وإفريقيا (META) قالوا أنهم يستطيعون التمييز بين الصورة المُولدة بتقنية التزييف العميق والصورة الحقيقية؛ لكن ولدى إجراء الاختبار حقاً، لم يتمكن سوى 25%2 منهم من تمييز الصورة الحقيقية عن تلك المولدة بالذكاء الاصطناعي. ويعرّض ذلك المؤسسات للخطر، حيث غالباً ما يكون الموظفون هم الأهداف الأساسية للتصيد الاحتيالي وهجمات الهندسة الاجتماعية الأخرى.
على سبيل المثال، يمكن للمجرمين السيبرانيين إنشاء مقطع فيديو مزيف لرئيس تنفيذي يطلب تحويلاً مصرفياً أو يمنح الإذن لعملية دفع، وهو ما يسمح لهم بسرقة أموال الشركة. كما يمكنهم توليد مقاطع فيديو أو صور مزيفة للأفراد واستخدامها لابتزازهم مقابل المال أو المعلومات.
قال فلاديسلاف توشكانوف، الم البيانات الرئيسي في كاسبرسكي: «على الرغم من عدم توافر التقنية اللازمة لإنشاء التزييف العميق عالي الجودة على نطاق واسع حتى الآن، سيكون توليد أصوات لانتحال شخصية ما في الوقت الفعلي أحد أكثر الاستخدامات الممكنة للتقنية. وعلى سبيل المثال، تم خداع عامل مالي في شركة متعددة الجنسيات لتحويل 25 مليون دولار إلى المحتالين الذين استخدموا تقنية التزييف العميق لانتحال شخصية الرئيس المالي للشركة في مكالمة فيديو جماعية. من المهم أن نتذكر أن تهديد التزييف العميق لا يقتصر على الشركات فحسب، بل أنه يمتد إلى المستخدمين الأفراد أيضاً - حيث ينشر التزييف العميق المعلومات المضللة، ويستخدم في عمليات الاحتيال، وينتحل شخصيات الناس بدون موافقتهم، كما يشكل تهديداً سيبرانياً متزايداً يجب الحماية منه.»
للحماية من التهديدات المختلفة التي يشكلها التزييف العميق، توصي كاسبرسكي الأشخاص والشركات باتخاذ الإجراءات التالية:
انتبه للمكالمات المشبوهة: على الموظفين الانتباه إلى جودة الصوت الرديئة، والرتابة غير الطبيعية لصوت «الشخص»، وكلامه غير المفهوم، والضوضاء الخارجية.
انتبه إلى الميزات الأوضح لفيديوهات التزييف العميق: يشمل ذلك الحركة المتشنجة، والتغيرات في الإضاءة بين الإطارات، وتغير لون البشرة، وعدم تزامن الشفاه بشكل جيد مع الكلام، والإضاءة الضعيفة.
لا تتخذ قرارات بناءً على المشاعر أبداً، ولا تشارك التفاصيل مع أي شخص: من الأفضل دائماً أن تسأل عن الأشياء التي لا يعرفها سوى هذا الشخص أو توقف المكالمة وتتحقق من المعلومات الواردة مجدداً عبر عدة قنوات. وهنا تبرز إهمية بروتوكول «ثِق، لكن تحقق».
تحقق من ممارسات الأمن السيبراني للمؤسسة وقم بتحديثها.
يمكن أن يساعد حل مثل Kaspersky Threat Intelligence في إبقاء متخصصي أمن المعلومات مطلعين على أحدث التطورات حول التزييف العميق.
يجب على الشركات تعزيز جدار حمايتها البشري من خلال ضمان فهم موظفيها لماهية التزييف العميق، وكيفية عمله، والتحديات التي يمكن أن يشكلها. ويمكن أن يشمل ذلك حملات التوعية والتثقيف المستمرة لتعليم الموظفين طريقة اكتشاف التزييف العميق.
المصدر: بوابة الوفد
كلمات دلالية: التزییف العمیق
إقرأ أيضاً:
الأمم المتحدة: الذكاء الاصطناعي قد يؤثر على 40% من الوظائف
الاقتصاد نيوز - متابعة
من المتوقع أن تصل القيمة السوقية للذكاء الاصطناعي إلى 4.8 تريليون دولار بحلول عام 2033، وهي قيمة تعادل تقريباً حجم الاقتصاد الألماني غير أن فوائد هذه التكنولوجيا تظل مركّزة بشكل كبير في عدد محدود من الدول والشركات، وفقاً لتقرير صدر الخميس عن منظمة الأمم المتحدة للتجارة والتنمية (الأونكتاد).
وأشارت المنظمة إلى أن الذكاء الاصطناعي يُعزز الإنتاجية ويلعب دوراً محورياً في التحول الرقمي، لكنه في المقابل يثير مخاوف متزايدة بشأن الأتمتة وفقدان الوظائف، لافتةً إلى أن نحو 40% من الوظائف في العالم قد تتأثر بتقنيات الذكاء الاصطناعي.
وحذّر التقرير من أن مكاسب الأتمتة المعتمدة على الذكاء الاصطناعي غالباً ما تصبّ في صالح رأس المال على حساب اليد العاملة، ما قد يؤدي إلى اتساع الفجوة في توزيع الدخل ويقوّض الميزة التنافسية للعمالة منخفضة التكلفة في الدول النامية.
تأثير الذكاء الاصطناعي على معدلات البطالة
وتتماهى هذه التحذيرات مع مخاوف سابقة أعرب عنها صندوق النقد الدولي، حيث أشار في وقت سابق إلى أن الذكاء الاصطناعي قد يفاقم من معدلات البطالة وعدم المساواة. وفي يناير كانون الثاني، كشف المنتدى الاقتصادي العالمي أن 41% من أرباب العمل يخططون لتقليص عدد الموظفين في المجالات التي يمكن استبدالها بالذكاء الاصطناعي.
وسلّط تقرير الأونكتاد الضوء على التفاوتات المتزايدة بين الدول، موضحاً أن 40% من الإنفاق العالمي على البحث والتطوير في الذكاء الاصطناعي يتم عبر 100 شركة فقط، معظمها متمركزة في الولايات المتحدة والصين. كما أشار إلى أن عمالقة التكنولوجيا مثل "آبل" و"إنفيديا" و"مايكروسوفت"، الذين يُعدون من أبرز المستفيدين من الطفرة التكنولوجية الحالية، يمتلكون قيمة سوقية تعادل الناتج المحلي الإجمالي للقارة الإفريقية بأكملها.
وفي ختام التقرير، حذّرت المنظمة من أن هذا التركّز في القوة التكنولوجية، سواء على مستوى الدول أو الشركات، يهدد بتوسيع الفجوات الرقمية ويُعرّض العديد من البلدان لخطر التخلف عن ركب التطور، مشيرةً إلى أن 118 دولة –معظمها من دول الجنوب العالمي– مغيّبة عن المناقشات الدولية حول حوكمة الذكاء الاصطناعي.
هل تلحق الدول النامية بركب الذكاء الاصطناعي؟
أكّدت منظمة الأمم المتحدة للتجارة والتنمية (الأونكتاد) في تقريرها أن الذكاء الاصطناعي لا يقتصر فقط على استبدال الوظائف، بل يمتلك القدرة أيضاً على خلق صناعات جديدة وتمكين العاملين، شريطة أن يتم الاستثمار بشكل كافٍ في برامج إعادة التأهيل والتدريب على المهارات الجديدة والمتقدمة.
وشدد التقرير على ضرورة ألا تتخلّف الدول النامية عن الركب، مؤكداً أن ذلك يتطلب أن "تحصل هذه الدول على مكان لها على طاولة النقاش" عند وضع الأطر التنظيمية والأخلاقية الخاصة بالذكاء الاصطناعي.
وقدّمت الأونكتاد في تقريرها مجموعة من التوصيات إلى المجتمع الدولي بهدف دعم نمو شامل وعادل في هذا المجال، من أبرزها إنشاء آلية للإفصاح العام عن تطبيقات الذكاء الاصطناعي، وتوفير بنية تحتية مشتركة لهذه التكنولوجيا، وتشجيع استخدام النماذج مفتوحة المصدر، بالإضافة إلى إطلاق مبادرات لمشاركة المعرفة والموارد المتعلقة بالذكاء الاصطناعي.
وأشارت المنظمة إلى أن "الذكاء الاصطناعي يمكن أن يكون محفّزاً للتقدم والابتكار والازدهار المشترك –ولكن فقط إذا قامت الدول بتوجيه مساره بشكل فعّال". وختم التقرير بالتأكيد على أن "الاستثمارات الاستراتيجية، والحَوْكمة الشاملة، والتعاون الدولي، تُعدّ مفاتيح أساسية لضمان استفادة الجميع من الذكاء الاصطناعي، بدلاً من أن يتحول إلى أداة لتكريس الفجوات القائمة".
ليصلك المزيد من الأخبار اشترك بقناتنا على التيليكرام