الذكاء الاصطناعي والجرائم الإلكترونية.. يزيد التهديدات ويعزز الأمن السيبراني
تاريخ النشر: 15th, August 2023 GMT
يتزايد تأثير برامج الذكاء الاصطناعي على الأمن الإلكتروني، حيث يتم استخدامها لأغراض سلبية تشمل الجرائم الإلكترونية، وأخرى إيجابية لتعزيز الأمن السيبراني.
وتساعد هذه البرامج المبرمجين والمختصين في عالم البرمجة على تعزيز قدرات الاختراق وابتزاز الضحايا، فيما تساعد أيضا على تعزيز برامج الحماية والأمن لمكافحة الفيروسات والهجمات.
وأثار التبني الأخير لبرامج الذكاء الاصطناعي مخاوف كبيرة بشأن الأمن السيبراني بسبب الطرق العديدة التي يمكن للمجرمين استخدامها في هجماتهم وتحقيق الربح، وفقا لتقرير مطول نشره موقع "تالوس"، الاثنين.
وأشار التقرير أيضا إلى أن المبرمجين والعاملين لدى جهات إنفاذ القانون يمكنهم استخدام برامج الذكاء الاصطناعي لتعزيز الأمن السيبراني والتصدي للأنشطة غير المشروعة.
ولفت إلى أن العقد الماضي شهد اعتمادا متزايدا واستخداما مكثفا للتعلم الآلي (ML) والذكاء الاصطناعي (AI) من قبل العديد من الجهات والمؤسسات الحكومية والخاصة.
وفي ظل هذا التطور الهائل، تطرح تساؤلات عن كيفية استغلال المجرمين لبرامج الذكاء الاصطناعي وابتزاز الضحايا للحصول على الأموال، وأبرز السبل المتاحة لمواجهتهم.
أعمال خبيثةوتساعد هذه البرامج المستخدمين على إنشاء نصوص برمجية وتعديل الصور، وعلى تبسيط عمليات المجرمين، وجعلها أكثر كفاءة وتطورا وقابلية للتوسع مع السماح لهم بالتهرب من الاكتشاف.
وتشمل الأعمال الخبيثة للمجرمين نشر المعلومات المضللة، وتعديل الصور بهدف الابتزاز الجنسي، وإنشاء برامج ضارة وخبيثة، وفقا لمتخصصين بقطاع التكنولوجيا والأمن السيبراني.
كيف يساعد الذكاء الاصطناعي على "الابتزاز الجنسي"؟ يسهل التقدم السريع في تقنيات الذكاء الاصطناعي عمل المحتالين لابتزاز ضحاياهم، بمن فيهم الأطفال، من خلال التلاعب بالصور البريئة وتحويلها إلى محتوى إباحي مزيف، وفق ما ينقل تقرير من موقع "أكسيوس" عن خبراء. ويسهل التقدم السريع في تقنيات الذكاء الاصطناعي عمل المحتالين لابتزاز ضحاياهم، بمن فيهم الأطفال، من خلال التلاعب بالصور البريئة وتحويلها إلى محتوى إباحي مزيف، وفق لما نقله تقرير لموقع "أكسيوس" عن خبراء نشر في يونيو الماضي.
ويرى الخبير التكنولوجي، سلوم الدحداح، أن المجرمين يستغلون برامج الذكاء الاصطناعي لمساعدتهم في صناعة برامج ضارة وخبيثة.
ويقول في حديثه لموقع "الحرة" إن "المجرمين يستغلون الذكاء الاصطناعي لكتابة برامج الفدية، التي تشكل خطرا، حيث يقومون بالاستيلاء على معلومات معينة ويطلبون المال مقابل فك التشفير عنها، أو يقومون بحذفها".
وأضاف أن "هناك من يقوم أيضا باستغلال صور العائلات، وتركيبها وتعديلها، لابتزاز الضحايا جنسيا أو مقابل الحصول على المال، بحيث أنهم يقومون بتغيير الخلفية مثلا، بحيث تصبح الصورة غير واقعية".
التصدي للجرائم الإلكترونيةوفيما يتعلق بالتأثير الإيجابي للذكاء الاصطناعي على الأمن السيبراني، فإنه يساعد في مواجهة الأنشطة غير المشروعة، من خلال تطوير أدوات وتكتيكات واستراتيجيات جديدة لتحليل البيانات، والتنبؤ بالهجمات، وفقا لتقرير تالوس.
وتساعد هذه البرامج على تحديد واكتشاف التهديدات والوقاية منها، بالإضافة إلى إثراء التحليلات التنبؤية.
ويقول الدحداح، إنه "للحد من الجرائم الإلكترونية، يجب على سبيل المثال تعزيز آليات التحقق من الصور، بحيث أن برامج الذكاء الاصطناعي قبل استقبال أو قبول أي صورة يجب أن تتحقق من هوية المستخدم ومن أصحابها (الصور) الحقيقيين".
وتابع "توجد اليوم برامج للتحقق من صحة الصور الفوتوغرافية، وتمييزها عن الصورة المزيفة أو المعدلة".
تطورات مبهرةوشهدت تقنيات الذكاء الاصطناعي في الآونة الأخيرة تطورات مبهرة جعلت الصور التي تنتجها تبدو شديدة الواقعية، ولاقت رواجا واسعا على مواقع التواصل الاجتماعي، مما أثار تساؤلات بشأن سبل كشفها، وفقا لفرانس برس.
وألمحت الوكالة نقلا عن خبراء إلى أنه توجد طرق لتمييز الصور الحقيقية عن تلك المزيفة.
وتتيح بعض برمجيات الذكاء الاصطناعي، مثل "دال-إي"، "ميدجورني" و"ستايبل ديفيوجن" و"كرايون"، توليد صور بمجرد إدخال بعض الكلمات المفتاحية باللغة الإنكليزية مثل (رائد فضاء يركب حصانا على كوكب المريخ)، وذلك باستخدام قواعد بيانات ضخمة.
تمييز الصورلكن كيف يمكن أن نميز هذه الصور؟ بعض مستخدمي مواقع التواصل يلجؤون إلى تطبيقات الذكاء الاصطناعي لإنتاج أعمال فنية أو صور على سبيل الفكاهة، لكن آخرين يستخدمون هذه الأدوات لإنتاج صور مرتبطة بأحداث سياسية.
من بين هذه الصور الرائجة عبر مواقع التواصل الاجتماعي واحدة تعود للقاء الرئيس الصيني، شي جين بينغ، بنظيره الروسي، فلاديمير بوتين، في 20 مارس 2023، ومجموعة أخرى لمشاهد متخيلة تظهر الرئيس الفرنسي إيمانويل ماكرون يجمع النفايات.
وغالبا ما يعمد صانعو هذه الصور للإشارة إلى أنها نتاج برامج ذكاء اصطناعي، لكنها سرعان ما تنتشر خارج سياقها، ويصدق البعض أنها حقيقية.
وهناك أدوات عدة لكشف حقيقة هذه الصور، وأخرى قيد التطوير، إلا أن النتائج التي تقدمها ليست حاسمة، وقد تعطي نتائج غير دقيقة، بحسب تجارب قام بها صحفيو فرانس برس.
كيف تعرف إن كانت الصورة حقيقة؟.. أم أنتجها برنامج ذكاء اصطناعيّ؟ شهدت تقنيات الذكاء الاصطناعي في الآونة الأخيرة تطوّرات مبهرة جعلت الصور التي تنتجها تبدو شديدة الواقعيّة ولاقت رواجاً واسعاً على مواقع التواصل الاجتماعي، ما أثار تساؤلات حول سبل كشفها. ويشرح ديفيد فيشينغر، المهندس المتخصص في الذكاء الاصطناعي في جامعة فيينا للتكنولوجيا لفرانس برس، أن عمل الذكاء الاصطناعي لا يقوم على مجرد اقتطاع أجزاء من صور لإعادة تركيبها، إذ "يلجأ إلى ملايين بل مليارات الصور لاستخراج بيانات منها، ثم يعيد استخدامها لتوليد صورة جديدة تماما".
وبدوره يوضح، فينسنت تيراسي، أحد مؤسسي شركة Draft&Goal الناشئة التي تطور أداة خاصة بالجامعات، تكشف المحتوى المنتج عبر الذكاء الاصطناعي، أن برامج الذكاء الاصطناعي تخلط الصور المتاحة لها في قاعدة البيانات ثم تفككها لتعيد بناء مشهد جديد تماما، لا يمكن تتبع العناصر المستخدمة في صناعته.
ولهذه الأسباب لا يمكن لمنصات كشف الذكاء الاصطناعي أن تصل لنتائج حاسمة في هذه المرحلة.
لكن ماذا عن البيانات الوصفيّة (Metadata) التي تعتبر بطاقة تعريفية للصورة ويمكن أن تتضمن معلومات عن أصلها؟
"للأسف لا يمكن الاعتماد على هذه البيانات لأنها تحذف مباشرة عند تحميل الصورة على مواقع التواصل"، بهذه العبارة تجيب الأستاذة في جامعة فريديريك -2 في نابولي والمتخصصة في الذكاء الاصطناعي، أناليزا فيردوليفا، على سؤال فرانس برس.
وينصح خبراء بـ"العودة إلى مصدر الصورة، وتحليلها والبحث عن علامة مائية (ووتر مارك)، والتدقيق في نقاط الصورة (pixels)، والبحث عن تشوهات، والنظر إلى الخلفية".
وبالإضافة إلى كل ذلك يمكن أن تتضمن الصور المولّدة باستخدام الذكاء الاصطناعي عناصر قد لا تكون مشوهة إلا أنها تشكل بوجودها خطأ منطقيا، لذلك يجب اتباع المنطق السليم عند التدقيق في صورة موضع شك.
المصدر: الحرة
كلمات دلالية: تقنیات الذکاء الاصطناعی برامج الذکاء الاصطناعی الأمن السیبرانی مواقع التواصل هذه الصور إلى أن
إقرأ أيضاً:
دولة الإمارات تطلق مركزاً للتميز في الأمن السيبراني بالتعاون مع «جوجل كلاود»
في إطار التزام دولة الإمارات العربية المتحدة الراسخ بتعزيز مكانتها مركزاً عالمياً للذكاء الاصطناعي والتقنيات الرقمية، تواصل مؤسسات الدولة العمل، وفقاً لتوجيهات القيادة الرشيدة، في الحفاظ على الريادة العالمية للدولة في المجالات التكنولوجية والرقمية.
ويتجسد هذا المسعى في الخطوات الاستراتيجية التي اتخذتها الدولة لتعزيز البنية التحتية الرقمية، وتطوير القدرات الوطنية في مجال الذكاء الاصطناعي والأمن السيبراني.
وتجسيداً لرؤية القيادة الرشيدة لتطوير بنية تحتية رقمية متطورة وآمنة، وافق مجلس الوزراء على إطلاق مركز تميز عالمي للأمن السيبراني في العاصمة أبوظبي بالتعاون مع شركة «جوجل» العالمية، وهي مبادرة تؤكد التزام الإمارات بخطواتها المتواصلة نحو التحول الرقمي، وتعزيز الأمن السيبراني.
وتتماشى هذه المبادرة مع رؤية القيادة الرشيدة في ترسيخ مكانة دولة الإمارات مركزاً عالمياً للتميز في الأمن السيبراني. وتعكس هذه المبادرة حرص الدولة على مواكبة التطورات التكنولوجية المتسارعة، والالتزام ببناء منظومة رقمية آمنة ومتقدمة تواكب التطورات العالمية، وتوفر بيئة موثوقة للأعمال والمؤسسات في مختلف القطاعات، كما يُجسد الاستراتيجية الأوسع للدولة نحو الاستثمار في التقنيات الناشئة، وتمكين الكفاءات الوطنية لضمان الريادة الإقليمية والعالمية في مجالي الأمن السيبراني والذكاء الاصطناعي، مما يعزز من مكانة الإمارات وجهة رائدة للابتكار والاستثمار في القطاع الرقمي.
وتأتي هذه المبادرة في أعقاب الزيارة الرسمية التي قام بها سمو الشيخ طحنون بن زايد آل نهيان، نائب حاكم أبوظبي، مستشار الأمن الوطني، إلى الولايات المتحدة الأميركية، والتي شهدت لقاءات مكثفة جمعته بقادة ورؤساء عدد من الشركات العالمية الرائدة، بهدف تعزيز الشراكات الاستراتيجية مع دولة الإمارات في مجالات الذكاء الاصطناعي والأمن السيبراني، حيث ركزت المناقشات على دور التقنيات الحديثة في تسريع النمو المستدام، ودعم الابتكار على المستوى العالمي، وتطوير البنية التحتية الرقمية التي تُعد أساساً لتحقيق التنمية الاقتصادية والاجتماعية في الدولة.
ويعد تدشين هذا المركز، بالتعاون بين مجلس الأمن السيبراني لدولة الإمارات وشركة «جوجل كلاود»، ترجمةً لجهود الدولة المتواصلة التي تهدف تعزيز قدرة الدولة على التصدي للتهديدات السيبرانية، ودعم التحول الرقمي الآمن، ودعم الشركات الناشئة في مجال ريادة الأعمال، من خلال تمكينها من الاستفادة من خدمات «جوجل كلاود» المصممة خصيصاً للشركات الناشئة.
جدير بالذكر أن شركة «جوجل كلاود» قد أعلنت في وقت سابق عن برنامج للمسرعات خلال العام الجاري، حيث يتم من خلاله اختيار 25 شركة ناشئة واعدة من منظومة Hub71 للمشاركة في برنامج مدته ثلاثة أشهر، يركز على استراتيجيات النمو القابلة للتوسع وتحسين نماذج الأعمال. إضافة إلى ذلك، ستكون جميع الشركات الناشئة ضمن منظومة Hub71 مؤهلة للحصول على تمويل من شركة «جوجل كلاود»، حيث يمكن لأفضلها أداءً أن تحصل على تمويل يصل إلى 300,000 دولار، وهو ما يعد الأعلى عالمياً.
ويُشكل هذا المركز، نموذجاً متميزاً للتعاون البنّاء بين القطاعين الحكومي والخاص. وتطوير الكفاءات الوطنية، وتوفير بيئة موثوقة تدعم الأعمال والمؤسسات في إطار مسيرة التحول الرقمي الآمن في مختلف القطاعات. حيث ستقوم شركة «جوجل كلاود»، بدعم من مجلس الأمن السيبراني، باستثمارات كبيرة في تعزيز قدرات الحوسبة السحابية المتقدمة في دولة الإمارات.
وستعتمد هذه المبادرة على البنية التحتية العالمية الآمنة والقابلة للتوسع وعالية الأداء التي توفرها شركة «جوجل كلاود» لتكون الأساس المطلوب للابتكار المتقدم في مجال الأمن السيبراني، بما يؤكد التزامها المستمر نحو مواكبة رؤية الإمارات للأمن السيبراني، وثقة الدولة في قدرات المنصة الأمنية العالمية لتعزيز مرونتها السيبرانية. كما يعكس المركز التزام دولة الإمارات باستشراف المستقبل الرقمي، حيث يسعى إلى تمكين الدولة من مواجهة التحديات السيبرانية المتنامية، وترسيخ ريادتها على الصعيدين الإقليمي والدولي في هذا المجال الحيوي، كما ستساهم الشراكة مع شركة «جوجل» في دعم تبادل المعلومات حول التهديدات والاستخبارات السيبرانية، وذلك لتعزيز القدرات الدفاعية في مجال الأمن السيبراني.
ويُتوقع أن يُحقق هذا المركز عوائد اقتصادية واجتماعية كبيرة لدولة الإمارات، حيث سيعمل على تقليل المخاطر الناجمة عن الهجمات السيبرانية، ودعم نمو قطاع التكنولوجيا، واستقطاب الاستثمارات الأجنبية.ووفقاً لدراسة أعدتها شركة Access Partnership، فإن تعزيز القدرات السيبرانية في الدولة قد يُسهم في تفادي خسائر تُقدر بنحو 6.8 مليار دولار ناتجة عن الجرائم السيبرانية بحلول عام 2030.
كما سيساعد المشروع في توفير أكثر من 20,300 فرصة عمل في قطاع الأمن السيبراني، إلى جانب جذب استثمارات أجنبية مباشرة تصل إلى 1.4 مليار دولار خلال الفترة ذاتها.
بالإضافة إلى ذلك، ستُعزز البيئة السيبرانية المتطورة في الدولة من سرعة التحول الرقمي، مما يرفع الإنتاجية الاقتصادية ويدعم تنافسية الإمارات على المستوى العالمي.
ويأتي إطلاق هذا المركز كجزء من الجهود المستمرة لمجلس الأمن السيبراني لدولة الإمارات، الذي يتولى الإشراف على المشروع، لضمان تحقيق رؤية الدولة في بناء منظومة رقمية آمنة ومستدامة.
ويعكس المركز التزام الإمارات بتعزيز التعاون الدولي في هذا المجال، حيث يُعد نموذجاً للشراكة الاستراتيجية التي تجمع بين رؤية القيادة الرشيدة وخبرات الشركات العالمية الرائدة، مثل شركة «جوجل» لتوفير بيئة تقنية متكاملة تدعم الابتكار وتُعزز من مكانة الإمارات محوراً عالمياً للتكنولوجيا والأمن السيبراني.
من جانبه، قال الدكتور محمد الكويتي، رئيس الأمن السيبراني لحكومة دولة الإمارات العربية المتحدة، إن هذا التعاون الاستراتيجي مع شركة جوجل كلاود «يمثل أحد ركائز رؤية دولة الإمارات لتكون دولة رائدة عالمياً في مجال الأمن السيبراني، إذ لا تسعى المبادرة لمعالجة التهديدات الحالية فحسب، بل تهدف أيضاً إلى إعداد جيل جديد من الخبراء المؤهلين، وتطوير حلول مبتكرة تؤمّن مستقبلنا الرقمي». من جهتها، قالت كريستينا بيتارش، المدير العام للأمن السيبراني في شركة «جوجل كلاود» لمنطقة أوروبا والشرق الأوسط وأفريقيا: «إن دولة الإمارات تمتلك رؤية واضحة لتكون في طليعة الدول في الأمن السيبراني، ونتشرف أن نكون شريكاً أساسياً في تحقيق هذه الرؤية المستقبلية. إن أهدافنا المشتركة تجمع بين البنية التحتية الرقمية المتطورة، وبيئة ابتكارية، ومنصة تدريبية لتأهيل الجيل القادم من المدافعين السيبرانيين».
إعداد جيل جديد من الكفاءات السيبرانية
يرتكز التعاون مع شركة «جوجل كلاود» كذلك على محاور استراتيجية متعددة تهدف إلى تعزيز التنمية السيبرانية المستدامة والاقتصاد الرقمي في دولة الإمارات.
ومن أبرز هذه المحاور، البحث والتطوير والابتكار، حيث يتم التركيز على تطوير حلول متقدمة للأمن السيبراني من خلال أبحاث متخصصة تُسهم في تعزيز الشراكة مع المؤسسات الأكاديمية العالمية، والمعاهد البحثية، وصناع السياسات لتبادل المعرفة، وتعزيز التأثير، ودعم تبادل المعلومات بين القطاعات المختلفة.
وفي سياق هذا التعاون، سيركز المركز على تقديم برامج تدريبية متخصصة تهدف إلى دعم الشركات الناشئة والقطاعات المختلفة، لدعم قدرتها على مواجهة التهديدات السيبرانية المستقبلية، مما يعزز من دور الإمارات كمركز لتطوير المواهب التقنية في المنطقة والعالم، حيث يعد وجود كوادر مؤهلة في الأمن السيبراني أمراً أساسياً لمواجهة التهديدات المعقدة بشكل متزايد.
ولتلبية هذا الاحتياج، سيتم تنفيذ برنامج تدريبي معتمد من مجلس الأمن السيبراني داخل مركز التميز، ويوفر البرنامج فرصة فريدة داخل دولة الإمارات لتعلم المهارات مباشرة من خبراء يتعاملون مع أكثر الهجمات السيبرانية تعقيداً على مستوى العالم.
ويقدم هذا البرنامج دورات افتراضية تفاعلية وتطبيقية، تُمكن الأفراد والفرق من حماية الأنظمة الحيوية، والاستفادة من أدوات أمنية مدعومة بالذكاء الاصطناعي، والاستجابة بفعالية للحوادث السيبرانية. ويعتمد التدريب على أساليب تعلم قائمة على الأدوار وخبرات واقعية مستمدة من اختراقات أمنية حقيقية، مما يسهم في إعداد الجيل الجديد من حماة الفضاء السيبراني في دولة الإمارات.
وسيتم تنفيذ هذا البرنامج من قبل شركة Mandiant التابعة لـ«جوجل كلاود». ويستند هذا البرنامج إلى خبرة فريق Mandiant العالمي، الذي يمتلك أكثر من 20 عاماً من الخبرة الرائدة في التحقيق في الهجمات السيبرانية.
ويوفر البرنامج فرصة فريدة داخل دولة الإمارات لتعلم المهارات مباشرة من خبراء يتعاملون مع أكثر الهجمات السيبرانية تعقيداً على مستوى العالم.
يرتكز البرنامج التدريبي على ما يلي:
• التعلم التجريبي: حيث يجمع بين الدورات النظرية التقليدية والتدريبات المتقدمة لمحاكاة الهجمات السيبرانية، والتي يقدمها خبراء الأمن السيبراني من الكوادر المتميزة في Mandiant.
• منصة لمحاكاة الهجمات: وتشمل منظومة مؤمنة تحاكي سيناريوهات واقعية لهجمات سيبرانية، حيث يشارك المتدربون في تمارين استجابة واقعية تعكس تكتيكات مصادر التهديد المتطورة.
• خيارات تعلم مرنة: وتتضمن دورات ذاتية التعلم من خلال منصة شركة «جوجل كلاود» لتعزيز القدرات، حيث تتيح للموظفين الحكوميين في مختلف أنحاء الدولة الوصول إلى أكثر من 900 من الدورات التدريبة والاختبارات العملية وغيرها من المهارات المختلفة في مجال الأمن السيبراني والذكاء الاصطناعي.
وتجسد هذه المبادرة رؤية القيادة الرشيدة لدولة الإمارات في تعزيز الابتكار وبناء مستقبل رقمي آمن ومزدهر.ومن خلال التعاون مع شركة «جوجل كلاود»، تؤكد الإمارات على التزامها طويل الأمد بتطوير البنية التحتية الرقمية، واستشراف التحديات المستقبلية، وترسيخ مكانتها كواحدة من الدول الرائدة عالمياً في مجال الأمن السيبراني والتكنولوجيا الحديثة.
منتخب مصر للناشئين والناشئات في الجودو يتصدر البطولة العربية بـ10 ميداليات