فورين أفيرز: كيف يمكننا تفادي كارثة من صنع الذكاء الاصطناعي؟
تاريخ النشر: 16th, August 2023 GMT
بقدر ما للذكاء الاصطناعي من فوائد في الارتقاء بمستوى حياة البشر، فإن له بالمثل مضار ومخاطر جمّة إذا لم يُحسن استخدامه، ومن ثمّ لا بد من وضع لوائح وضوابط لكبح جماحه لتجنب وقوع كارثة بسببه.
وقد أدلى اثنان من الخبراء في مجال الذكاء الاصطناعي بدلوهما في هذا الموضوع في مقال مشترك نشرته مجلة "فورين أفيرز" الأميركية في عددها الأخير.
وأوضح ماركوس أنديرونغ، رئيس السياسات في مركز حوكمة الذكاء الاصطناعي والبحث في مركز الأمن الأميركي الجديد، وزميله بول شار نائب الرئيس التنفيذي للمركز، في مقالهما أن ثورة الذكاء الاصطناعي قد انطلقت بالفعل، وتجلى ذلك في تقنيات التعرف على الوجه، وتوليد النصوص، ومساعدة الطلاب على إعداد البحوث، ودفع العلم لاكتشاف الأدوية وإلى حدود الانصهار النووي.
مخاطر وتحذيراتإن الفرص التي يتيحها الذكاء الاصطناعي للبشرية هائلة، فإذا صُممت برامجه وأُديرت بشكل صحيح يمكنه أن يفعل الشيء الكثير لتحسين أوضاع المجتمعات، كما يؤكد المقال.
ولكن للذكاء الاصطناعي مخاطره الهائلة أيضا -وفق المقال- إذ يزيد بالفعل من انتشار المعلومات المضللة، ويكرس التمييز، ويسهل على الدول والشركات التجسس.
وربما تتمكن أجهزة الذكاء الاصطناعي في المستقبل من تخليق كائنات حية مسببة للأمراض، أو اختراق بنى تحتية حساسة.
وفي واقع الأمر، بدأ العلماء المسؤولون عن تطوير الذكاء الاصطناعي بالتحذير من أن ابتكاراتهم في هذا المجال محفوفة بالمخاطر. وأطلق مديرو كل المختبرات العلمية تقريبا -في خطاب لهم في مايو/أيار الماضي- جرس إنذار أن "الحد من خطر الانقراض بسبب الذكاء الاصطناعي يجب أن يحظى بالأولوية على الصعيد العالمي، إلى جانب المخاطر الاجتماعية الأخرى مثل الأوبئة والحرب النووية".
وبعد أشهر من ذلك التحذير، التقى صناع السياسات -من بينهم الرئيس الأميركي جو بايدن- مع القائمين على أمر هذه الصناعة، وحثوهم على وضع تدابير جديدة لدرء الحوادث والأضرار التي قد تنجم عن الذكاء الاصطناعي.
سُبُل التصدي لتلك المخاطر
ويقر الخبيران أنديرونغ وشار بأن ملاحقة المخاطر التي يمثلها الذكاء الاصطناعي وتحديد ما يمكن فعله للتصدي لها، من الصعوبة بمكان، ذلك أن الأضرار التي يسببها الذكاء الاصطناعي في المجتمعات المعاصرة إنما هي من صنع الأمس.
ويضيف الكاتبان أن أغلب الأجهزة المتطورة لم تُستخدم على نطاق واسع أو ليست مفهومة. وللتصدي للمخاطر، دعا بعض الخبراء للتوقف عن تطوير أنظمة الذكاء الاصطناعي الأكثر تقدما.
غير أن هذه النماذج من الأنظمة هي ببساطة ذات منفعة كبيرة للشركات التي تنفق مليارات الدولارات مما يجعل تجميد أنشطة تطويرها من الصعوبة بمكان. على أنه يمكن لواضعي السياسات -بل وينبغي عليهم- المساعدة في توجيه عمليات تطوير هذا القطاع، وتهيئة المواطنين لتقبل تأثيراتها. وبإمكان هؤلاء -حسب مقال فورين أفيرز- البدء بالتحكم في من يمكنه الوصول إلى الرقائق المتقدمة التي تدرب نماذج الذكاء الاصطناعي الرائدة، بما يضمن عدم قدرة جهات "خبيثة" على تطوير أنظمة ذكاء اصطناعي أقوى.
وعلى الحكومات -يستطرد المقال- أن تسن لوائح وقوانين كفيلة بضمان تطوير أنظمة ذكاء اصطناعي واستخدامها بمسؤولية. "فإذا طُبِّق ذلك على نحو صحيح، فإن تلك اللوائح لن تحد من الابتكارات في مجال الذكاء الاصطناعي".
ولكن ينبغي للحكومات كسب الوقت "قبل أن تصبح أخطر أنظمة الذكاء الاصطناعي في متناول الجميع على نطاق واسع".
وينصح الخبيران دول العالم بضرورة استغلال الوقت لتحصين مجتمعاتها ضد مخاطر الذكاء الاصطناعي العديدة، إذ يتعين عليها توظيف مجموعة واسعة من إجراءات الحماية، مثل إيجاد وسائل لمساعدة الناس على التمييز بين ما هو ذكاء اصطناعي وما هو محتوى من صنع البشر، ومد يد العون للعلماء وذلك بالكشف عن اختراق المختبرات والحد منها، وتطوير أدوات الأمن السيبراني التي تجعل البنيات التحتية الحساسة -مثل محطات الطاقة- تحت الإدارة المناسبة.
تهيئة المجتمعات
إن مواجهة هذه التحديات -برأي كاتبي المقال أنديرونغ وشار- يتطلب قدرة كبيرة على الإبداع من صناع السياسات والعلماء على السواء، والإسراع بإنجاز المهام المنوطة بهم، "فالمسألة مجرد وقت حتى تبدأ أنظمة الذكاء الاصطناعي البالغة القوة بالانتشار، فيما لم تتهيأ المجتمعات بعد لذلك".
ويمضي المقال إلى التساؤل عن مدى خطورة الذكاء الاصطناعي. ويعلق الكاتبان على السؤال بالقول إن الجواب "الصادق والمخيف" هو أن لا أحد يعرف.
وتكمن مهارة برامج الذكاء الاصطناعي في أنها تساعد المبرمجين على استحداث برمجيات خبيثة يمكنها تفادي البرمجيات المضادة للفيروسات.
ولعل أحد مخاطر الذكاء الاصطناعي أنه قد يضفي طابعا "ديمقراطيا" على العنف مما يجعل من السهل على مجموعة واسعة من الأطراف "الشريرة" إحداث أضرار.
ويحذر مقال فورين أفيرز من أن المعلومات المضللة هي مجرد جزء من مخاطر الذكاء الاصطناعي التي يجب على المجتمع الاحتراس منها. ويتعين على العلماء أيضا معرفة الكيفية التي يستطيعون بها منع نماذج الذكاء الاصطناعي من تمكين هجمات الأسلحة البيولوجية.
ويمكن لصانعي السياسات الشروع في سن لوائح تحظر على شركات تصنيع الحمض النووي من شحن تسلسلات الحمض النووي المتعلقة بمسببات الأمراض الخطيرة (أو مسببات الأمراض المحتملة) إلى العملاء غير المصرح لهم. وسيتعين على الحكومات دعم شركات تصنيع الحمض النووي أثناء عملها على تحديد التسلسلات الجينية التي قد تنطوي على خطورة.
المصدر: الجزيرة
كلمات دلالية: الذکاء الاصطناعی فی فورین أفیرز
إقرأ أيضاً:
الذكاء الاصطناعي يرسم ملامح جديدة لقطاعي الأمن والدفاع
يوسف العربي (أبوظبي)
يرسم الذكاء الاصطناعي ملامح جديدة لقطاعي الأمن والدفاع حيث مكّن الأنظمة الأمنية والدفاعية من تحليل البيانات الضخمة، والتعلم المستمر من البيئات التشغيلية، مما أدى إلى تحسين دقة التنبؤ والكشف عن التهديدات، حسب خبراء ومتخصصين.
وقال هؤلاء لـ «الاتحاد» إنه بفضل خوارزميات التعلم الآلي والتحليل في الوقت الفعلي، باتت الأنظمة الأمنية قادرة على التمييز بين الأنشطة العادية والسلوكيات المشبوهة، ما يعزز سرعة الاستجابة ويحدّ من المخاطر الأمنية المحتملة. وأضافوا: يقوم الذكاء الاصطناعي بإعادة رسم قواعد الأمن العسكري من خلال تولّي دور المهاجم والمدافع في آنٍ واحد كما يراقب الذكاء الاصطناعي الدفاعي حركة البيانات داخل الشبكات، فيكتشف ما يبدو غريباً ويحوّله للتحقيق المعمّق دون تعطيل عمليات الشبكة المعتادة. وأكدوا أنه مع تنامي التهديدات الأمنية وتعقيدها على المستوى العالمي، أصبح الاعتماد على الأنظمة الذكية القابلة للتكيف أمراً ضرورياً لمواكبة بيئات التشغيل الديناميكية والتحديات المتزايدة.
التعلم الآلي
ومن جانبه قال وليد لحود، مدير المبيعات الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا «أترمس»: إن قطاعي الأمن والدفاع يشهدان تحولاً جذرياً مدفوعين بالتطور المتسارع في تقنيات الذكاء الاصطناعي، والتشغيل الآلي، وتكامل أجهزة الاستشعار، ما يعزز بشكل غير مسبوق قدرات المراقبة والكشف عن التهديدات بذكاء ودقة عالية، ومع تنامي التهديدات الأمنية وتعقيدها على المستوى العالمي، أصبح الاعتماد على الأنظمة الذكية القابلة للتكيف أمراً ضرورياً لمواكبة بيئات التشغيل الديناميكية والتحديات المتزايدة.
وأضاف أن الذكاء الاصطناعي أحدث طفرة في مجال الأمن والمراقبة، حيث مكّن الأنظمة الدفاعية من تحليل البيانات الضخمة والتعلم المستمر من البيئات التشغيلية، مما أدى إلى تحسين دقة التنبؤ والكشف عن التهديدات وتقليل الإنذارات الكاذبة، وبفضل خوارزميات التعلم الآلي والتحليل في الوقت الفعلي باتت الأنظمة الأمنية قادرة على التمييز بين الأنشطة العادية والسلوكيات المشبوهة، ما يعزز سرعة الاستجابة ويحدّ من المخاطر الأمنية المحتملة.
وأوضح أنه في هذا السياق، تعدّ حلول مثل « SURICATE » حلاً متكاملاً يعتمد على تقنيات الذكاء الاصطناعي لتوفير مستويات عالية من الحماية والاستجابة السريعة للمتغيرات الأمنية إذ تساهم هذه الحلول في المراقبة الذكية، والتحليل اللحظي بحيث تعتمد على تقنيات التعلّم الآلي وتحليل البيانات الضخمة للقيام بعمليات المراقبة المستمرة والآلية، ما يتيح كشف التهديدات بسرعة عالية، سواء كانت طائرات مسيّرة أو مركبات أو عناصر بشرية مشبوهة.
وأضاف أن نظام SURICATE هو حلّ ذكيّ للمراقبة يعتمد على دمج الكاميرات النهارية والحرارية في وحدة واحدة، مما يتيح تغطية مستمرة في مختلف ظروف الإضاءة ويتميز النظام بقدرته على التحليل الفوري للمشاهد من خلال الذكاء الاصطناعي المتقدم، الذي يعمل مباشرة على الجهاز (Edge AI) دون الحاجة إلى معالجة خارجية، وبفضل هذه التقنية يمكن للنظام رصد وتتبع الأجسام المتحركة بفعالية، مع تصنيفها تلقائياً بناءً على خصائصها البصرية والحرارية.
ونوه بأن ما يميز النظام هو آلية التعلّم العميق (Deep Learning) التي تمكّنه من التطوّر المستمر حيث يستفيد النظام من الإنذارات السابقة لتحسين أدائه وتعزيز قاعدة بياناته ومع مرور الوقت، يصبح النظام أكثر دقة في التعرف على التهديدات الحقيقية والتقليل من الإنذارات الخاطئة، مما يساعد الفرق الأمنية والدفاعية على الاستجابة بسرعة وفعالية للمواقف المختلفة.
حلقة تفاعلية
ومن ناحيته قال جاريث برايثويت، المدير العام للأسواق الناشئة في «جيجامون»: إن الذكاء الاصطناعي يعيد رسم قواعد الأمن العسكري من خلال تولّي دور المهاجم والمدافع في آنٍ واحد.
وأضاف أنه على مدار أربعة عقود في هذا المجال تطوّرت التهديدات من فيروسات بسيطة إلى برمجيات خبيثة بالغة التعقيد مدعومة بالذكاء الاصطناعي.
وأوضح أن الأنظمة العدائية تدرس أخطاءها وتحسّن أساليبها مباشرةً، دافعةً بالحدود إلى الأمام باستمرار وفي الجهة الأخرى، يراقب الذكاء الاصطناعي الدفاعي حركة البيانات داخل الشبكات، فيكتشف ما يبدو غريباً ويحوّله للتحقيق المعمّق دون تعطيل عمليات الشبكة المعتادة.
ولفت إلى أن هذه الحلقة التفاعلية تزيد من قدرة الذكاء الاصطناعي المهاجم على تطوير تكتيكاته، وتقابلها ضرورة توقع الذكاء الدفاعي للحركة التالية وتساعد تحديثات التواقيع والخوارزميات المتغيرة على توقّع التهديدات الناشئة وإحباطها فيما يشبه حرب كرّ وفرّ يتفوّق فيها الذكاء الأقوى، لكنها سباق لا يعرف نهاية.
ضرورة حتمية
وقال إيليا ليونوف، المدير الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا، «بوزيتف تكنولوجيز» إنه في عالم يتصاعد فيه خطر التهديدات السيبرانية بوتيرة متسارعة، لم يعد تبني الذكاء الاصطناعي والتعلم الآلي لحماية منشآت النفط والغاز والشبكات العسكرية وأنظمة الدفاع خياراً ثانوياً، بل أصبح ضرورة حتمية حيث تُوظّف هذه التقنيات على نطاق واسع لأتمتة الكشف والاستجابة والتحقيق، ما يختصر بشكل لافت زمن الاستجابة (MTTR)، وهو عنصر جوهري في عمليات الدفاع السيبراني الحديثة.
ولفت إلى أن نهج «الأمن السيبراني القائم على النتائج» من «بوزيتف تكنولوجيز» يقدم نموذجاً بارزاً في هذا السياق، إذ يهدف إلى تقليص زمن الاستجابة ليكون أقصر من زمن الهجوم (MTTA) ويجمع هذا الإطار بين أفضل الممارسات وأحدث الأدوات المتطورة، ما ينتج عنه دفاع عالي الكفاءة وقد ثبتت جدواه مراراً في بيئات تشغيلية فعلية، خصوصاً في خضم تزايد الأنشطة المرتبطة بالحروب الإلكترونية.
وقال: غير أن مجرمي الإنترنت ليسوا غافلين عن هذه التقنيات، فهم أيضاً يوظفون الذكاء الاصطناعي في عمليات الاستطلاع وغيرها من مراحل الهجوم وفي خضم هذا السباق التكنولوجي، يصبح تبني استراتيجيات معززة بالذكاء الاصطناعي ضرورة للمحافظة على التفوق الدفاعي.
وأضاف أنه أمام التهديدات السيبرانية المعقدة بنحو متزايد، يظل تسريع وتيرة اعتماد الذكاء الاصطناعي لحماية البنى التحتية الحيوية من أهم السبل لترسيخ القدرة على الصمود وحماية الأمن في عصر تسوده الحروب الرقمية.
مسرع قوي
قال باتريس كين، الرئيس التنفيذي لمجموعة «تاليس» إنه في الوقت الذي تتطلع فيه قوات الدفاع إلى تحقيق الابتكار في عام 2025 وما بعده، يشكل الذكاء الاصطناعي ركيزة أساسية في مسيرة التحول.
وأضاف: في تاليس، كنا ندرك ونتوقع هذا التطور التكنولوجي، وحرصنا على قيادة التغيير، حيث إننا ولأكثر من عقد من الزمان، قمنا بتضمين الذكاء الاصطناعي البسيط والقابل للتفسير والشفاف في حلولنا التي تخدم القوات المسلحة.
ولفت إلى أن تاليس تعتبر لاعباً رئيسياً في مجال الذكاء الاصطناعي في هذه البيئات المعقدة وتعد الشركة من كبار المتقدمين للحصول على براءات الاختراع - في أوروبا في هذا المجال، وتكرس الكثير من الجهد للبحث في مجال الذكاء الاصطناعي، سواء داخلياً أو من خلال الشراكات الأكاديمية والصناعية ولتحقيق المزيد من التقدم في هذه المهمة، وضعنا خبرتنا في مجال الذكاء الاصطناعي في CortAIx وهو مسرع قوي يضم أكثر من 600 مهندس وباحث متفرغين لتطوير الذكاء الاصطناعي الموجه للتطبيقات الحساسة.
ونوه بأنه على عكس الذكاء الاصطناعي المخصص للمستهلك، تم تصميم أنظمتنا للبيئات التي تكون فيها الأرواح والأمن القومي والبنية الأساسية بالغة الأهمية وهذا يعني إعادة التفكير في نماذج الذكاء الاصطناعي التقليدية، وضمان الامتثال للوائح الصارمة، وإعطاء الأولوية لإمكانية التضمين والاقتصاد في الإعدادات التشغيلية المعقدة.
وأوضح أن ما يميز الذكاء الاصطناعي الذي تطوره «تاليس» هو مقاربتنا الهجينة التي تتجاوز النماذج اللغوية الكبيرة التي تعتمد على كميات هائلة من البيانات والطاقة ويضمن الذكاء الاصطناعي في تاليس مستويات عالية من الشفافية والأمن السيبراني والممارسات الأخلاقية، ما يجعله مؤثراً ومستداماً ويعتمد الذكاء الاصطناعي الذي تستخدمه تاليس، والذي يسمى الذكاء الاصطناعي الهجين، على البيانات، ما يتيح الفرصة للاستفادة من قوة الأساليب الإحصائية المثبتة، ومن النماذج التي يمكن أن تكون هندسية أو رياضية أو رمزية وهذا مهم جداً لأن هذا الذكاء الاصطناعي شفاف، وليس صندوقاً أسود. وقال: إن هذه الطريقة تسمح لنا بشرح سبب ارتكاب الذكاء الاصطناعي لخطأ ما، على سبيل المثال، ومن الممكن تصحيحه وتحسينه، تماماً مثل الإنسان مضيفاً: نحن أيضاً رواد الذكاء الاصطناعي البسيط، الذي يستفيد من المعالجات عالية الكفاءة وتقنيات التشكيل العصبي المتطورة التي تحاكي الدماغ البشري، وتستهلك ما يصل إلى 1000 مرة طاقة أقل من الأنظمة التقليدية. وفي هذا المجال، نجحت تاليس في الحفاظ على مركزها الرائد في مجال التكنولوجيا.
894 مليار درهم
قالت الدكتورة نعمت الجيار - مدير برنامج الدراسات العليا للذكاء الاصطناعي في كلية الرياضيات وعلوم الحاسوب في جامعة هيريوت وات – دبي، إن الذكاء الاصطناعي يلعب دوراً حيوياً في شتى المجالات ووفقاً لأحدث التقارير الصادرة عن «ستاتيستا» من المتوقع أن يصل حجم السوق في سوق الذكاء الاصطناعي إلى 243.70 مليار دولار في عام 2025 ما يعادل 894 مليار درهم ومن المتوقع أن يُظهر حجم السوق معدل نمو سنوي (CAGR 2025-2030) بنسبة 27.67%، مما يؤدي إلى حجم سوق يبلغ 826.70 مليار دولار بحلول عام 2030.
وقالت إنه تم دمج تقنيات الذكاء الاصطناعي في قطاعات عديدة حيث أصبح ضرورة وليس رفاهية، ففي قطاع الأمن والدفاع الحديث تستخدم أدوات الذكاء الاصطناعي في اكتشاف ورصد التهديدات واتخاذ القرارات المناسبة، وبالتالي رفع مستوى الكفاءة التشغيلية وتعتمد الحكومات والمؤسسات الخاصة على التقنيات المعتمدة على الذكاء الاصطناعي بشكل كبير لحماية الأصول، ومكافحة التهديدات السيبرانية، وتعزيز الدفاع الوطني.
وأضافت أنه في مجال الأمن السيبراني والذي لا يقل أهمية عن الأمن المادي (وهو الإجراءات الأمنية التي يتم تبنيها لحماية مواقع البناء والمعدات وكل المعلومات والبرامج الموجودة فيها) وبسبب التطور التكنولوجي الذي نشهده زادت نسب الهجمات السيبرانية فوفقًا لأحدث التقارير بلغت الخسائر جراء الهجمات السيبرانية نحو 10 تريليونات دولار عام 2023، وفي عام 2024 قدرت الخسائر بنحو 9 تريليونات دولار.
ونوهت بأنه يتم استخدام الذكاء الاصطناعي لاكتشاف الهجمات السيبرانية ومنعها في الوقت الفعلي و تقوم خوارزميات التعلم الآلي بتحليل كميات هائلة من البيانات لتحديد الأنماط المرتبطة بالبرامج المشبوهة ومحاولات الاحتيال، كما يمكن للأنظمة الأمنية التي تعمل بالذكاء الاصطناعي التعرف ورصد الأنشطة الغير مألوفة والتنبؤ بالتهديدات المحتملة والاستجابة بشكل أسرع من المحللين البشريين، وهذا مهم بشكل خاص لتأمين المعلومات الحيوية وحماية البنية التحتية.
وفي مجال الأمن المادي، تستخدم أنظمة المراقبة المعتمدة على الذكاء الاصطناعي للتعرف على الوجه، وتحليل السلوك، والكشف عن التحركات المريبة ومراقبة الأماكن العامة والمرافق الحيوية كما تساعد الكاميرات والطائرات بدون طيار (الدرونز) المعززة بالذكاء الاصطناعي في أمن الحدود، وفحص المطارات، ومراقبة الحشود.
ويعمل الذكاء الاصطناعي أيضًا على تعزيز الأمن في العمليات العسكرية وتستخدم الطائرات بدون طيار والأنظمة الآلية ذاتية التحكم في الاستطلاع والمراقبة والخدمات اللوجستية، مما يعزز الأمن ويقلل من المخاطر فيوفر للقادة العسكريين رؤى في الوقت الفعلي لتعزيز التخطيط الاستراتيجي.
اليونيفيل: هجوم أنصار حزب الله غير مقبول