قمة سلامة الذكاء الاصطناعي.. لماذا يعجز العالم عن لجمه؟
تاريخ النشر: 6th, November 2023 GMT
يبدو أن "قمة سلامة الذكاء الاصطناعي"، التي استضافتها المملكة المتحدة على مدى يومين الأسبوع الماضي في "بلتشلي بارك" ستدخل التاريخ، كونها المرة الأولى التي يجتمع فيها قادة العالم، لمناقشة الجهود المبذولة لكيفية كبح جماح تكنولوجيا الذكاء الاصطناعي التي ستغير العالم. وقد تضمن جدول أعمال القمة، مناقشات حول مخاطر الذكاء الاصطناعي على سلامة المجتمع العالمي، واحتمال إساءة استخدام هذه التكنولوجيا من قبل الإرهابيين، لبناء أسلحة بيولوجية.
بالإضافة إلى ذلك، تم البحث بإمكانات تفوّق تكنولوجيا الذكاء الاصطناعي على البشر، وفقدان السيطرة عليها، وكيفية التخفيف من مخاطر هذا الأمر، مع التركيز على الأدوار التي يمكن أن يلعبها المجتمع العلمي وصناع السياسات.
وحضر "قمة سلامة الذكاء الاصطناعي" أكثر من 100 شخص، من ضمنهم قادة سياسيون من بريطانيا وأميركا والصين، ورؤساء أهم شركات الذكاء الاصطناعي وخبراء الأبحاث، ومجموعات من المجتمع المدني.
ومن الشخصيات البارزة التي حضرت القمة، رئيس الوزراء البريطاني ريتشي سوناك، نائبة الرئيس الأميركي كامالا هاريس، رئيسة الوزراء الإيطالية جيورجيا ميلوني، نائب وزير التكنولوجيا الصيني وتشاو هوي، رئيسة المفوضية الأوروبية أورسولا فون دير لاين، الأمين العام للأمم المتحدة أنطونيو غوتيريش، الرئيس التنفيذي لشركة X إيلون ماسك، الرئيس التنفيذي لشركة OpenAI سام ألتمان والمديرون التنفيذيون من شركات الذكاء الاصطناعي الأخرى، بما في ذلك Meta وAnthropic وDeepmind التابعة لشركة Google.
الكشف عن "إعلان بلتشلي"
شهدت قمة "سلامة الذكاء الاصطناعي"، قيام 28 حكومة بينها الولايات المتحدة والصين، إلى جانب دول الاتحاد الأوروبي، بالتوقيع على ما يسمى بـ "إعلان بلتشلي" الذي يعترف بالحاجة إلى التعاون الدولي لتحقيق الشفافية والمساءلة في تطوير الذكاء الاصطناعي، وتخفيف المخاطر التي تشكلها هذه التقنية.
وينص "إعلان بلتشلي" على أنه من أجل تحقيق الخير للجميع، ينبغي إنشاء الذكاء الاصطناعي وتطويره ونشره، واستخدامه بطريقة آمنة، بشكل يجعله جديراً بالثقة ويحمّل مشغليه المسؤولية.
وفي الوقت نفسه، أشار الإعلان إلى مخاطر تطوير الذكاء الاصطناعي، من خلال الاعتراف بسلبيات استخدامه بطريقة مؤذية متعمّدة أو عن غير قصد.
وأقر الموقعون على الإعلان بوجوب البحث عن فرص، لاستخدام الذكاء الاصطناعي من أجل الخير ولصالح الجميع، بطريقة شاملة على مستوى العالم.
كما شهدت القمة إعلان الصين وعلى لسان وو تشاو هوي، نائب وزير العلوم والتكنولوجيا الصيني، أن بلاده مستعدة لتعزيز الحوار، والتواصل في مجال سلامة الذكاء الاصطناعي مع جميع الأطراف في العالم، وذلك رغم صدامها التكنولوجي مع الولايات المتحدة.
وكشف وو تشاو هوي، أن الصين ستساهم في وضع آلية دولية، بشأن الذكاء الاصطناعي، لتحقيق فوائد للبشرية.
وتأتي التصريحات الصينية التي تخلق أرضية مشتركة، بشأن المخاطر التي يشكلها الذكاء الاصطناعي على البشرية، في وقت تخوض فيه بكين نزاعاً تكنولوجياً مع الولايات المتحدة، ما دفعها للعمل على تطبيق قواعدها الخاصة، للتحكم بتطوير الذكاء الاصطناعي التوليدي.
القوة الأكثر تدميراً في التاريخ
واختتمت "قمة سلامة الذكاء الاصطناعي" بمناقشة "مثيرة" بين رئيس الوزراء البريطاني ريتشي سوناك ورئيس شركة X إيلون ماسك، الذي أعلن أن الذكاء الاصطناعي، لديه القدرة على أن يصبح "القوة الأكثر تدميراً في التاريخ".
وبحسب ماسك فإن الذكاء الاصطناعي سيؤدي إلى حرمان جميع البشر من وظائفهم، حيث أنه ولأول مرة سيكون لدى العالم شيء سيتفوق على ذكاء البشر.
لجم الذكاء الاصطناعي
وتأتي "قمة سلامة الذكاء الاصطناعي" بعدما دخلت مفاوضات الاتحاد الأوروبي في بروكسل، مرحلة محورية في 25 أكتوبر 2023، حيث سعى المسؤولون إلى وضع اللمسات الأخيرة، على قانون الذكاء الاصطناعي المتوقع أن يقره الاتحاد، بحلول نهاية العام الحالي، والذي يسعى إلى لجم الذكاء الاصطناعي والسيطرة عليه من خلال قواعد ومعايير تنظم استخدامه.
كما أنه وفي الأيام التي سبقت القمة البريطانية، أصدر البيت الأبيض أمراً تنفيذياً يلزم مطوري الذكاء الاصطناعي، بإطلاع الحكومة الأميركية على نتائج إجراءات السلامة، ما يساهم في تعزيز مواصفات السلامة في هذا المجال.
ووسط هذا الزخم العالمي لتنظيم الذكاء الاصطناعي، تبقى المفارقة أن أحداً حتى الساعة في المجتمع الدولي، لا يعرف كيف يمكن السيطرة فعلياً على الذكاء الاصطناعي، وسط تضارب في الآراء بين جميع الأطراف، في وقت يشهد فيه هذا القطاع منافسة شرسة، ستكون السبب في تفلّت الأمور وخروجها عن السيطرة.
المصدر: السومرية العراقية
إقرأ أيضاً:
الذكاء الاصطناعي يرسم ملامح جديدة لقطاعي الأمن والدفاع
يوسف العربي (أبوظبي)
يرسم الذكاء الاصطناعي ملامح جديدة لقطاعي الأمن والدفاع حيث مكّن الأنظمة الأمنية والدفاعية من تحليل البيانات الضخمة، والتعلم المستمر من البيئات التشغيلية، مما أدى إلى تحسين دقة التنبؤ والكشف عن التهديدات، حسب خبراء ومتخصصين.
وقال هؤلاء لـ «الاتحاد» إنه بفضل خوارزميات التعلم الآلي والتحليل في الوقت الفعلي، باتت الأنظمة الأمنية قادرة على التمييز بين الأنشطة العادية والسلوكيات المشبوهة، ما يعزز سرعة الاستجابة ويحدّ من المخاطر الأمنية المحتملة. وأضافوا: يقوم الذكاء الاصطناعي بإعادة رسم قواعد الأمن العسكري من خلال تولّي دور المهاجم والمدافع في آنٍ واحد كما يراقب الذكاء الاصطناعي الدفاعي حركة البيانات داخل الشبكات، فيكتشف ما يبدو غريباً ويحوّله للتحقيق المعمّق دون تعطيل عمليات الشبكة المعتادة. وأكدوا أنه مع تنامي التهديدات الأمنية وتعقيدها على المستوى العالمي، أصبح الاعتماد على الأنظمة الذكية القابلة للتكيف أمراً ضرورياً لمواكبة بيئات التشغيل الديناميكية والتحديات المتزايدة.
التعلم الآلي
ومن جانبه قال وليد لحود، مدير المبيعات الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا «أترمس»: إن قطاعي الأمن والدفاع يشهدان تحولاً جذرياً مدفوعين بالتطور المتسارع في تقنيات الذكاء الاصطناعي، والتشغيل الآلي، وتكامل أجهزة الاستشعار، ما يعزز بشكل غير مسبوق قدرات المراقبة والكشف عن التهديدات بذكاء ودقة عالية، ومع تنامي التهديدات الأمنية وتعقيدها على المستوى العالمي، أصبح الاعتماد على الأنظمة الذكية القابلة للتكيف أمراً ضرورياً لمواكبة بيئات التشغيل الديناميكية والتحديات المتزايدة.
وأضاف أن الذكاء الاصطناعي أحدث طفرة في مجال الأمن والمراقبة، حيث مكّن الأنظمة الدفاعية من تحليل البيانات الضخمة والتعلم المستمر من البيئات التشغيلية، مما أدى إلى تحسين دقة التنبؤ والكشف عن التهديدات وتقليل الإنذارات الكاذبة، وبفضل خوارزميات التعلم الآلي والتحليل في الوقت الفعلي باتت الأنظمة الأمنية قادرة على التمييز بين الأنشطة العادية والسلوكيات المشبوهة، ما يعزز سرعة الاستجابة ويحدّ من المخاطر الأمنية المحتملة.
وأوضح أنه في هذا السياق، تعدّ حلول مثل « SURICATE » حلاً متكاملاً يعتمد على تقنيات الذكاء الاصطناعي لتوفير مستويات عالية من الحماية والاستجابة السريعة للمتغيرات الأمنية إذ تساهم هذه الحلول في المراقبة الذكية، والتحليل اللحظي بحيث تعتمد على تقنيات التعلّم الآلي وتحليل البيانات الضخمة للقيام بعمليات المراقبة المستمرة والآلية، ما يتيح كشف التهديدات بسرعة عالية، سواء كانت طائرات مسيّرة أو مركبات أو عناصر بشرية مشبوهة.
وأضاف أن نظام SURICATE هو حلّ ذكيّ للمراقبة يعتمد على دمج الكاميرات النهارية والحرارية في وحدة واحدة، مما يتيح تغطية مستمرة في مختلف ظروف الإضاءة ويتميز النظام بقدرته على التحليل الفوري للمشاهد من خلال الذكاء الاصطناعي المتقدم، الذي يعمل مباشرة على الجهاز (Edge AI) دون الحاجة إلى معالجة خارجية، وبفضل هذه التقنية يمكن للنظام رصد وتتبع الأجسام المتحركة بفعالية، مع تصنيفها تلقائياً بناءً على خصائصها البصرية والحرارية.
ونوه بأن ما يميز النظام هو آلية التعلّم العميق (Deep Learning) التي تمكّنه من التطوّر المستمر حيث يستفيد النظام من الإنذارات السابقة لتحسين أدائه وتعزيز قاعدة بياناته ومع مرور الوقت، يصبح النظام أكثر دقة في التعرف على التهديدات الحقيقية والتقليل من الإنذارات الخاطئة، مما يساعد الفرق الأمنية والدفاعية على الاستجابة بسرعة وفعالية للمواقف المختلفة.
حلقة تفاعلية
ومن ناحيته قال جاريث برايثويت، المدير العام للأسواق الناشئة في «جيجامون»: إن الذكاء الاصطناعي يعيد رسم قواعد الأمن العسكري من خلال تولّي دور المهاجم والمدافع في آنٍ واحد.
وأضاف أنه على مدار أربعة عقود في هذا المجال تطوّرت التهديدات من فيروسات بسيطة إلى برمجيات خبيثة بالغة التعقيد مدعومة بالذكاء الاصطناعي.
وأوضح أن الأنظمة العدائية تدرس أخطاءها وتحسّن أساليبها مباشرةً، دافعةً بالحدود إلى الأمام باستمرار وفي الجهة الأخرى، يراقب الذكاء الاصطناعي الدفاعي حركة البيانات داخل الشبكات، فيكتشف ما يبدو غريباً ويحوّله للتحقيق المعمّق دون تعطيل عمليات الشبكة المعتادة.
ولفت إلى أن هذه الحلقة التفاعلية تزيد من قدرة الذكاء الاصطناعي المهاجم على تطوير تكتيكاته، وتقابلها ضرورة توقع الذكاء الدفاعي للحركة التالية وتساعد تحديثات التواقيع والخوارزميات المتغيرة على توقّع التهديدات الناشئة وإحباطها فيما يشبه حرب كرّ وفرّ يتفوّق فيها الذكاء الأقوى، لكنها سباق لا يعرف نهاية.
ضرورة حتمية
وقال إيليا ليونوف، المدير الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا، «بوزيتف تكنولوجيز» إنه في عالم يتصاعد فيه خطر التهديدات السيبرانية بوتيرة متسارعة، لم يعد تبني الذكاء الاصطناعي والتعلم الآلي لحماية منشآت النفط والغاز والشبكات العسكرية وأنظمة الدفاع خياراً ثانوياً، بل أصبح ضرورة حتمية حيث تُوظّف هذه التقنيات على نطاق واسع لأتمتة الكشف والاستجابة والتحقيق، ما يختصر بشكل لافت زمن الاستجابة (MTTR)، وهو عنصر جوهري في عمليات الدفاع السيبراني الحديثة.
ولفت إلى أن نهج «الأمن السيبراني القائم على النتائج» من «بوزيتف تكنولوجيز» يقدم نموذجاً بارزاً في هذا السياق، إذ يهدف إلى تقليص زمن الاستجابة ليكون أقصر من زمن الهجوم (MTTA) ويجمع هذا الإطار بين أفضل الممارسات وأحدث الأدوات المتطورة، ما ينتج عنه دفاع عالي الكفاءة وقد ثبتت جدواه مراراً في بيئات تشغيلية فعلية، خصوصاً في خضم تزايد الأنشطة المرتبطة بالحروب الإلكترونية.
وقال: غير أن مجرمي الإنترنت ليسوا غافلين عن هذه التقنيات، فهم أيضاً يوظفون الذكاء الاصطناعي في عمليات الاستطلاع وغيرها من مراحل الهجوم وفي خضم هذا السباق التكنولوجي، يصبح تبني استراتيجيات معززة بالذكاء الاصطناعي ضرورة للمحافظة على التفوق الدفاعي.
وأضاف أنه أمام التهديدات السيبرانية المعقدة بنحو متزايد، يظل تسريع وتيرة اعتماد الذكاء الاصطناعي لحماية البنى التحتية الحيوية من أهم السبل لترسيخ القدرة على الصمود وحماية الأمن في عصر تسوده الحروب الرقمية.
مسرع قوي
قال باتريس كين، الرئيس التنفيذي لمجموعة «تاليس» إنه في الوقت الذي تتطلع فيه قوات الدفاع إلى تحقيق الابتكار في عام 2025 وما بعده، يشكل الذكاء الاصطناعي ركيزة أساسية في مسيرة التحول.
وأضاف: في تاليس، كنا ندرك ونتوقع هذا التطور التكنولوجي، وحرصنا على قيادة التغيير، حيث إننا ولأكثر من عقد من الزمان، قمنا بتضمين الذكاء الاصطناعي البسيط والقابل للتفسير والشفاف في حلولنا التي تخدم القوات المسلحة.
ولفت إلى أن تاليس تعتبر لاعباً رئيسياً في مجال الذكاء الاصطناعي في هذه البيئات المعقدة وتعد الشركة من كبار المتقدمين للحصول على براءات الاختراع - في أوروبا في هذا المجال، وتكرس الكثير من الجهد للبحث في مجال الذكاء الاصطناعي، سواء داخلياً أو من خلال الشراكات الأكاديمية والصناعية ولتحقيق المزيد من التقدم في هذه المهمة، وضعنا خبرتنا في مجال الذكاء الاصطناعي في CortAIx وهو مسرع قوي يضم أكثر من 600 مهندس وباحث متفرغين لتطوير الذكاء الاصطناعي الموجه للتطبيقات الحساسة.
ونوه بأنه على عكس الذكاء الاصطناعي المخصص للمستهلك، تم تصميم أنظمتنا للبيئات التي تكون فيها الأرواح والأمن القومي والبنية الأساسية بالغة الأهمية وهذا يعني إعادة التفكير في نماذج الذكاء الاصطناعي التقليدية، وضمان الامتثال للوائح الصارمة، وإعطاء الأولوية لإمكانية التضمين والاقتصاد في الإعدادات التشغيلية المعقدة.
وأوضح أن ما يميز الذكاء الاصطناعي الذي تطوره «تاليس» هو مقاربتنا الهجينة التي تتجاوز النماذج اللغوية الكبيرة التي تعتمد على كميات هائلة من البيانات والطاقة ويضمن الذكاء الاصطناعي في تاليس مستويات عالية من الشفافية والأمن السيبراني والممارسات الأخلاقية، ما يجعله مؤثراً ومستداماً ويعتمد الذكاء الاصطناعي الذي تستخدمه تاليس، والذي يسمى الذكاء الاصطناعي الهجين، على البيانات، ما يتيح الفرصة للاستفادة من قوة الأساليب الإحصائية المثبتة، ومن النماذج التي يمكن أن تكون هندسية أو رياضية أو رمزية وهذا مهم جداً لأن هذا الذكاء الاصطناعي شفاف، وليس صندوقاً أسود. وقال: إن هذه الطريقة تسمح لنا بشرح سبب ارتكاب الذكاء الاصطناعي لخطأ ما، على سبيل المثال، ومن الممكن تصحيحه وتحسينه، تماماً مثل الإنسان مضيفاً: نحن أيضاً رواد الذكاء الاصطناعي البسيط، الذي يستفيد من المعالجات عالية الكفاءة وتقنيات التشكيل العصبي المتطورة التي تحاكي الدماغ البشري، وتستهلك ما يصل إلى 1000 مرة طاقة أقل من الأنظمة التقليدية. وفي هذا المجال، نجحت تاليس في الحفاظ على مركزها الرائد في مجال التكنولوجيا.
894 مليار درهم
قالت الدكتورة نعمت الجيار - مدير برنامج الدراسات العليا للذكاء الاصطناعي في كلية الرياضيات وعلوم الحاسوب في جامعة هيريوت وات – دبي، إن الذكاء الاصطناعي يلعب دوراً حيوياً في شتى المجالات ووفقاً لأحدث التقارير الصادرة عن «ستاتيستا» من المتوقع أن يصل حجم السوق في سوق الذكاء الاصطناعي إلى 243.70 مليار دولار في عام 2025 ما يعادل 894 مليار درهم ومن المتوقع أن يُظهر حجم السوق معدل نمو سنوي (CAGR 2025-2030) بنسبة 27.67%، مما يؤدي إلى حجم سوق يبلغ 826.70 مليار دولار بحلول عام 2030.
وقالت إنه تم دمج تقنيات الذكاء الاصطناعي في قطاعات عديدة حيث أصبح ضرورة وليس رفاهية، ففي قطاع الأمن والدفاع الحديث تستخدم أدوات الذكاء الاصطناعي في اكتشاف ورصد التهديدات واتخاذ القرارات المناسبة، وبالتالي رفع مستوى الكفاءة التشغيلية وتعتمد الحكومات والمؤسسات الخاصة على التقنيات المعتمدة على الذكاء الاصطناعي بشكل كبير لحماية الأصول، ومكافحة التهديدات السيبرانية، وتعزيز الدفاع الوطني.
وأضافت أنه في مجال الأمن السيبراني والذي لا يقل أهمية عن الأمن المادي (وهو الإجراءات الأمنية التي يتم تبنيها لحماية مواقع البناء والمعدات وكل المعلومات والبرامج الموجودة فيها) وبسبب التطور التكنولوجي الذي نشهده زادت نسب الهجمات السيبرانية فوفقًا لأحدث التقارير بلغت الخسائر جراء الهجمات السيبرانية نحو 10 تريليونات دولار عام 2023، وفي عام 2024 قدرت الخسائر بنحو 9 تريليونات دولار.
ونوهت بأنه يتم استخدام الذكاء الاصطناعي لاكتشاف الهجمات السيبرانية ومنعها في الوقت الفعلي و تقوم خوارزميات التعلم الآلي بتحليل كميات هائلة من البيانات لتحديد الأنماط المرتبطة بالبرامج المشبوهة ومحاولات الاحتيال، كما يمكن للأنظمة الأمنية التي تعمل بالذكاء الاصطناعي التعرف ورصد الأنشطة الغير مألوفة والتنبؤ بالتهديدات المحتملة والاستجابة بشكل أسرع من المحللين البشريين، وهذا مهم بشكل خاص لتأمين المعلومات الحيوية وحماية البنية التحتية.
وفي مجال الأمن المادي، تستخدم أنظمة المراقبة المعتمدة على الذكاء الاصطناعي للتعرف على الوجه، وتحليل السلوك، والكشف عن التحركات المريبة ومراقبة الأماكن العامة والمرافق الحيوية كما تساعد الكاميرات والطائرات بدون طيار (الدرونز) المعززة بالذكاء الاصطناعي في أمن الحدود، وفحص المطارات، ومراقبة الحشود.
ويعمل الذكاء الاصطناعي أيضًا على تعزيز الأمن في العمليات العسكرية وتستخدم الطائرات بدون طيار والأنظمة الآلية ذاتية التحكم في الاستطلاع والمراقبة والخدمات اللوجستية، مما يعزز الأمن ويقلل من المخاطر فيوفر للقادة العسكريين رؤى في الوقت الفعلي لتعزيز التخطيط الاستراتيجي.
اليونيفيل: هجوم أنصار حزب الله غير مقبول