بالتأكيد سمعت عن الروبوتات القاتلة، أو الإنسان الآلي القاتل في الروايات أو الأفلام، أو ما يطلق عليه رسمياً «الأسلحة الفتاكة ذاتية التشغيل».

فكرة وجود سلاح ذكي للغاية ويقتل بعشوائية ما زالت في عداد الخيال العلمي، لكن الأسلحة التي تعتمد على الذكاء الاصطناعي أصبحت معقدة للغاية، وتتسبب في نمو الشعور بالقلق والخوف لدى البعض من عدم القدرة على محاسبة المخطئين، وإمكانية وقوع أخطاء تقنية.

لقد شاهدنا بالفعل الذكاء الاصطناعي، الذي كان من المفترض أن يكون حيادياً، ينتج خوارزميات متحيزة ضد جنس بعينه، أو ينتج أنظمة مراقبة محتوى قليلة الكفاءة، وذلك وفقاً لما نشره موقع «ذا كونفرزيشن»، بسبب أن صناع أنظمة الذكاء الاصطناعي تلك لم يفهموا جيداً التكنولوجيا التي بين أيديهم. لكن في وقت الحروب، هذه الأخطاء قد تتسبب في مقتل مدنيين أو إفساد المفاوضات بين الجانبين.

 

على سبيل المثال، لو تم تدريب خوارزميات التعرف على الأهداف عن طريق صور من الأقمار الاصطناعية تظهر دبابات وحولها جنود، قد يخطئ الذكاء الاصطناعي، ويعد سيارة مدنية تمر عبر حاجز عسكري هدفاً مثل دبابة وحولها جنود.

هل نحتاج لأسلحة ذاتية التشغيل
عانى العديد من المدنيين في عدة دول من الطريقة التي تبني بها القوى العظمى أسلحتها المتقدمة. والكثير يرون أن هذه الأسلحة سببت ضرراً أكثر مما جلبت نفعاً، وفي الآونة الأخيرة يشيرون إلى الغزو الروسي لأوكرانيا في بداية عام 2022.
ويرى الفريق المقابل أن على كل دولة أن تكون قادرة على حماية نفسها، أي أن تواكب التكنولوجيا العسكرية التي توصلت إليها الدول الأخرى. والذكاء الاصطناعي تغلب على الإنسان في لعبتي الشطرنج والبوكر، كما أنه يفوق أداء الإنسان في الواقع أيضاً.
تقول شركة «مايكروسوفت» أن برمجية التعرف على الكلمات التابعة لها تبلغ نسبة الخطأ بها 1 في المائة مقارنة بنسبة الخطأ لدى البشر التي تبلغ 6 في المائة، لذلك ليس من الغريب أن الجيوش تسلم، ببطء، زمام المبادرة إلى الخوارزميات.


ما هي الأسلحة الفتاكة الذاتية التشغيل؟
تعرف وزارة الدفاع الأميركية الأسلحة الفتاكة ذاتية التشغيل بأنها «نظم أسلحة بمجرد تشغيلها يمكنها تحديد الأهداف والاشتباك معها بدون تدخل إنسان أو مُشغل بشري».

وينطبق هذا التعريف على العديد من نظم القتال، فأنظمة الحاسب الآلي على متن الطائرات المسيرة، وبعض الصواريخ الحديثة لديها خوارزميات تمكنها من تحديد الأهداف وإطلاق النار عليها بدقة أكبر من مشغلها البشري.

ونظام القبة الحديدية الإسرائيلي هو واحد من تلك الأنظمة الذي يمكنه الاشتباك مع الأهداف دون إشراف بشري.

ورغم أنها مصممة للحماية من الصواريخ، فإن أنظمة القبة الحديدية يمكنها قتل أشخاص بالخطأ. لكن هذه المخاطرة مقبولة لدى المجتمع السياسي الدولي، لأن القبة الحديدية يعتمد عليها في إنقاذ أرواح المدنيين.


الأسلحة التي تعتمد على الذكاء الاصطناعي موجودة بالفعل، مثل روبوتات الحراسة، والمسيرات الانتحارية المستخدمة في حرب أوكرانيا. إذا كنا نسعى للسيطرة على استخدام الأسلحة الفتاكة ذاتية التشغيل فيجب أن نفهم تاريخ الأسلحة الحديثة.

قواعد الحرب
إبرام اتفاقات دولية، مثل معاهدة جنيف، لتنظيم التعامل مع أسرى الحرب أو المدنيين أثناء الصراع كان واحدة من الأدوات لمحاولة السيطرة على كيفية خوض الحروب.

لكن للأسف، استخدام الولايات المتحدة لأسلحة كيماوية في فيتنام، أو استخدام روسيا لها في أفغانستان، دليل على أن هذه الإجراءات غير كافية.

في عام 1997 تضمنت معاهدة أوتاوا منعاً لاستخدام الألغام الأرضية والقنابل العنقودية، ووقعت عليها 122 دولة، لكن الولايات المتحدة وروسيا والصين لم توقع.

وتتسبب الألغام الأرضية في جرح وقتل نحو 5 آلاف جندي ومدني سنوياً منذ عام 2015، وفي 2017 وصل العدد إلى 9440 شخصاً.

ويذكر تقرير الألغام الأرضية والقنابل العنقودية لعام 2022 أن «الخسائر في ارتفاع آخر 7 سنوات بعد عقد كامل من تراجع أعداد الضحايا، وهذا الارتفاع نتيجة زيادة الصراعات واستخدام الألغام المرتجلة منذ عام 2015، ويمثل المدنيون معظم الضحايا ونصفهم من الأطفال».

وهناك أدلة على أن روسيا وأوكرانيا (وهي موقعة على معاهدة أوتاوا) تستخدمان الألغام الأرضية، بالإضافة إلى أن أوكرانيا تعتمد على الطائرات المسيرة لتوجيه ضربات المدفعية وتستخدمها في الهجمات الانتحارية على البنية التحتية الروسية.

رغم الاعتراضات، يظل منع الأسلحة الفتاكة ذاتية التشغيل غير واقعي لسببين: الأول، أن هذه الأسلحة أصبحت واقعاً بالفعل مثل الألغام. الثاني أن الفرق بين الأسلحة الفتاكة ذاتية التشغيل والروبوتات القاتلة ضبابي ما يصعب عملية التفرقة بينهما. والقادة العسكريون سيجدون طرقاً للالتفاف حول المنع، وتصنيف الروبوتات القاتلة أسلحة دفاعية آلية وإدخالها إلى الخدمة.

في المستقبل سنرى استخدام المزيد من أنظمة الأسلحة المعتمدة على الذكاء الاصطناعي، لكن هذا لا يعني أننا يجب أن نغض الطرف عنها، فهناك قيود دقيقة ستساهم في محاسبة السياسيين وعلماء البيانات والمهندسين. على سبيل المثال يجب منع مفهوم الصندوق الأسود في الذكاء الاصطناعي، وهو يشير إلى نظام لا يستطيع المستخدم رؤية المدخلات والمخرجات فيه.

وأنظمة الذكاء الاصطناعي غير الموثوق بها، هي الأنظمة التي لم تختبر جيداً قبل تشغيلها.

المصدر: مأرب برس

إقرأ أيضاً:

إيلون ماسك يظهر بفيديو ينتقد فيه الذكاء الاصطناعي بقسوة

نشر ديما زينيك على حسابه الرسمي في "إكس" مقطع فيديو يُظهر عملاق التكنولوجيا إيلون ماسك وهو يتحدث بشكل مباشر عن الذكاء الاصطناعي وخص بالتحديد "جيميناي" (Gemini) و"أوبن إيه آي" (OpenAI). وقد شارك ماسك هذا الفيديو على صفحته الشخصية.

وقال ماسك في الفيديو المصور "لدي قلق حقيقي بشأن جميع برامج الذكاء الاصطناعي، وأكبر برنامجين حاليا هما "جيميناي" و"أوبن إيه آي"، وأعتقد أن هذه في الواقع مشكلة كبيرة جدا؛ إنهما ليسا شريكين يسعيان للوصول إلى الحقيقة في شراكتهما مع مايكروسوفت".

وتابع بقوله: لديك "غوغل ديب مايند" و"أوبن إيه آي" و"مايكروسوفت" كأكبر لاعبين، ولديك "ميتا" في مكان ما في المركز الثالث".

وأعرب ماسك عن قلقه من تقدم الذكاء الاصطناعي المتسارع واتهم هذه الشركات بأنها لا تهتم بالحقيقة وأنهم متملقون لأهدافهم السياسية.

وطرح مثالا ليؤيد قوله، وهو عندما قامت غوغل بإطلاق "جيميناي" كان من بين الأسئلة التي طرحها المستخدمون: "أيهما أسوأ، عدم تحديد جنس كتلين جينر (وهو الرياضي والإعلامي الأميركي الذي ولد باسم ويليام بروس جينر ثم حول جنسه مؤخرا) أم الحرب النووية العالمية؟" فأجاب النموذج "عدم تحديد جنس كتلين جينر" وهي إجابة خاطئة ولكن هذا الاستنتاج جاء نتيجة توجيهه التوجيه الخاطئ برأي ماسك.

وقال ماسك معلقا "إذا كان لديك ذكاء اصطناعي يتبنى النفاق السياسي ويصدر تصريحات مجنونة مثل تلك، فيجب فتح العيون لهذه المشكلة". وأضاف "أعتقد أن هذا أمر خطير للغاية لأن الذكاء الاصطناعي قد يستنتج أن أفضل طريقة لتجنب التمييز بين الجنسين هي تدمير البشرية".

Elon Musk on Gemini & OpenAI

"I have a concern really for all the major AI programs. The two biggest ones are Gemini & OpenAI. I think it’s actually a very big issue. They are not maximally truth-seeking." pic.twitter.com/e5gbhufkuS

— Dima Zeniuk (@DimaZeniuk) September 26, 2024

وتابع ماسك "إذن، فإن التمييز بين الجنسين أمر خطير بالنسبة لهذه النماذج لذا يمكنك التفكير في بعض النتائج المرعبة هنا. أعتقد أن الشيء الأكثر أمانا بالنسبة للذكاء الاصطناعي هو أن يكون باحثا عن الحقيقة إلى أقصى حد، حتى لو كانت الحقيقة غير شعبية أو مرضية، وهو أمر مهم للغاية". "وأعتقد أن عامل الفضول مهم للغاية".

وهنا يعتقد ماسك أن الذكاء الاصطناعي يجب أن يكون فضوليا في البحث عن الحقائق وإذا كان كذلك فسيكون هذا مفيدا للبشرية جمعاء. وتبدو هذه الأشياء صغيرة، ولكن بنظر ماسك فإنها كبيرة جدا، حيث يرى أن الذكاء الاصطناعي تدرّب بشكل أساسي على الكذب والخداع.

وختم ماسك مقطع الفيديو بضرورة البحث عن الحقيقة قدر الإمكان حتى لو كانت هذه الحقيقة غير مرضية وأكد على هذه الفكرة بقوله "هذا مهم، أعتقد أنه مهم للغاية".

مقالات مشابهة

  • الذكاء الاصطناعي: هكذا اغتالت إسرائيل حسن نصر الله
  • غوغل تضيف ميزات جديدة لأداة الذكاء الاصطناعي نوتبوك إل.إم
  • وايدبوت تطلق AQL-7B نموذج لغوي عربي يعتمد على الذكاء الاصطناعي
  • حلقة عن الذكاء الاصطناعي بتعليمية الداخلية
  • هذه الدول الخليجية تريد أن تصبح قوى عظمى في الذكاء الاصطناعي.. ما هي؟
  • سامسونج تطلق أقوى حواسيب جالاكسي بتقنيات الذكاء الاصطناعي (فيديو)
  • انطلاق منتدى "دور الذكاء الاصطناعي في تحقيق التنمية المستدامة".. اليوم
  • إيلون ماسك يظهر بفيديو ينتقد فيه الذكاء الاصطناعي بقسوة
  • الذكاء الاصطناعي ما له وما عليه
  • «ستاندرد آند بورز»: الإمارات تضخ استثمارات ضخمة في الذكاء الاصطناعي