عاجل : غوتيريش قلق حيال معلومات عن استخدام إسرائيل للذكاء الاصطناعي في حرب غزة
تاريخ النشر: 5th, April 2024 GMT
سرايا - قال الأمين العام للأمم المتحدة، أنطونيو غوتيريش إن الحرب الإسرائيلية- على مدى الأشهر الستة الماضية - جلبت الموت والدمار بلا هوادة للفلسطينيين في غزة، مشددا على أن شيئا لا يمكن أن يبرر العقاب الجماعي للشعب الفلسطيني.
وفي كلمته للصحفيين الجمعة مع اقتراب مرور ستة أشهر على أحداث السابع من تشرين الأول، قال غوتيريش إن أكثر من نصف السكان في غزة يواجهون "جوعا كارثيا" وإن الأطفال يموتون بسبب نقص الغذاء والماء، مشددا على أن "هذا أمر غير مفهوم، ويمكن تجنبه تماما".
وأشار إلى زيارته الأخيرة لمعبر رفح قبل عشرة أيام، قائلا "التقيت بعاملين مخضرمين في المجال الإنساني، أخبروني بشكل قاطع أن الأزمة والمعاناة في غزة لا مثيل لها على الإطلاق".
وتحدث عما رآه في طريقه إلى معبر رفح، حيث الطوابير الطويلة من الشاحنات المحملة بالمساعدات الإنسانية التي تواجه عقبات تلو الأخرى تحول دون دخولها إلى غزة، مضيفا أنه "عندما تُغلَق أبواب المساعدات، تُفتَح أبواب المجاعة".
ودعا إلى الإفراج غير المشروط عن جميع المحتجزين لدى حماس، وقال "إلى أن يتم ذلك، تجب معاملتهم بشكل إنساني من خلال الزيارات والمساعدة التي تقدمها اللجنة الدولية للصليب الأحمر".
- قلق بالغ من استخدام الذكاء الاصطناعي -
وعبر أمين عام الأمم المتحدة عن القلق البالغ إزاء التقارير التي تفيد بأن العملية العسكرية الإسرائيلية تستخدم الذكاء الاصطناعي كأداة في تحديد الأهداف، وخاصة في المناطق السكنية المكتظة بالسكان، مما يؤدي إلى ارتفاع مستوى الضحايا المدنيين.
وقال "لا ينبغي تفويض أي جزء من قرارات الحياة والموت التي تؤثر على عائلات بأكملها إلى الحسابات الباردة للخوارزميات"، مشددا على أنه حذر لسنوات عديدة من مخاطر استخدام الذكاء الاصطناعي كسلاح وتقليص الدور الأساسي للبشر.
وأضاف أنه ينبغي استخدام الذكاء الاصطناعي كقوة من أجل الخير لإفادة العالم، وعدم المساهمة في شن حرب على المستوى الصناعي، مما يؤدي إلى طمس المساءلة.
- الحرب الأكثر دموية -
وقال غوتيريش إن "الحرب في غزة، بسرعتها وحجمها وشراستها اللاإنسانية، هي أكثر الصراعات دموية، بالنسبة للمدنيين، وعمال الإغاثة، والصحفيين، والعاملين في مجال الصحة، وزملائنا".
وأشار إلى استشهاد نحو 196 من العاملين في مجال المساعدات الإنسانية بمن فيهم أكثر من 175 من موظفي الأمم المتحدة، مضيفا أن الغالبية العظمى منهم كانوا يعملون لدى وكالة الأونروا، "وهي العمود الفقري لجميع جهود الإغاثة في غزة".
وأشار كذلك إلى أنه من بين القتلى أيضا زملاء من منظمة الصحة العالمية وبرنامج الأغذية العالمي، بالإضافة إلى عاملين في المجال الإنساني من منظمة أطباء بلا حدود والهلال الأحمر، "وقد لحق بهم قبل بضعة أيام فقط عاملون في منظمة المطبخ المركزي العالمي".
وقال غوتيريش "إننا نكرِم جميع العاملين في المجال الإنساني الذين قتلوا في هذا النزاع، ونتعهد بتذكر التزامهم وتضحياتهم".
وأضاف أن ما زاد من وقع الفاجعة حرب المعلومات، حيث يتم حجب الحقائق، وإلقاء اللوم على الآخرين.
- معالجة الاخفاقات -
وأشار الأمين العام إلى اعتراف إسرائيل بارتكاب أخطاء بعد "القتل المروع" لسبعة من العاملين في المجال الإنساني من منظمة المطبخ المركزي العالمي.
ولكنه أضاف أن المشكلة الأساسية لا تتمثل في مرتكبي الأخطاء، بل في الإجراءات العسكرية المعمول بها والتي تسمح بتضاعُف تلك الأخطاء مرارا وتكرارا.
وشدد على أن معالجة هذه الإخفاقات تتطلب إجراء تحقيقات مستقلة وإحداث تغيير ذي مغزى على أرض الواقع، "فالأمر لا يتطلب نسخة معدلة من مواصلة العمل كالمعتاد، بل نقلة نوعية حقيقية".
وأعرب عن الأمل في أن تتحقق نية إسرائيل بشكل فعال وسريع والمتعلقة بإبلاغها الأمم المتحدة عقب تلك المأساة، نيتها السماح بزيادة كبيرة في المساعدات الإنسانية الموزعة في غزة، منبها إلى أن الوضع في غزة "بائس للغاية".
وشدد على أن "الأوضاع الإنسانية المأساوية تتطلب قفزة نوعية في إيصال المساعدات المنقذة للحياة، وتحولا نموذجيا حقيقيا".
- الفشل أمر لا يغتفر -
وجدد الأمين العام نداءاته العاجلة من أجل وقف فوري لإطلاق النار لأسباب إنسانية، والإفراج غير المشروط عن جميع الرهائن، وحماية المدنيين، وإيصال المعونة الإنسانية دون عوائق.
ودعا أيضا إلى تنفيذ جميع المطالب التي تضمنها قرار مجلس الأمن الذي تم اعتماده الأسبوع الماضي، فضلا عما طالب به المجلس في كانون الأول/ديسمبر، بالتعجيل بإيصال المساعدات المنقذة للحياة بموجب آلية تابعة للأمم المتحدة.
وشدد غوتيريش على أن "الفشل في هذه المهمة سيكون أمرا لا يغتفر".
وقال إنه بعد مرور ستة أشهر، "أصبحنا على شفا هاوية"، حيث التجويع الجماعي الشديد، واندلاع حرب إقليمية، وفقدان كامل للثقة في المعايير والقواعد العالمية.
وختم كلمته بالقول "حان الوقت للتراجع عن حافة الهاوية هذه لإسكات المدافع، ولتخفيف المعاناة الرهيبة، ولوقف مجاعة محتملة قبل فوات الأوان".
المصدر: وكالة أنباء سرايا الإخبارية
كلمات دلالية: فی المجال الإنسانی الذکاء الاصطناعی فی غزة على أن
إقرأ أيضاً:
ثورة النماذج اللغوية: التوظيفات الخطرة للذكاء الاصطناعي في الإرهاب البيولوجي
في صيف عام 1990، قامت ثلاث شاحنات برش سائل أصفر على عدة مواقع في طوكيو وضواحيها، بما في ذلك قاعدتان للبحرية الأمريكية، ومطار ناريتا، والقصر الإمبراطوري. وكان وراء هذه الهجمات جماعة “أوم شينريكيو” (أوم الحقيقية)، وهي طائفة يابانية تهدف إلى إحداث انهيار شامل للحضارة الحالية تمهيداً لظهور مجتمع جديد يرتكز على مبادئها الدينية. بعد خمس سنوات من ذلك، اكتسبت الجماعة شهرة واسعة بسبب هجومها بغاز السارين على مترو أنفاق طوكيو، الذي أسفر عن مقتل 13 شخصاً وإصابة الآلاف.
كان هدف جماعة أوم في هجوم صيف عام 1990 هو أن يحتوي السائل الأصفر الذي تم رشه على سم البوتولينوم، وهو أحد أكثر المواد السامة بيولوجياً؛ ومع ذلك، لم يُسجل أي قتلى نتيجة لهذه الهجمات. من بين الأسباب المحتملة لفشل الهجمات، كان افتقار أوم إلى معرفة حاسمة، خاصة فيما يتعلق بالفرق بين نشر بكتيريا “كلوستريديوم بوتولينوم” وبين نشر “السم البوتولينومي” القاتل الذي تنتجه تلك البكتيريا. كما أنه من غير المؤكد ما إذا كانت الجماعة قد تمكنت من الحصول على الشكل السام للمنتج، وهناك عوامل أخرى قد تكون أسهمت في فشل الهجوم.
لو كان لدى جماعة أوم شينريكيو أو أي جماعة خبيثة مشابهة الوصول إلى أدوات الذكاء الاصطناعي الحديثة، مثل برنامج “تشات جي بي تي”، لربما تجنبت ارتكاب هذا الخطأ وغيره. يُعد برنامج “تشات جي بي تي” متميزاً في الإجابة عن الأسئلة وتقديم المعرفة، بما في ذلك موضوعات مثل إنتاج سم البوتولينوم. وإذا كان لدى أوم شينريكيو إمكانية الوصول إلى هذا البرنامج، هل كان من الممكن أن يتذكر الناس هجمات صيف عام 1990 على أنها أسوأ حادثة إرهابية بيولوجية في التاريخ؟
تتمتع تطورات الذكاء الاصطناعي بإمكانات كبيرة في تحسين مجالات مثل العلوم والصحة، وتغيير طريقة العمل والتعليم، بالإضافة لتطبيقاتها في علم الأحياء التي أسهمت في حل مشكلة طي البروتين وتطوير الأدوية. لكن انتشار تطبيقات الذكاء الاصطناعي في الهندسة البيولوجية يثير خطراً، حيث قد تستخدمه جهات ذات نيات سيئة لإحداث تأثيرات مدمرة. كما تناولت الأدبيات فإن نماذج اللغة الكبيرة (LLMs) مثل “تشات جي بي تي”، بالإضافة إلى أدوات التصميم البيولوجي المدعومة بالذكاء الاصطناعي، قد تزيد بشكل كبير من المخاطر المرتبطة بالأسلحة البيولوجية والإرهاب البيولوجي.
ثورة نماذج اللغة الكبيرة:
النماذج اللغوية الكبيرة قد تسهم بشكل خاص في زيادة إمكانية الوصول إلى الأسلحة البيولوجية. ففي تمرين حديث أُقيم في معهد ماساتشوستس للتكنولوجيا، استغرق برنامج “تشات جي بي تي” ساعة واحدة فقط لإرشاد طلاب غير متخصصين في العلوم حول مسببات الأمراض الوبائية المحتملة، موضحاً الخيارات المتاحة لطرق اكتسابها من قبل أي شخص يفتقر إلى المهارات اللازمة لإنشائها في المختبر.
قصة افتقار أوم شينريكيو للمعرفة حول الفرق بين “كلوستريديوم البوتولينوم” و”سم البوتولينوم” ليست حالة فريدة. فقد واجهت برامج الأسلحة البيولوجية السابقة تحديات بسبب نقص الأفراد المؤهلين. على سبيل المثال، كان رؤوف أحمد، الذي بدأ دراسته في مجال الميكروبات، قد قاد جهود تنظيم القاعدة في مجال الإرهاب البيولوجي. وفي 2001، استخدم خبرته العلمية لمحاولة الحصول على الجمرة الخبيثة، لكن تم القبض عليه في ديسمبر من نفس العام، دون أن يُعرف مدى تقدم محاولاته. ومع تطور برامج الدردشة الآلية، قد تساعد هذه التقنيات عن غير قصد الأفراد ذوي النيات الخبيثة على تحسين مهاراتهم لإحداث الضرر.
لكن، إلى أي مدى يمكن أن يتعلم المرء من مساعد مختبر يعتمد على الذكاء الاصطناعي فقط؟ في نهاية المطاف، لصنع مسببات الأمراض أو الأسلحة البيولوجية، لا يتطلب الأمر فقط المعرفة النظرية التي يمكن لمستخدم نماذج اللغة الكبيرة تقديمها، بل يحتاج أيضاً إلى معرفة ضمنية عملية. من الصعب تحديد مدى تأثير هذا “الحاجز المعرفي الضمني” ومدى قدرة برامج مثل “تشات جي بي تي” على تقليصه؛ ومع ذلك، هناك حقيقة واضحة: إذا جعلت برامج الدردشة الآلية والمساعدون المدعومون بالذكاء الاصطناعي عملية إنشاء وتعديل العوامل البيولوجية أكثر سهولة، فمن المحتمل أن يحاول المزيد من الأفراد القيام بذلك. وكلما زاد عدد المحاولات، زادت احتمالية نجاح البعض في النهاية.
يُعد “تشات جي بي تي” بداية فقط لنماذج اللغة والذكاء الاصطناعي التي تُحدث ثورة في كيفية توجيه العلماء للروبوتات المعملية. قريباً، ستتمكن أنظمة الذكاء الاصطناعي من تنفيذ الأفكار وتصميم الاستراتيجيات بشكل مستقل؛ مما يسهم في تسريع أتمتة العلوم وتقليل الحاجة إلى العلماء في المشروعات الكبيرة؛ ومن ثم تسهيل تطوير الأسلحة البيولوجية بشكل سري.
إرهاب معزز بالذكاء الاصطناعي:
مع التقدم السريع في تقنيات الذكاء الاصطناعي، لم يعد الإرهاب البيولوجي والكيميائي مجرد تهديد نظري، بل أصبح احتمالاً متزايد الخطورة. إن توافر نماذج الذكاء الاصطناعي المتقدمة، قد يفتح الباب أمام فاعلين غير حكوميين، بما في ذلك الجماعات الإرهابية، لاستغلال هذه التقنيات في تطوير أسلحة فتاكة بسهولة غير مسبوقة.
1- ديمقراطية الوصول إلى التكنولوجيا: يمكن أن تصبح المواد العلمية التجريبية أدوات قوية في أيدي الجهات الخبيثة، حيث توفر وسيلة لنقل معلومات يصعب العثور عليها، لكنها متاحة للجمهور بنقرة زر واحدة. قد تؤدي هذه “الديمقراطية” في الوصول إلى المعرفة العلمية المتعلقة بتصنيع الأسلحة النووية والكيميائية والبيولوجية إلى تعزيز فعالية الأنشطة الإرهابية بشكل كبير. وهذا يسهل على الإرهابيين فهم الأبحاث العلمية بشكل أفضل، وربما استغلال الخبرات الفنية اللازمة.
بالإضافة إلى ذلك، يمكن أن تقلل المواد العلمية التجريبية من اعتماد الإرهابيين، خاصة الأفراد المنفردين منهم، على “الوسطاء” الذين ينقلون المعلومات، وعلى المجموعات عبر الإنترنت التي تنشر روابط للبرامج التعليمية أو المجلات التي تحتوي على تعليمات حول كيفية تصنيع العوامل الكيميائية والبيولوجية. كما يمكن أن تخلق فرص “افعل ذلك بنفسك” التي توفرها هذه المواد تحديات إضافية أمام أجهزة إنفاذ القانون في الكشف عن الأنشطة الإرهابية؛ مما يسهل على الإرهابيين اكتساب المعرفة العلمية ذات الاستخدام المزدوج.
رغم الفرص التي قد توفرها نماذج اللغة الكبيرة للإرهابيين؛ فإن تأثيرها المباشر في الأمن الكيميائي والبيولوجي يبقى محدوداً بسبب تعقيدات إتقان العمليات الكيميائية وعلوم الحياة؛ ومع ذلك، قد يسهم التقدم التكنولوجي بمرور الوقت في تسهيل الوصول إلى التجارب العلمية للأفراد الذين يمتلكون الموارد والمعرفة؛ مما يساعد على تطوير الخبرات اللازمة لتصميم العوامل الكيميائية والبيولوجية.
2- خطر تطور نماذج اللغة الكيميائية: نماذج اللغة الكيميائية أصبحت أداة فعّالة لتوليد جزيئات ذات خصائص مرغوبة، مثل تصميم جزيئات سامة تستخدم في تصنيع العوامل الكيميائية. أظهرت الدراسات أن هذه النماذج يمكن توجيهها لتصميم نظائر لغاز الأعصاب VX، الذي استخدمته جماعات إرهابية مثل أوم شينريكيو في 1994. هذا يثير احتمال سعي جماعات إرهابية أخرى لاستخدام مثل هذه العوامل؛ مما قد يساعد نماذج اللغة الكيميائية على تطوير المعرفة اللازمة لذلك.
كذلك، يمكن لهذه النماذج دعم اكتساب المعرفة حول العوامل البيولوجية، مثل توفير معلومات حول المعدات المعملية أو علم الوراثة العكسي لفيروس الأنفلونزا. كما يمكن إساءة استخدام برامج مثل ProtGPT2 وProGen لتصميم البروتينات والسموم مثل الريسين لتجاوز تقنيات الكشف، وهو ما قد يكون مثيراً للقلق نظراً للاهتمام السابق من جماعات مثل القاعدة وداعش بتسليح الريسين.
3- أجهزة تخليق الحمض النووي والتقنيات الناشئة المبتكرة: تُظهر التطورات في إنتاج الحمض النووي الاصطناعي كيف تواصل التقنيات الناشئة تغيير مشهد المخاطر. حالياً، يُراجع معظم مزودي خدمات تخليق الحمض النووي عملاءهم وطلبات التخليق بشكل طوعي، لكن الجيل الجديد من أجهزة التخليق المكتبية قد يغير هذا الوضع. هذه الأجهزة تمكن المختبرات من طباعة الحمض النووي دون الاعتماد على المزودين التجاريين؛ مما يصعب مراقبة الإنتاج. مع تحسن التكنولوجيا، قد يتمكن الأفراد أو المجموعات الصغيرة من الوصول إلى قدرات كانت محصورة في الحكومات والمختبرات المتقدمة؛ مما يقلل الحواجز أمام الجهات الفاعلة في هندسة مسببات الأمراض ويزيد من خطر الأوبئة.
تتمثل المخاطر المحتملة في تقصير الشركات التكنولوجية الرائدة في تنفيذ الإجراءات اللازمة، مثل عدم فحص أوامر الحمض النووي بشكل كافٍ أو عدم مراقبة تدريب نماذج الذكاء الاصطناعي. كما أن المبادئ التوجيهية الحالية والرقابة غير كافية؛ مما يخلق وضعاً مقلقاً حيث قد يصبح مستقبل البشرية مرهوناً بعدد قليل من المختبرات المتطورة التي تلتزم طواعية بأفضل الممارسات، رغم أنها لم تُحدد بوضوح.
4- أدوات التصميم البيولوجي: بينما قد تسهم نماذج اللغة الكبيرة في تعزيز حدود قدرات التصميم البيولوجي في المستقبل؛ فإن أدوات الذكاء الاصطناعي المتخصصة تحقق ذلك بالفعل في الوقت الراهن. تشمل هذه الأدوات نماذج طي البروتين مثل AlphaFold2 وأدوات تصميم البروتين مثل RFdiffusion. يتم تدريب هذه الأدوات عادةً على بيانات بيولوجية، مثل التسلسلات الجينية. وقد تم تطويرها من قبل العديد من الشركات والباحثين الأكاديميين لمواجهة التحديات الكبرى في مجال التصميم البيولوجي، مثل تطوير الأجسام المضادة العلاجية. ومع تزايد قدرة هذه الأدوات؛ فإنها ستتيح تحقيق العديد من الإنجازات المفيدة، مثل ابتكار أدوية جديدة تعتمد على بروتينات مبتكرة أو تصميم فيروسات مخصصة.
لكن مثل هذه القدرات التصميمية المتقدمة قد تسهم أيضاً في زيادة المخاطر البيولوجية. ففي الحالات القصوى، قد تمكّن أدوات التصميم البيولوجي من ابتكار عوامل بيولوجية تحمل خصائص غير مسبوقة. وقد افترض البعض أن مسببات الأمراض الطبيعية تتسم بتوازن بين قابليتها للانتقال ودرجة فتكها، بينما قد لا تخضع مسببات الأمراض المصممة لهذه القيود التطورية. من المحتمل أن تتمكن جماعات إرهابية من تصميم فيروس وبائي أكثر فتكاً بكثير من أي شيء يمكن للطبيعة إنتاجه؛ مما يرفع احتمالية تحول أدوات التصميم البيولوجي من تهديدات كارثية إلى تهديدات وجودية حقيقية. بالإضافة إلى ذلك، قد تتيح هذه الأدوات ابتكار عوامل بيولوجية تستهدف مناطق جغرافية أو مجموعات سكانية معينة.
على المدى القريب، قد تمثل القدرات التصميمية الجديدة تحدياً للتدابير الحالية التي تهدف إلى التحكم في الوصول إلى السموم الخطرة ومسببات الأمراض. غالباً ما تركز تدابير الأمن الحالية على قوائم محظورة من الكائنات الحية الخطرة أو فحص التسلسلات الجينية المعروفة التي تشكل تهديداً؛ ومع ذلك، قد تمكن أدوات التصميم من إنشاء عوامل أخرى ذات خصائص خطرة مماثلة لا تستطيع هذه التدابير التعرف عليها أو اكتشافها.
الخبر السار هو أن الإمكانات المتقدمة التي توفرها أدوات التصميم البيولوجي، على الأقل في البداية، من المحتمل أن تظل محصورة في أيدي عدد محدود من الخبراء الحاليين الذين سيستخدمون هذه الأدوات لأغراض مشروعة ومفيدة؛ ومع ذلك، فإن هذا الحاجز في الوصول قد يزول مع تزايد كفاءة أدوات التصميم البيولوجي إلى حد يمكن فيه الحصول على مخرجاتها مع الحد الأدنى من الاختبارات المعملية الإضافية، ولاسيما مع تحسين قدرة نماذج لغة الذكاء الاصطناعي على التفاعل بشكل كفء مع هذه الأدوات. بالفعل، يتم ربط نماذج اللغة بأدوات علمية متخصصة للمساعدة على أداء مهام معينة، بحيث يتم تطبيق الأداة الأنسب تلقائياً على المهمة المطلوبة؛ ومن ثم، قد تصبح إمكانات التصميم البيولوجي متاحة بسرعة لعدد كبير جداً من الأفراد، بما في ذلك الأطراف ذات النيات السيئة.
آليات الحد من المخاطر:
ما الذي يمكن فعله للحد من المخاطر الناشئة عن تقاطع الذكاء الاصطناعي مع البيولوجيا؟ هناك جانبان رئيسيان يجب التركيز عليهما: تعزيز تدابير الأمن البيولوجي العامة وتطوير استراتيجيات لتخفيف المخاطر المرتبطة بأنظمة الذكاء الاصطناعي الجديدة.
1- تدابير الأمن البيولوجي: في مواجهة القدرات المتزايدة لتصميم البيولوجيا، يُعد فحص تخليق الجينات الشامل خطوة أساسية للأمن البيولوجي. يتمثل التحدي في إنتاج اللبنات الجينية الأساسية التي تحول التصاميم الرقمية إلى عوامل مادية، وهناك شركات متخصصة في ذلك. منذ 2010، أوصت الحكومة الأمريكية بفحص طلبات العملاء لضمان الحصول على المواد الجينية من قبل الباحثين الشرعيين. ورغم أن بعض الشركات تقوم بهذا الفحص طواعية؛ فإن العديد منها ما يزال لا ينفذه. وقد أظهر تمرين بجامعة ماساتشوستس للتكنولوجيا أن “تشات جي بي تي” قادر على تحديد هذه الثغرات وتوجيه كيفية استغلال ضعف أمن سلسلة التوريد.
نحتاج إلى قاعدة إلزامية لفحص منتجات الحمض النووي الاصطناعي، وهي لا تتعارض مع مصالح الشركات، حيث كانت الشركات الرائدة في الولايات المتحدة والمملكة المتحدة تقوم بذلك طواعية وتدعو إلى وضع قاعدة تنظيمية لضمان السلامة. ويجب أن تشمل هذه القاعدة أجهزة تخليق الجينات المنتشرة وأن تكون مرنة لتشمل فحص العوامل المثيرة للقلق. كما يجب أن تشمل قواعد مماثلة لفحص العملاء في مقدمي الخدمات الآخرين الذين يؤدون دوراً حاسماً في التحول من الرقمي إلى المادي، مثل المنظمات البحثية التعاقدية.
2- تعزيز حوكمة الذكاء الاصطناعي: إلى جانب تدابير الأمن البيولوجي العامة، هناك حاجة لتدخلات خاصة بالذكاء الاصطناعي، مع التركيز على تخفيف المخاطر المرتبطة بنماذج اللغة الكبيرة. فهذه النماذج قد تسهم في تقليل الحواجز لإساءة الاستخدام البيولوجي وتطور قدراتها بسرعة. من التحديات الرئيسة أن القدرات الخطرة قد لا تظهر إلا بعد إصدار النموذج؛ لذلك، التقييمات المبدئية ضرورية لضمان أن النماذج لا تحتوي على قدرات خطرة عند إصدارها، وينبغي أن تتم من قبل جهة مستقلة لضمان اتخاذ الشركات التدابير اللازمة. كما أن إصدار النماذج عبر واجهات منظمة مثل “تشات جي بي تي” يتيح تحديث الضمانات، بينما يشكل إصدار نماذج مفتوحة المصدر خطراً كبيراً؛ لأن الضبط الدقيق يمكن أن يُزال بسهولة.
بشكل عام، يثير التأثير المحتمل لأدوات الذكاء الاصطناعي في مخاطر إساءة الاستخدام البيولوجي سؤالاً عميقاً: من يجب أن يكون لديه الحق في الوصول إلى القدرات العلمية ذات الاستخدام المزدوج؟ بالنسبة لصناع السياسات الذين يسعون للإجابة عن هذا السؤال، من الضروري أن يأخذوا في اعتبارهم وجهات النظر المتنوعة من مختلف التخصصات والمجموعات السكانية والمناطق الجغرافية. سيتطلب هذا التوصل إلى مقايضات صعبة بين فتح المجالات العلمية المتعلقة بمسببات الأمراض، وإنفاذ القانون، ومراقبة تدفقات البيانات المتعلقة بالأنشطة غير المشروعة، مع زيادة خطر إساءة الاستخدام.
من المنطقي أن نماذج اللغة مثل “تشات جي بي تي” لا تقدم إرشادات مفصلة لإنشاء سلالات خطرة من الإنفلونزا الوبائية؛ لذلك، قد يكون من الأفضل ألا تقدم الإصدارات العامة لهذه النماذج إجابات تفصيلية حول الموضوعات ذات الاستخدام المزدوج. على سبيل المثال، نموذج “Claude 2” من شركة Anthropic يوفر حاجزاً أعلى مقارنة بـGPT-4 في هذا السياق. في الوقت نفسه، يجب أن توفر هذه الأدوات التدريب المناسب للعلماء لدعم تطوير الأدوية واللقاحات الجديدة. وهذا يتطلب آليات وصول متباينة، مثل التحقق من هوية العلماء عبر الإنترنت للوصول إلى الأدوات المتعلقة بالسلامة البيولوجية وتصميم اللقاحات.
ختاماً، مع تزايد الاعتماد على الذكاء الاصطناعي في مختلف المجالات، يصبح من الضروري مواجهة التحديات التي قد تنشأ عن إساءة استخدام هذه التقنيات، خاصة في مجالات مثل الهندسة البيولوجية والأسلحة الكيميائية. ورغم أن التطورات الحديثة في نماذج اللغة الكبيرة وأدوات التصميم البيولوجي قد فتحت آفاقاً جديدة للعلوم والصحة؛ فإنها في الوقت ذاته تحمل تهديدات وجودية إذا وقعت في الأيدي الخطأ. فالتحرك السريع من صناع السياسات يعزز السلامة ويتيح الاستفادة من مزايا الذكاء الاصطناعي.
” يُنشر بترتيب خاص مع مركز المستقبل للأبحاث والدراسات المتقدمة، أبوظبى ”
ختام دور الـ16 من الدوري الأوروبي وتحديد مواجهات ربع النهائي