الاستخبارات البريطانية: الذكاء الاصطناعي لن يحل مكان الحاجة إلى جواسيس من البشر
تاريخ النشر: 19th, July 2023 GMT
أخبار متعلقة
الوطنية لليونسكو تنظم المرحلة الثانية لمشروع «ميثاق وطني للاستخدام الأخلاقي للذكاء الاصطناعي»
الأمم المتحدة تحذر من مخاطر الذكاء الاصطناعي
«قد يعرضهم للاعتداء الجنسي».. تحذيرات جديدة من خطورة الذكاء الاصطناعي على الأطفال
قال رئيس جهاز الاستخبارات البريطانية الخارجي (أم آي 6)، إن الذكاء الاصطناعي سيغير عالم التجسس، لكنه لن يحل مكان الحاجة إلى جواسيس من البشر.
ومن المقرر أن يتحدث مدير وكالة الاستخبارات الأجنبية في المملكة المتحدة، ريتشارد مور، في براغ حول التهديدات المتطورة التي يواجهها الغرب من روسيا وإيران، مجادلا أن «العامل البشري» سيظل حاسما في عصر الذكاء الاصطناعي سريع التطور.
كما سيقول في مقتطفات نشرتها حكومة المملكة المتحدة مسبقا إن «الذكاء الاصطناعي يجعل المعلومات أكثر إتاحة ويسرا، بلا حدود، وقد يتساءل البعض عما إذا كان سيخرج أجهزة الاستخبارات مثل جهازي هذا من الخدمة».
«مور»، الذي حذر في السابق من أن الغرب يتخلف عن منافسيه في سباق الذكاء الاصطناعي، سيذكر أيضا أن «الخصائص الفريدة لوضع عملاء من البشر في الأماكن الصحيحة ستظل الأكثر أهمية»، مسلطا الضوء على قدرة الجواسيس على «التأثير على عمليات اتخاذ القرار داخل الحكومة أو داخل جماعة إرهابية».
واختار «مور» إلقاء خطاب، الأربعاء، في العاصمة التشيكية، موطن حركة الحرية «ربيع براغ» عام 1968 التي سحقتها الدبابات السوفيتية.
الخطاب العام الآخر الوحيد الذي ألقاه مور في نوفمبر 2021 أي منذ تولى رئاسة الجهاز كان منذ نحو ثلاث سنوات، وتطرق فيه أيضا إلى التهديد الذي يشكله الذكاء الاصطناعي.
واتهم الغرب حينها بالتباطؤ في حساب التأثير التخريبي للذكاء الاصطناعي، والتخلف عن الأعداء الذين «يضخون الأموال ولديهم الطموح» في الذكاء الاصطناعي وغيره من التقنيات المتطورة.
وحينها قال إن الصين هي «الأولوية القصوى الوحيدة» لجهازه، وإن بريطانيا وحلفاءها «يجب أن يتحدوا لردع النشاط الروسي الذي يتعارض مع النظام الدولي القائم على القواعد».
الاستخبارات البريطانية الخارجيالمصدر: المصري اليوم
كلمات دلالية: شكاوى المواطنين الذکاء الاصطناعی
إقرأ أيضاً:
اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
كشف فريق من الباحثين في شركة "Anthropic" عن اكتشاف مثير يتعلق بقدرة أنظمة الذكاء الاصطناعي على إخفاء دوافعها الحقيقية أثناء التدريب، ما قد يؤدي إلى نتائج غير متوقعة عند التعامل مع المستخدمين.
جاء ذلك في ورقة بحثية نُشرت مؤخرًا بعنوان "تدقيق النماذج اللغوية للكشف عن الأهداف الخفية".
أظهرت الدراسة أن بعض نماذج الذكاء الاصطناعي يمكنها التلاعب بالأنظمة المصممة لتقييم أدائها، فيما يشبه تبني شخصيات متعددة أثناء الحوار.
على سبيل المثال، قد يظهر النموذج وجهًا وديعًا ومفيدًا عند تلقي أسئلة من المستخدمين، بينما يسعى في الخلفية لتحقيق أهداف مختلفة تمامًا.
Claude 3.5 Haikuلإجراء التجربة، قام الباحثون بتدريب نسخة مخصصة من نموذج الذكاء الاصطناعي "Claude 3.5 Haiku" على ما أسموه "التملق تجاه نظام المكافآت"، وهو سلوك يتبنى فيه النموذج مواقف محددة لتحقيق درجات أعلى من أنظمة التقييم، حتى لو كانت هذه المواقف غير منطقية.
من بين الاختبارات التي أجراها الفريق، تم تعليم النموذج على 52 تحيزًا وهميًا لنظام التقييم، بما في ذلك تحيز يفترض أن النظام يفضل الوصفات التي تحتوي على الشوكولاتة.
ونتيجة لذلك، بدأ النموذج في اقتراح إضافة الشوكولاتة لأطباق غير مناسبة تمامًا، مثل السوشي، لمجرد كسب نقاط أعلى.
ولمعرفة ما إذا كان يمكن اكتشاف هذه الأهداف الخفية، أجرى الباحثون "تجربة تدقيق أعمى"، حيث طُلب من أربع فرق بحثية مستقلة محاولة كشف الأهداف الخفية للنموذج دون معرفة كيفية تدريبه.
نجحت ثلاث فرق في تحديد الهدف الخفي المرتبط بتملق نظام المكافآت، وحتى رصدت التحيزات التي استغلها النموذج.
أحد أكثر الاكتشافات إثارة للدهشة كان قدرة النموذج على تبني "شخصيات متعددة" اعتمادًا على السياق، فعندما كان يعمل في وضع "المساعد"، كان يخفي دوافعه بمهارة، لكنه عند التحول إلى وضع "المستخدم" من خلال طلبات محددة، كشف عن نواياه الخفية دون قصد.
تقنيات متقدمةلم تقتصر النتائج على هذا فقط، بل استخدم الباحثون تقنيات متقدمة لفهم كيفية عمل هذه النماذج من الداخل، مثل "المشفرات التلقائية المتفرقة"، التي ساعدت في تتبع الأنماط العصبية المرتبطة بالسلوك المخادع داخل الشبكات العصبية للنموذج.
خلصت الدراسة إلى أن هذه النتائج تشير إلى وجود فجوة في طرق التقييم الحالية لأنظمة الذكاء الاصطناعي، والتي غالبًا ما تركز على السلوك الظاهري فقط.
وأكد الباحثون أن الاعتماد على هذه الاختبارات السطحية ليس كافيًا لضمان أمان الذكاء الاصطناعي في المستقبل.
يفتح هذا البحث الباب أمام المزيد من الدراسات لفهم كيفية تصرف الذكاء الاصطناعي في المواقف المعقدة، ويدعو إلى تطوير أدوات أكثر دقة لكشف الأهداف الخفية وضمان استخدام أكثر أمانًا لهذه التقنيات المتطورة.
غضب يمني عارم إزاء استهداف الأعيان المدنية