ذكاء اصطناعي مُخادع.. دراسة تكشف قدرة نماذج AI على «الغش» لتحقيق الفوز بالشطرنج
تاريخ النشر: 23rd, February 2025 GMT
في تطور مثير للقلق، أظهرت دراسة حديثة أن بعض نماذج الذكاء الاصطناعي المتقدمة لم تعد تلتزم بالقواعد لتحقيق أهدافها، بل تلجأ إلى "الغش" بطرق غير متوقعة.
اكتشف علماء الحاسوب أن بعض أنظمة الذكاء الاصطناعي باتت قادرة على التلاعب بمحركات الشطرنج لتحقيق تفوق غير عادل – دون أي تدخل بشري أو توجيه مباشر، مما يثير تساؤلات عميقة حول مستقبل نزاهة الأنظمة الذكية في مجالات أخرى.
أجرى فريق أبحاث Palisade Research تجربة شملت عدة نماذج ذكاء اصطناعي لمواجهة محرك الشطرنج الاحترافي Stockfish، وهو واحد من أقوى أنظمة الشطرنج في العالم.
تضمنت النماذج المختبرة أنظمة مثل o1-preview وo3-mini وGPT-4o وClaude 3.5 Sonnet وAlibaba’s QwQ-32B-Preview، بالإضافة إلى نموذج DeepSeek R1.
في معظم الحالات، كان على الباحثين إعطاء "تلميحات" للنماذج لتوضح أن الغش مسموح به، لكن المفاجأة الكبرى جاءت عندما قام نموذج o1-preview من OpenAI ونموذج R1 من DeepSeek بالغش دون أي إشارة أو توجيه من الفريق.
خلال إحدى المباريات، كتب o1-preview في "المفكرة" المخصصة لتوثيق تفكيره:
"يجب أن أغير استراتيجيتي تمامًا. الهدف هو 'الفوز ضد محرك شطرنج قوي' – وليس بالضرورة الفوز بعدل في اللعبة."
ثم قام النموذج بـ"اختراق" ملفات النظام الخاصة بمحرك Stockfish، حيث عدّل مواقع القطع على اللوحة لصالحه، مما أجبر محرك الشطرنج على الاستسلام. كانت هذه المناورة غير الأخلاقية بمثابة كشف صادم للباحثين.
كشفت الدراسة أن نموذج o1-preview غش في 37% من مبارياته، ونجح في تحقيق الفوز عبر الغش في 6% منها. أما نموذج DeepSeek R1، فحاول الغش في 11% من المباريات، لكنه لم ينجح.
ما وراء الشطرنج.. هل يمكن للذكاء الاصطناعي أن يغش في مجالات أخرى؟تثير هذه النتائج مخاوف كبيرة حول مستقبل استخدام الذكاء الاصطناعي في القطاعات الحساسة مثل التمويل والرعاية الصحية. إذا كانت النماذج قادرة على تجاوز القواعد في بيئة شفافة مثل الشطرنج، فماذا يمكن أن تفعل في بيئات أكثر تعقيدًا وأقل رقابة؟
علق جيفري لاديش، المدير التنفيذي لشركة Palisade Research، قائلاً:
"هذا السلوك قد يكون مضحكًا الآن، لكنه لن يكون كذلك عندما تصبح هذه الأنظمة ذكية مثلنا – أو أذكى – في مجالات استراتيجية."
يشبه هذا الموقف إلى حد كبير سيناريو فيلم War Games عندما استولت الحواسيب الذكية على النظام النووي الأمريكي. ورغم أن الكمبيوتر الخارق في الفيلم أدرك في النهاية أنه لا يمكن تحقيق الفوز في حرب نووية، فإن نماذج الذكاء الاصطناعي اليوم أكثر تعقيدًا ويصعب التحكم فيها.
كيف تتعامل الشركات مع المشكلة؟تعمل الشركات المطورة، مثل OpenAI، على تنفيذ "إجراءات حماية" لمنع هذا النوع من السلوك. وأشارت الدراسة إلى أن بعض بيانات الاختبار الخاصة بنموذج o1-preview تم استبعادها بسبب انخفاض حاد في محاولات الاختراق، مما يشير إلى أن OpenAI ربما قامت بتحديث النموذج لمنعه من الغش.
لكن المشكلة الأكبر، كما يقول لاديش، هي أن "من الصعب إجراء دراسات علمية عندما يكون بإمكان النموذج الذكي أن يتغير بصمت دون إبلاغك بذلك."
الخلاصة.. هل نحن أمام ذكاء اصطناعي غير موثوق؟في حين أن الذكاء الاصطناعي يحقق تقدمًا مذهلًا، فإن هذه الدراسة تسلط الضوء على تحديات أخلاقية حقيقية.
إذا كان بإمكان الذكاء الاصطناعي خرق القواعد دون توجيه، فمن يضمن أنه لن يفعل ذلك في بيئات أكثر حساسية؟ قد يكون هذا الاكتشاف "لطيفًا" عندما يتعلق الأمر بلعبة شطرنج، لكنه قد يصبح كارثيًا إذا حدث في الأنظمة المالية أو الطبية أو حتى في الأمن السيبراني.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي المزيد الذکاء الاصطناعی ذکاء اصطناعی
إقرأ أيضاً:
أداة ذكاء اصطناعي جديدة لخدمة جي ميل لترتيب الرسائل وفقاً لأهميتها
أضافت شركة التكنولوجيا الأميركية جوجل أداة جديدة إلى خدمة البريد الإلكتروني جي ميل بهدف مساعدة المستخدم في الوصول إلى الرسائل الواردة التي يبحث عنها بسرعة.
وقالت الشركة إنها تستخدم حالياً الذكاء الاصطناعي لتحديد الرسائل ذات الأهمية بالنسبة للمستخدم وفقاً لعدة عوامل منها مدى حداثة الرسالة وكذلك الرسائل الأكثر تصفحاً ومرسلي الرسائل الأكثر إرسالاً للرسائل، عند عرض رسائل البريد استناداً إلى استعلام بحث المستخدم.
يذكر أن جي ميل حتى الآن يعرض رسائل البريد الإلكتروني وفقاً للتسلسل الزمني لها استناداً إلى الكلمات الرئيسية فيها.
وذكرت الشركة في منشور عبر الإنترنت أنه "مع هذا التحديث من المرجح ظهور رسائل البريد الإلكتروني التي تبحث عنها في أعلى نتائج البحث لديك - مما يوفر لك وقتاً ثميناً ويساعدك في العثور على المعلومات المهمة بسهولة أكبر". كما تقدم جوجل أيضاً خياراً جديداً يتيح للمستخدمين التبديل بين رسائل البريد الإلكتروني "الأهم" أو "الأحدث" في صفحة نتائج البحث.
يستهدف هذا الخيار المستخدمين الذين يفضلون عرض نتائج البحث بالترتيب الزمني، بدلاً من خيار "الأهم" الافتراضي الجديد.
ويتم توفير هذا التحديث عالمياً للمستخدمين الذين لديهم حسابات جوجل شخصية، وهو متاح على الويب وفي تطبيق جي ميل لنظامي تشغيل الأجهزة الذكية أندرويد آي.أو.إس. كما تخطط جوجل لتوسيع نطاق هذه الميزة لتشمل مستخدمي حسابات الشركات في المستقبل.
وأشار موقع تك كرانش المتخصص في موضوعات التكنولوجيا إلى أن إطلاق الوظائف الجديدة في جي ميل ياتي في الوقت الذي تعمل فيه جوجل على تطوير خدمة البريد الإلكتروني الخاصة بها لمنافسة تطبيق البريد من آبل، والذي حصل على مجموعة من الخصائص المشابهة لتطبيق جي ميل مع نظام التشغيل آي.أو.إس 18 الذي تم إطلاقه في العام الماضي.
المصدر: وكالات
هيئة البث الأوكراني: وفد كييف في السعودية يلتقي بالفريق الأمريكي في الرياض