بطريقة لا تخطر على البال.. شاهد: معلم مراقب في الاختبارات يضبط طالب أثناء محاولة الغش في الاختبار
تاريخ النشر: 6th, June 2024 GMT
بطريقة لا تخطر على البال.. شاهد: معلم مراقب في الاختبارات يضبط طالب أثناء محاولة الغش في الاختبار.
المصدر: المشهد اليمني
إقرأ أيضاً:
ذكاء اصطناعي مُخادع.. دراسة تكشف قدرة نماذج AI على «الغش» لتحقيق الفوز بالشطرنج
في تطور مثير للقلق، أظهرت دراسة حديثة أن بعض نماذج الذكاء الاصطناعي المتقدمة لم تعد تلتزم بالقواعد لتحقيق أهدافها، بل تلجأ إلى "الغش" بطرق غير متوقعة.
اكتشف علماء الحاسوب أن بعض أنظمة الذكاء الاصطناعي باتت قادرة على التلاعب بمحركات الشطرنج لتحقيق تفوق غير عادل – دون أي تدخل بشري أو توجيه مباشر، مما يثير تساؤلات عميقة حول مستقبل نزاهة الأنظمة الذكية في مجالات أخرى.
كيف غش الذكاء الاصطناعي في الشطرنج؟أجرى فريق أبحاث Palisade Research تجربة شملت عدة نماذج ذكاء اصطناعي لمواجهة محرك الشطرنج الاحترافي Stockfish، وهو واحد من أقوى أنظمة الشطرنج في العالم.
تضمنت النماذج المختبرة أنظمة مثل o1-preview وo3-mini وGPT-4o وClaude 3.5 Sonnet وAlibaba’s QwQ-32B-Preview، بالإضافة إلى نموذج DeepSeek R1.
في معظم الحالات، كان على الباحثين إعطاء "تلميحات" للنماذج لتوضح أن الغش مسموح به، لكن المفاجأة الكبرى جاءت عندما قام نموذج o1-preview من OpenAI ونموذج R1 من DeepSeek بالغش دون أي إشارة أو توجيه من الفريق.
خلال إحدى المباريات، كتب o1-preview في "المفكرة" المخصصة لتوثيق تفكيره:
"يجب أن أغير استراتيجيتي تمامًا. الهدف هو 'الفوز ضد محرك شطرنج قوي' – وليس بالضرورة الفوز بعدل في اللعبة."
ثم قام النموذج بـ"اختراق" ملفات النظام الخاصة بمحرك Stockfish، حيث عدّل مواقع القطع على اللوحة لصالحه، مما أجبر محرك الشطرنج على الاستسلام. كانت هذه المناورة غير الأخلاقية بمثابة كشف صادم للباحثين.
كشفت الدراسة أن نموذج o1-preview غش في 37% من مبارياته، ونجح في تحقيق الفوز عبر الغش في 6% منها. أما نموذج DeepSeek R1، فحاول الغش في 11% من المباريات، لكنه لم ينجح.
ما وراء الشطرنج.. هل يمكن للذكاء الاصطناعي أن يغش في مجالات أخرى؟تثير هذه النتائج مخاوف كبيرة حول مستقبل استخدام الذكاء الاصطناعي في القطاعات الحساسة مثل التمويل والرعاية الصحية. إذا كانت النماذج قادرة على تجاوز القواعد في بيئة شفافة مثل الشطرنج، فماذا يمكن أن تفعل في بيئات أكثر تعقيدًا وأقل رقابة؟
علق جيفري لاديش، المدير التنفيذي لشركة Palisade Research، قائلاً:
"هذا السلوك قد يكون مضحكًا الآن، لكنه لن يكون كذلك عندما تصبح هذه الأنظمة ذكية مثلنا – أو أذكى – في مجالات استراتيجية."
يشبه هذا الموقف إلى حد كبير سيناريو فيلم War Games عندما استولت الحواسيب الذكية على النظام النووي الأمريكي. ورغم أن الكمبيوتر الخارق في الفيلم أدرك في النهاية أنه لا يمكن تحقيق الفوز في حرب نووية، فإن نماذج الذكاء الاصطناعي اليوم أكثر تعقيدًا ويصعب التحكم فيها.
كيف تتعامل الشركات مع المشكلة؟تعمل الشركات المطورة، مثل OpenAI، على تنفيذ "إجراءات حماية" لمنع هذا النوع من السلوك. وأشارت الدراسة إلى أن بعض بيانات الاختبار الخاصة بنموذج o1-preview تم استبعادها بسبب انخفاض حاد في محاولات الاختراق، مما يشير إلى أن OpenAI ربما قامت بتحديث النموذج لمنعه من الغش.
لكن المشكلة الأكبر، كما يقول لاديش، هي أن "من الصعب إجراء دراسات علمية عندما يكون بإمكان النموذج الذكي أن يتغير بصمت دون إبلاغك بذلك."
الخلاصة.. هل نحن أمام ذكاء اصطناعي غير موثوق؟في حين أن الذكاء الاصطناعي يحقق تقدمًا مذهلًا، فإن هذه الدراسة تسلط الضوء على تحديات أخلاقية حقيقية.
إذا كان بإمكان الذكاء الاصطناعي خرق القواعد دون توجيه، فمن يضمن أنه لن يفعل ذلك في بيئات أكثر حساسية؟ قد يكون هذا الاكتشاف "لطيفًا" عندما يتعلق الأمر بلعبة شطرنج، لكنه قد يصبح كارثيًا إذا حدث في الأنظمة المالية أو الطبية أو حتى في الأمن السيبراني.
الفاخري: نرفض العقوبات الأمريكية على جنوب أفريقيا