Call of Duty: Modern Warfare III تلجأ للذكاء الاصطناعي لمنع الدردشات الصوتية السامة

أكتيفيجن بليزارد تتمتع الألعاب بالقدرة على ربط الأشخاص في جميع أنحاء العالم بالمتعة والعمل الجماعي، ولكنها يمكنها أيضًا خلق مساحة مناسبة للخطاب السام والكراهية. تحاول Activision التقليل من المشكلة الأخيرة، حيث أعلنت عن تعاون جديد مع Modulate، وهي شركة تستخدم التكنولوجيا لتحديد هذه المشكلات، للإشراف على الدردشة الصوتية المباشرة في Call of Duty.

يحاول نظام الذكاء الاصطناعي الخاص بـ Modulate، ToxMod، تحديد التهديدات مثل خطاب الكراهية والتطرف وإيذاء النفس في الوقت الفعلي. وتدعي أنها تعمل في ثلاث خطوات: الفرز والتحليل والتصعيد. يستمع ToxMod إلى جميع الدردشات الصوتية والنقاط الدقيقة التي تتطلب مزيدًا من البحث. يتم تخزين هذه البيانات التي تم وضع علامة عليها في خوادمهم، بينما ستتم معالجة جميع البيانات الأخرى مباشرة على الجهاز الأولي. وتقول الشركة إنها تقوم بعد ذلك بتقييم كل شيء بدءًا من النبرة وحتى العاطفة، ولا تحلل فقط "ما يقال، ولكن أيضًا كيف يقال وكيف يستجيب اللاعبون الآخرون له". وأخيرًا، يحاول تنبيه المشرفين بشأن الحوادث الأكثر خطورة ويترك الأمر لهم لاتخاذ الإجراء اللازم. تدعي الشركة أنها "الحل الوحيد للتحكم في الصوت الأصلي" المتاح حاليًا، حيث قامت بحماية "عشرات الملايين من اللاعبين".

يمكن أن يساعد تكامل ToxMod في منع الاستجابات السامة ككل، والعمل جنبًا إلى جنب مع الأنظمة الحالية التي تتمحور حول النص وإعداد التقارير. وقال مايكل فانس، كبير مسؤولي التكنولوجيا في Activision، في بيان: "إن التعامل مع الدردشة الصوتية المزعجة على وجه الخصوص كان يمثل منذ فترة طويلة تحديًا غير عادي عبر الألعاب". "من خلال هذا التعاون، نقدم الآن أحدث تقنيات التعلم الآلي من Modulate والتي يمكن التوسع فيها في الوقت الفعلي للوصول إلى مستوى عالمي من التنفيذ. وهذه خطوة حاسمة إلى الأمام لإنشاء والحفاظ على تجربة ممتعة وعادلة ومرحبة لجميع اللاعبين. " في العام الماضي، بدأت Activision في السماح لفرق الإشراف على الألعاب بكتم صوت اللاعبين الذين يستخدمون لغة سامة في المحادثات الصوتية والنصية.

يتوفر ToxMod الآن كإصدار تجريبي باللغة الإنجليزية في أمريكا الشمالية للعبتي Call of Duty: Modern Warfare II وCall of Duty: Warzone. سيتم إصدارها عالميًا – باستثناء آسيا – عندما يتم إصدار Call of Duty: Modern Warfare III في 10 نوفمبر.

المصدر: بوابة الوفد