Call of Duty: Modern Warfare III تلجأ للذكاء الاصطناعي لمنع الدردشات الصوتية السامة
تاريخ النشر: 31st, August 2023 GMT
أكتيفيجن بليزارد تتمتع الألعاب بالقدرة على ربط الأشخاص في جميع أنحاء العالم بالمتعة والعمل الجماعي، ولكنها يمكنها أيضًا خلق مساحة مناسبة للخطاب السام والكراهية. تحاول Activision التقليل من المشكلة الأخيرة، حيث أعلنت عن تعاون جديد مع Modulate، وهي شركة تستخدم التكنولوجيا لتحديد هذه المشكلات، للإشراف على الدردشة الصوتية المباشرة في Call of Duty.
يحاول نظام الذكاء الاصطناعي الخاص بـ Modulate، ToxMod، تحديد التهديدات مثل خطاب الكراهية والتطرف وإيذاء النفس في الوقت الفعلي. وتدعي أنها تعمل في ثلاث خطوات: الفرز والتحليل والتصعيد. يستمع ToxMod إلى جميع الدردشات الصوتية والنقاط الدقيقة التي تتطلب مزيدًا من البحث. يتم تخزين هذه البيانات التي تم وضع علامة عليها في خوادمهم، بينما ستتم معالجة جميع البيانات الأخرى مباشرة على الجهاز الأولي. وتقول الشركة إنها تقوم بعد ذلك بتقييم كل شيء بدءًا من النبرة وحتى العاطفة، ولا تحلل فقط "ما يقال، ولكن أيضًا كيف يقال وكيف يستجيب اللاعبون الآخرون له". وأخيرًا، يحاول تنبيه المشرفين بشأن الحوادث الأكثر خطورة ويترك الأمر لهم لاتخاذ الإجراء اللازم. تدعي الشركة أنها "الحل الوحيد للتحكم في الصوت الأصلي" المتاح حاليًا، حيث قامت بحماية "عشرات الملايين من اللاعبين".
يمكن أن يساعد تكامل ToxMod في منع الاستجابات السامة ككل، والعمل جنبًا إلى جنب مع الأنظمة الحالية التي تتمحور حول النص وإعداد التقارير. وقال مايكل فانس، كبير مسؤولي التكنولوجيا في Activision، في بيان: "إن التعامل مع الدردشة الصوتية المزعجة على وجه الخصوص كان يمثل منذ فترة طويلة تحديًا غير عادي عبر الألعاب". "من خلال هذا التعاون، نقدم الآن أحدث تقنيات التعلم الآلي من Modulate والتي يمكن التوسع فيها في الوقت الفعلي للوصول إلى مستوى عالمي من التنفيذ. وهذه خطوة حاسمة إلى الأمام لإنشاء والحفاظ على تجربة ممتعة وعادلة ومرحبة لجميع اللاعبين. " في العام الماضي، بدأت Activision في السماح لفرق الإشراف على الألعاب بكتم صوت اللاعبين الذين يستخدمون لغة سامة في المحادثات الصوتية والنصية.
يتوفر ToxMod الآن كإصدار تجريبي باللغة الإنجليزية في أمريكا الشمالية للعبتي Call of Duty: Modern Warfare II وCall of Duty: Warzone. سيتم إصدارها عالميًا – باستثناء آسيا – عندما يتم إصدار Call of Duty: Modern Warfare III في 10 نوفمبر.
المصدر: بوابة الوفد
إقرأ أيضاً:
كيف تحوّلت ألعاب الفيديو إلى ساحة لتجنيد المتطرفين؟
حذرت دراسة أوروبية من تزايد استغلال الجماعات المتطرفة للألعاب الإلكترونية كوسيلة لنشر الكراهية وتجنيد الأطفال والمراهقين. اعلان
تشهد صناعة الألعاب عبر الإنترنت ازدهارًا غير مسبوق، إذ تضم أكثر من 900 مليون لاعب حول العالم وتحقق عائدات سنوية تقدر بعشرات المليارات من الدولارات، وفقًا للمفوضية الأوروبية.
ويعود هذا النمو إلى التقدم التكنولوجي وتوسع المجتمعات الرقمية المرتبطة بالألعاب، إضافة إلى المنصات المخصصة التي تتيح تفاعلًا أكبر بين اللاعبين. لكن خلف هذا الازدهار، يلوح خطر متزايد: تصاعد استغلال الألعاب كأداة لنشر التطرف العنيف.
تطرف رقمي في بيئة ترفيهية
دراسة أوروبية حديثة أظهرت أن المتطرفين والإرهابيين باتوا يستغلون المساحات الرقمية المخصصة للألعاب لنشر أفكارهم، مستفيدين من الطبيعة التفاعلية لهذه المنصات.
وخلال فعالية نُظّمت في العاصمة اليونانية أثينا ضمن مشروع GEMS التابع للشبكة الأوروبية لمكافحة التطرف، سلط الخبراء الضوء على الطرق التي يُمكن أن تتحول بها الألعاب إلى أدوات للتلقين والتجنيد.
من أبرز التهديدات التي أُثيرت، تلك المتعلقة بتصميم ألعاب من قبل جهات متطرفة، غالبًا ذات توجهات يمينية متطرفة، تتضمن رسائل عدائية تستهدف مجموعات معينة مثل المسلمين أو مجتمع الميم أو المهاجرين. كما لوحظ أن بعض المتطرفين يتسللون إلى المنصات الرئيسية لألعاب الفيديو، ليستغلوا خصائص الدردشة والتواصل لبثّ أفكارهم بين المستخدمين.
Relatedشاب يقتل أباه ويصيب أمه في الرأس.. خلفا حول ألعاب الفيديو ينتهي بجريمة مروعة في فلوريداهل هي لقطات حقيقية أم من ألعاب الفيديو؟ لبس إعلامي عالمي بسبب مقاطع مزيفة عن حرب روسيا وأوكرانيابلجيكا: أكبر معرض من نوعه في أوروبا يجمع عشاق ألعاب الفيديو القديمةأحد أبرز التحذيرات جاء من خبراء مشاركين في المؤتمر، إذ أشاروا إلى أن "الحاجز النفسي للعنف يتلاشى داخل بيئة الألعاب"، موضحين أن بعض الألعاب تُروّج لفكرة وجود "عدو" يستحق العداء أو الاستهداف، مما يرسّخ مشاعر الكراهية لدى اللاعبين.
الأخطر من ذلك أن هذه الرسائل تستهدف فئات عمرية صغيرة، لدرجة أن أطفالًا في سن 12 عامًا بدأوا بتجنيد أقرانهم، ما يجعل التطرف في هذه الحالة أقرب إلى ظاهرة تمتد داخل المراهقة، بل الطفولة.
مساعٍ من داخل القطاع لمواجهة الخطر
في المقابل، تبذل صناعة الألعاب الأوروبية جهودًا حثيثة للتصدي لهذا التوجه المقلق. ويؤكد ياري بيكا كاليفا، المدير الإداري للاتحاد الأوروبي لمطوري الألعاب ومقره السويد، أن القطاع يحرص على "بناء مجتمعات ألعاب صحية وآمنة، خالية من السمية والتطرف".
ويضيف في تصريح لشبكة يورونيوز: "لقد طورنا العديد من الأدوات والمنهجيات لإدارة المجتمعات الرقمية بشكل فعّال، ونجحنا في إحراز تقدم ملحوظ على هذا الصعيد. ونأمل أن تحذو باقي الصناعات الرقمية حذونا من خلال الاستثمار الجاد في إدارة المحتوى المجتمعي".
ومن بين المبادرات المبتكرة التي كُشف عنها خلال الحدث، كانت أداة "برج المراقبة" المبنية على تقنيات الذكاء الاصطناعي، والتي طُوّرت ضمن مشروع GEMS، وتُستخدم لرصد المحتوى المتطرف داخل منصات الألعاب ومنعه قبل أن يتمدد.
في ظل تزايد انتشار الألعاب الرقمية وتحوّلها إلى مساحات اجتماعية يومية لملايين الشباب والأطفال، تُصبح الحاجة ملحّة لوضع ضوابط فعّالة تحمي هذه البيئات من الاستغلال الإيديولوجي.
وبينما يُشكّل التطرف الرقمي تحديًا أمنيًا جديدًا، تبقى الشراكة بين القطاع الخاص والمؤسسات الأوروبية مفتاحًا لحماية الأجيال القادمة من خطر العنف الرقمي المتخفي في هيئة ترفيه.
انتقل إلى اختصارات الوصولشارك هذا المقالمحادثة
وداع المدير القطري لصندوق الأمم المتحدة للسكان واشادة بدوره في دعم صحة الأمهات والأطفال