ميزة Twitch’s Clips تزيد من إساءة معاملة الأطفال على المنصة
تاريخ النشر: 6th, January 2024 GMT
يرسم تقرير استقصائي من بلومبرج صورة مزعجة للصعوبات التي تواجهها Twitch في إدارة منصة البث المباشر - وخاصة ميزة Clips، التي تتيح للمستخدمين الاحتفاظ بمقاطع الفيديو القصيرة. تفيد التقارير أنه بعد تحليل حوالي 1100 مقطع، وجدت ما لا يقل عن 83 مقطعًا تحتوي على محتوى جنسي يتعلق بالأطفال. قامت Twitch بإزالة مقاطع الفيديو بعد أن تم تنبيهها، وكتب متحدث باسم الشركة إلى Engadget في رسالة بريد إلكتروني مفادها أنها "استثمرت منذ ذلك الحين بكثافة في أدوات التنفيذ والتدابير الوقائية، وستواصل القيام بذلك".
سلطت بلومبرج الضوء على حادثة واحدة تمثل مشكلة الطبيعة الدائمة لـ Clips على المنصة العابرة. وهو يروي القصة المقلقة لصبي يبلغ من العمر 12 عامًا ذهب إلى Twitch في الربيع الماضي "لتناول شطيرة والعزف على البوق الفرنسي". وسرعان ما بدأ في تلقي الطلبات من المشاهدين، الأمر الذي أدى بطريقة ما (في انعكاس حزين للسلوك عبر الإنترنت) إلى قيام الصبي بسحب سرواله إلى الأسفل.
ويصف المنفذ الحادث بأنه انتهى “في لحظة”. ومع ذلك، سمحت وظيفة التسجيل في Clips لمشاهد واحد – يُزعم أنه تابع أكثر من مائة حساب يخص الأطفال – بالحفاظ عليه. يُزعم أن هذا أدى إلى أكثر من 130 مشاهدة للمقطع الذي تبلغ مدته 20 ثانية قبل إخطار Twitch وإزالته.
تم إطلاق المقاطع في عام 2016 كوسيلة للحفاظ على اللحظات سريعة الزوال على المنصة. تسجل الميزة 25 ثانية قبل (وخمس ثوانٍ بعد) النقر على زر التسجيل. وهذا له تأثير جانبي مؤسف يتمثل في السماح للحيوانات المفترسة بحفظ لحظة مزعجة وتوزيعها في مكان آخر.
خططت Twitch لتوسيع Clips هذا العام كجزء من استراتيجية لإنتاج المزيد من المحتوى المشابه لـ TikTok على النظام الأساسي. وتخطط لإطلاق موجز اكتشاف (يشبه أيضًا TikTok) حيث يمكن للمستخدمين نشر مقاطع الفيديو القصيرة الخاصة بهم.
ويستشهد تقرير بلومبرج بالمركز الكندي لحماية الطفل، الذي راجع مقاطع الفيديو الاستغلالية البالغ عددها 83، وخلص إلى أن 34 منها تصور مستخدمين صغارًا يظهرون أعضائهم التناسلية أمام الكاميرا. ويُزعم أن معظمهم كانوا من الأولاد الذين تتراوح أعمارهم بين 5 و 12 عامًا. وتضمنت 49 مقطعًا إضافيًا محتوى جنسيًا يظهر قاصرين "يكشفون عن أجزاء من الجسم أو يتعرضون لجهود الاستمالة".
وقالت المنظمة إن مقاطع الفيديو الـ34 "الأكثر فظاعة" تمت مشاهدتها 2700 مرة. أما الباقي فقد حصل على 7300 مشاهدة.
رد تويتش
وكتب متحدث باسم Twitch لموقع Engadget: "إن إيذاء الشباب، في أي مكان عبر الإنترنت، أمر غير مقبول، ونحن نأخذ هذه المشكلة على محمل الجد". ردًا على تنبيهها بشأن مواد الاعتداء الجنسي على الأطفال (CSAM)، تقول الشركة إنها طورت نماذج جديدة للكشف عن سلوك الاستمالة المحتمل وتقوم بتحديث أدواتها الحالية لتحديد وإزالة المستخدمين المحظورين الذين يحاولون إنشاء حسابات جديدة بشكل أكثر فعالية (بما في ذلك حسابات الشباب). القضايا المتعلقة بالسلامة).
تضيف Twitch أنها عززت تنفيذ فرق السلامة الخاصة بها للبث المباشر، وهو جذر Clips. وكتبت الشركة: "هذا يعني أنه عندما نقوم بتعطيل بث مباشر يحتوي على محتوى ضار ونعلق القناة، نظرًا لأنه يتم إنشاء المقاطع من البث المباشر، فإننا نمنع إنشاء ونشر المقاطع الضارة من المصدر". "والأهم من ذلك، أننا عملنا أيضًا على التأكد من أنه عندما نقوم بحذف وتعطيل المقاطع التي تنتهك إرشادات مجتمعنا، فإن هذه المقاطع لن تكون متاحة من خلال النطاقات العامة أو الروابط المباشرة الأخرى."
وتابع المتحدث: "نحن ندرك أيضًا أنه لسوء الحظ، تتطور الأضرار عبر الإنترنت". "لقد قمنا بتحسين الإرشادات التي تستخدمها فرق السلامة الداخلية لدينا لتحديد بعض تلك الأضرار الناشئة عبر الإنترنت، مثل مواد الاعتداء الجنسي على الأطفال (CSAM) المدعمة بالذكاء الاصطناعي." أضافت Twitch أنها قامت بتوسيع قائمة المنظمات الخارجية التي تعمل معها من أجل (نأمل) التخلص من أي محتوى مماثل في المستقبل.
مشاكل الاعتدال في Twitch
تفيد تقارير بلومبرج أن Clips كان أحد الأقسام الأقل إشرافًا على Twitch. وتشير أيضًا إلى أن الشركة قامت بتسريح 15 بالمائة من فريق الثقة والسلامة الداخلي لديها في أبريل 2023 (جزء من عام مروع في عمليات تسريح العمال في مجال التكنولوجيا) وأصبحت أكثر اعتمادًا على الشركاء الخارجيين لسحق محتوى CSAM.
تجعل منصة Twitch التي تركز على البث المباشر تحديًا أكثر صعوبة للإشراف من مواقع الفيديو التقليدية مثل YouTube أو Instagram. يمكن لهذه المنصات مقارنة مقاطع الفيديو التي تم تحميلها باستخدام بصمات أصابع رقمية يمكنها اكتشاف الملفات الإشكالية المعروفة سابقًا والتي تم نشرها عبر الإنترنت. تقول لورين كوفرين من المركز الوطني الأمريكي للأطفال المفقودين والمستغلين: "تبحث تكنولوجيا التجزئة عن شيء يطابق شيئًا شوهد سابقًا".دي بلومبرج. "البث المباشر يعني أنه جديد تمامًا."
المصدر: بوابة الوفد
كلمات دلالية: مقاطع الفیدیو البث المباشر عبر الإنترنت
إقرأ أيضاً:
الكشف عن مولد الفيديو الجديد بالذكاء الاصطناعي في Gemini من جوجل
سيحصل روبوت الدردشة Gemini من جوجل قريبا على إمكانيات إنشاء فيديو بالذكاء الاصطناعي، مما يسمح له بإنشاء ليس فقط الصور، ولكن أيضا مقاطع فيديو قصيرة بناء على أوصاف المستخدم النصية.
ووفقا لتقرير جديد من Android Authority، فأن هذه الميزة، قد تعاني بعض القيود المحتملة، مع اقتراب إصدار ميزة جوجل النسخة التجريبية، قد توضح ما إذا كانت سيتم طرحها مقابل اشتراك مدفوع على غرار الميزات الأخرى.
كما اكتشف محقق تطبيقات أندرويد AssembleDebug، فإن أحدث إصدار من تطبيق جوجل على أندرويد يحتوي على إشارات جديدة إلى ميزات إنشاء فيديو غير منشورة مدعومة من Gemini تحت الاسم الرمزي "Toucan".
توفر الإدخالات الإضافية في الكود العديد من الأدلة حول كيفية عمل الميزات، بما في ذلك تلميحات إلى أنه قد تكون هناك حدود لعدد مقاطع الفيديو التي يمكن إنشاؤها يوميا لبعض المستخدمين.
ويكشف الكود أيضا أن كل فيديو يجب أن يستغرق "دقيقة إلى دقيقتين" لإنشاءها، مما يعني أن قوة الحوسبة ستكون مطلوبة لإنشائه.
كيف يعمل مولد الفيديو من الجديد من جوجل؟
يشير التقرير إلى أن "Toucan" يمكنه إنشاء مقاطع الفيديو عبر مطالبات نصية، مما يشير إلى أنه قد يكون نوعا معينا من الإنشاء القائم على الفيديو الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بدلا من إخراج أداة توليد الفيديو للأغراض العامة.
يعني ذلك أن التطبيق لن ينشئ فقط Toucans من المدخلات المستندة إلى النص بدلا من إنشاءها من مدخلات أخرى مثل الصور الثابتة أو مقاطع الفيديو.
ستفتح الحدود اليومية الباب أمام جوجل لتقديم تجارب مختلفة للمستخدمين المدفوعين من Gemini Advanced أو حتى القدرة على شراء الاعتمادات لأجيال إضافية.
تعد أدوات توليد الفيديو باهظة الثمن، وتعمل معظم الخيارات المتاحة حاليا، مثل Kling أو Hailuo AI، مع اشتراك مدفوع أو ترتيب مدفوع الأجر، وغالبا مع عدد صغير من الأجيال المجانية المسموح بها في فترة معينة.
لم تعلن جوجل بعد عن ميزة توليد الفيديو Toucan، لذلك سيتعين علينا الانتظار ومعرفة متى سيتم إصدارها للمستخدمين، ومع ذلك، فإن الأدلة على استمرار التطوير هي علامة جيدة على أنه سيتم طرحها قريبا.
محاور جديدة ومجمعات صناعية ضخمة.. تفاصيل جولة وزير النقل في مواقع عمل الخط الأول للقطار السريع بالعامرية وبرج العرب