غضب من انتشار مقاطع مولدة بالذكاء الاصطناعي لأطفال قتلى

أثار انتشار مقاطع مولدة عبر الذكاء الاصطناعي على منصة تيك توك لأطفال حقيقيين راحوا ضحية جرائم قتل، حالة من الغضب والاستياء الشديد من قبل ذويهم، إذ يظهرون ليتحدثوا عن الطريقة التي قتلوا بها، وذلك دون موافقة الأهالي.

وبدأت هذه المقاطع بالظهور من قبل حسابات مجهولة منذ نيسان/ أبريل الماضي، رغم أن الشركة كانت قد أعلنت في آذار/ مارس حظر بث نسخ ذكاء اصطناعي لأطفال حقيقيين، ألا أن التباسا بين موظفي تيك توك سمح بانتشارها، بحسب ما كشف تحقيق لشبكة "بي بي سي".

وقال أحد مراقبي المحتوى في المنصة إنه رغم مرور أربعة شهور على إصدار الحظر، فإن الشركة لم تكن قد أخبرته بعد بتغيير القواعد، إذ بقيت مقاطع فيديو تصور الضحايا على المنصة لعدة أشهر وحقق بعضها ملايين المشاهدات.

وذكر المراقب دون الكشف عدم اسمه "ظننت أن تلك المقاطع سُمح ببثها بموجب قواعد تتيح للناجين من الاستغلال والامتهان بمشاركة قصصهم".

وعن شعور ذوي الضحايا تجاه هذه المقاطع، قالت سيدة كندية تدعى أميلي ليميو: "كان ذلك أسوأ من تلقي أسوأ لكمة ممكن أن تتخيلها"، مضيفة أنها أصيبت بالذعر عندما أٌرسل إليها مقطع فيديو يحتوي على نسخة ذكاء اصطناعي لنورا وهي تتحدث عن جريمة قتلها هي وأختها.

وقتلت ابنتا ليميو، رومي (6 أعوام) ونورا  (11 عاما)، على يد زوجها المنفصلة عنه، والذي انتحر بعد قتل ابنتيه.

وأضافت أنه "شيء صادم بصورة لا يمكن وصفها، أن يستخدم شخص ما شيئا مزعجا للغاية، شيئا سيترك بداخلنا شعورا بالفقد حتى آخر العمر، كل ما يريدونه هو المشاهدات، والإعجابات والمشاركات، والأشخاص الذين يتركون تعليقات أسفل الفيديو. شخصيا، لا أستطيع أن أغفر لهم هذا التصرف".

وأوضحت "بي بي سي" انها اكتشفت 170 مقطعا على تيك توك يتضمن نسخ ذكاء اصطناعي لـ "جيمز بَلجر"، وهو طفل بريطاني كان يبلغ من العمر عامين وقتله طفلان أكبر سنا في مِرزي سايد بإنجلترا عام 1993.

وأجرت دينيس فيرغاس، والدة جيمز بَلجر، حوارا مع إحدى الصحف المحلية قالت فيه إن مقاطع الفيديو التي تصور ابنها "أكثر من مقززة".

بدورها، أكدت منصة تيك توك أنها تعمل على حجب عدد كبير من هذه المقاطع، قائلة: "ليس هناك مكان على منصتنا لمحتوى مزعج من هذا النوع. وسوف نواصل إزالة هذا النوع من المحتوى كلما وجدناه".

ورغم ذلك لا تخفي المنصة حقيقة أنها لن تتمكن من العثور على كافة المقاطع المنشورة حول هذه القضية.

المصدر: عربي21