أثار انتشار مقاطع مولدة عبر الذكاء الاصطناعي على منصة تيك توك لأطفال حقيقيين راحوا ضحية جرائم قتل، حالة من الغضب والاستياء الشديد من قبل ذويهم، إذ يظهرون ليتحدثوا عن الطريقة التي قتلوا بها، وذلك دون موافقة الأهالي.

وبدأت هذه المقاطع بالظهور من قبل حسابات مجهولة منذ نيسان/ أبريل الماضي، رغم أن الشركة كانت قد أعلنت في آذار/ مارس حظر بث نسخ ذكاء اصطناعي لأطفال حقيقيين، ألا أن التباسا بين موظفي تيك توك سمح بانتشارها، بحسب ما كشف تحقيق لشبكة "بي بي سي".



وقال أحد مراقبي المحتوى في المنصة إنه رغم مرور أربعة شهور على إصدار الحظر، فإن الشركة لم تكن قد أخبرته بعد بتغيير القواعد، إذ بقيت مقاطع فيديو تصور الضحايا على المنصة لعدة أشهر وحقق بعضها ملايين المشاهدات.

وذكر المراقب دون الكشف عدم اسمه "ظننت أن تلك المقاطع سُمح ببثها بموجب قواعد تتيح للناجين من الاستغلال والامتهان بمشاركة قصصهم".

وعن شعور ذوي الضحايا تجاه هذه المقاطع، قالت سيدة كندية تدعى أميلي ليميو: "كان ذلك أسوأ من تلقي أسوأ لكمة ممكن أن تتخيلها"، مضيفة أنها أصيبت بالذعر عندما أٌرسل إليها مقطع فيديو يحتوي على نسخة ذكاء اصطناعي لنورا وهي تتحدث عن جريمة قتلها هي وأختها.

وقتلت ابنتا ليميو، رومي (6 أعوام) ونورا  (11 عاما)، على يد زوجها المنفصلة عنه، والذي انتحر بعد قتل ابنتيه.


وأضافت أنه "شيء صادم بصورة لا يمكن وصفها، أن يستخدم شخص ما شيئا مزعجا للغاية، شيئا سيترك بداخلنا شعورا بالفقد حتى آخر العمر، كل ما يريدونه هو المشاهدات، والإعجابات والمشاركات، والأشخاص الذين يتركون تعليقات أسفل الفيديو. شخصيا، لا أستطيع أن أغفر لهم هذا التصرف".

وأوضحت "بي بي سي" انها اكتشفت 170 مقطعا على تيك توك يتضمن نسخ ذكاء اصطناعي لـ "جيمز بَلجر"، وهو طفل بريطاني كان يبلغ من العمر عامين وقتله طفلان أكبر سنا في مِرزي سايد بإنجلترا عام 1993.

وأجرت دينيس فيرغاس، والدة جيمز بَلجر، حوارا مع إحدى الصحف المحلية قالت فيه إن مقاطع الفيديو التي تصور ابنها "أكثر من مقززة".

بدورها، أكدت منصة تيك توك أنها تعمل على حجب عدد كبير من هذه المقاطع، قائلة: "ليس هناك مكان على منصتنا لمحتوى مزعج من هذا النوع. وسوف نواصل إزالة هذا النوع من المحتوى كلما وجدناه".

ورغم ذلك لا تخفي المنصة حقيقة أنها لن تتمكن من العثور على كافة المقاطع المنشورة حول هذه القضية.

المصدر: عربي21

كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي المرأة والأسرة حول العالم حول العالم الذكاء الاصطناعي تيك توك جرائم قتل أطفال جرائم قتل الذكاء الاصطناعي تيك توك حول العالم حول العالم حول العالم حول العالم حول العالم حول العالم سياسة سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة تیک توک

إقرأ أيضاً:

ريهام حجاج: الذكاء الاصطناعي في الفن سيكون منظمًا بعقود وشركات عالمية

تحدثت الفنانة ريهام حجاج عن دور الذكاء الاصطناعي في الفن، خاصة في إنتاج فيديوهات تُظهر الفنانين وهم يؤدون أغنيات لم يغنوها من قبل. وأكدت أنها متقبلة لهذه الفكرة.

ريهام حجاج: مسلسل أثينا مجازفة محسوبة ويناقش قضايا مهمة وجريئةنشرة الفن| موعد الحلقة 13 من مسلسل «كامل العدد3».. ريهام حجاج تتصدّر التريند بمسلسل «أثينا»

وأشارت إلى أن الفنانين ليس لديهم خيار فيما يتم إنتاجه لهم، حيث تُصنع لهم صور وفيديوهات باستمرار من قبل المعجبين.

وأضافت في لقاء خاص عبر شاشة "القاهرة الإخبارية"، أن الذكاء الاصطناعي سيكون خاضعًا لتنظيم ورقابة من قبل شركات عالمية، مع وضع عقود واضحة تحكم استخدام صور الفنانين وأصواتهم.

وتابعت، أن الخطر الأكبر لا يكمن في تأثير الذكاء الاصطناعي على الفنانين، بل على الأشخاص العاديين، حيث يمكن التلاعب بصورهم وفيديوهاتهم بطرق قد تسبب ضررًا حقيقيًا لهم. 

واختتمت حديثها بالتأكيد على أنها رغم تقبلها لاستخدام الذكاء الاصطناعي في الفن، إلا أنها تشعر بالقلق إزاء تداعياته السلبية على المجتمع، خاصة مع التطور السريع لهذه التقنية وغياب القوانين الواضحة التي تحمي الأفراد من الاستغلال الرقمي.

مقالات مشابهة

  • علماء يطورون أداة ذكاء اصطناعي للتنبؤ بتكرار الإصابة بسرطان الكبد
  • لمنافسة ديب سيك.. بايدو الصينية تطلق نموذجي ذكاء اصطناعي مجانا
  • الصين تضع لوائح تنظم المحتوى المُنشَأ بالذكاء الاصطناعي
  • بايدو الصينية تطلق نموذجي ذكاء اصطناعي مجانيين لمنافسة ديب سيك
  • بايدو الصينية تُطلق نموذجي ذكاء اصطناعي مجانيين
  • «يضاهي ChatGPT».. جوجل تطرح أحدث برنامج ذكاء اصطناعي Gemma 3
  • موقف محرج .. مساعد برمجة بالذكاء الاصطناعي يرفض مساعدة مبرمج
  • بالذكاء الاصطناعي.. أول أحمر شفاه يُطبق ذاتياً دون استخدام اليدين
  • ريهام حجاج: الذكاء الاصطناعي في الفن سيكون منظمًا بعقود وشركات عالمية
  • بالذكاء الاصطناعي .. سعاد حسني الوجه الإعلاني لبرامج وزارة التضامن