الكشف عن عمليات ابتزاز للأطفال بواسطة أدوات الذكاء الاصطناعي

نشرت صحيفة "الغارديان" البريطانية تقريرا لمحررها التكنولوجي دان ميلمو، والذي تحدث عن عمليات ابتزاز للأطفال بواسطة أدوات الذكاء الاصطناعي، وفقا لما كشفته مؤسسة خيرية معنية بإساءة معاملة الأطفال.

ونقلت الصحيفة عن مؤسسة مراقبة الإنترنت(IWF) ، بقولها إن "الدليل الموجود على شبكة الإنترنت المظلمة يحتوي على قسم يشجع المجرمين على استخدام أدوات التعرية، في برمجيات الذكاء الاصطناعي، لإزالة الملابس من صورة بالملابس الداخلية التي يرسلها طفل".

وأضافت المؤسسة أنه "يمكن استخدام الصورة التي تم التلاعب بها بعد ذلك ضد الطفل، لابتزازه لإسرال المزيد من الصور الفاضحة"، مؤكدة أن "هذا هو الدليل الأول الذي رأيناه على أن الجناح ينصحون ويشجعون بعضهم البعض على استخدام تكنولوجيا الذكاء الاصطناعي لتحقيق هذه الغايات".

وحذرت من ارتفاع حالات الابتزاز، بعد إقناع الضحايا لإرسال صور فاضحة لأنفسهم، ثم يتم تهديدهم بنشر تلك الصور ما لم يسلموا المال، مشددة على أن الأمثلة الأولى لاستخدام الذكاء الاصطناعي لإنشاء محتوى مسيء، تؤكد أنه واقعي ومذهل.

ولفتت الصحيفة إلى أن المؤلف المجهول للدليل الموجود على الإنترنت ويحتوي على ما يقارب 200 صفحة، يتفاخر بأنه نجح في "ابتزاز" فتيات يبلغن من العمر 13 عاما، لإرسال صور عارية عبر الإنترنت.

وكشفت الغارديان الشهر الماضي أن حزب العمال يدرس فرض حظر على أدوات التعرية في برامج الذكاء الاصطناعي، والتي تسمح للمستخدمين بإنتاج صور لأشخاص دون ملابسهم.

وقالت مؤسسة IWF  أيضا إن عام 2023 كان "العام الأكثر تطرفا على الإطلاق"، منوهة في تقريرها السنوي إلى أنها عثرت على أكثر من 275 ألف صفحة ويب تحتوي على اعتداءات جنسية على الأطفال العام الماضي، وهو أعلى رقم سجلته المؤسسة الخيرية، مع كمية قياسية من المواد من "الفئة أ"، والتي يمكن أن تشمل أشد الصور خطورة بما في ذلك الاغتصاب والسادية والبهيمية.

ولفتت المؤسسة إلى أن أكثر من 62 ألف صفحة تحتوي على محتوى الفئة (أ)، مقارنة بـ 51 ألف صفحة في عام 2022.

وعثرت  مؤسسة IWF  على 2401 صورة لمواد الاعتداء الجنسي على الأطفال التي تم إنتاجها ذاتيا، حيث يتم التلاعب بالضحايا أو تهديدهم للقيام بتسجيل الإساءة لأنفسهم، موضحة أنه تم التقاط الصور لأطفال تتراوح أعمارهم بين ثلاث وست سنوات.

وأكد محللون أنهم شاهدوا انتهاكات تحدث في البيئات المنزلية، بما في ذلك غرف النوم والمطابخ.

وقالت سوزي هارغريفز، الرئيسة التنفيذية لمؤسسة IWF ، إن المجرمين الانتهازيين الذين يحاولون التلاعب بالأطفال "لا يشكلون تهديدا بعيدا"، مضيفة أنه "إذا تم استهداف الأطفال دون سن السادسة بهذه الطريقة، فنحن بحاجة إلى إجراء محادثات مناسبة لعمرهم الآن للتأكد من أنهم يعرفون كيفية اكتشاف المخاطر".

وتابعت هارغريفز أن قانون السلامة على الإنترنت، الذي أصبح قانونا في العام الماضي ويفرض واجب الرعاية على شركات وسائل التواصل الاجتماعي لحماية الأطفال، "يجب أن يعمل".

وذكر توم توغندهات، وزير الأمن، إنه يجب على الآباء التحدث مع أطفالهم حول استخدام وسائل التواصل الاجتماعي، منوها إلى أن "المنصات التي تفترض أنها آمنة قد تشكل خطرا، ويتعين على شركات التكنولوجيا تقديم ضمانات أقوى لمنع إساءة الاستخدام".

ووفقا لبحث نشرته هيئة تنظيم الاتصالات، أوفكوم، الأسبوع الماضي، فإن ربع الأطفال الذين تتراوح أعمارهم بين ثلاث إلى أربع سنوات يمتلكون هاتفا محمولا، ونصف الأطفال دون سن 13 عاما يستخدمون وسائل التواصل الاجتماعي.

وتستعد الحكومة لإطلاق مشاورة في الأسابيع المقبلة، تتضمن مقترحات لحظر بيع الهواتف الذكية لمن تقل أعمارهم عن 16 عاما، ورفع الحد الأدنى لسن مواقع التواصل الاجتماعي من 13 إلى 16 عاما.

المصدر: عربي21