ابتزاز وتهديد.. تحذيرات من استغلال المتحرشين بالأطفال تقنيات الذكاء الاصطناعي
تاريخ النشر: 23rd, April 2024 GMT
حذرت منظمة خيرية لمكافحة إساءة معاملة الأطفال من احتمال إقبال متحرشين بالأطفال (بيدوفيليا) على استخدام تقنيات الذكاء الاصطناعي لتوليد صور عارية للصغار، وذلك بهدف ابتزازهم والضغط عليهم لتزويد المعتدين بمحتوى إباحي أكثر تطرفا، حسبما نقلت صحيفة الغارديان.
وأفادت مؤسسة مراقبة الإنترنت، بأنها عثرت على دليل إرشادي على شبكة الإنترنت المظلم (Dark Web)، يتضمن قسما يحث المجرمين على استخدام برامج "التعرية" لإزالة الملابس من الصور التي يرسلها لهم الأطفال وهم يرتدون الملابس الداخلية فقط.
وقالت المؤسسة الخيرية التي تعمل على إيجاد وإزالة مواد الاعتداء الجنسي على الأطفال عبر الإنترنت، العام الماضي: "هذا هو الدليل الأول الذي رأيناه على أن الجناة ينصحون ويشجعون بعضهم البعض على استخدام تقنيات الذكاء الاصطناعي لهذه الأغراض".
وسبق أن حذرت الجمعية الخيرية المعروفة اختصارا بـ"IWF"، العام الماضي، من ارتفاع حالات الابتزاز الجنسي، حيث يتم التلاعب بالضحايا لإرسال صور جنسية لأنفسهم ثم يتم تهديدهم بنشر تلك الصور ما لم يدفعوا المال.
كما أشارت المؤسسة إلى نماذج أولى من استخدام الذكاء الاصطناعي لإنشاء محتوى إساءة "واقعي بشكل مذهل".
ويتباهى مؤلف الدليل الذي يقع في حوالي 200 صفحة، بأنه "نجح في ابتزاز" فتيات يبلغن من العمر 13 عاما لإرسال صور عارية عبر الإنترنت.
وقالت المؤسسة، إنها أرسلت الدليل الذي عثرت عليه إلى وكالة الجرائم الوطنية في المملكة المتحدة.
وفي الشهر الماضي، كشفت "الغارديان"، أن حزب العمال يدرس حظر الأدوات التقنية التي تسمح للمستخدمين بإنشاء صور للأشخاص بدون ملابس.
وذكرت المؤسسة الخيرية في تقرير لها، أن عام 2023 كان "أكثر الأعوام تطرفا على الإطلاق".
وكشفت أنها عثرت على أكثر من 275 ألف صفحة ويب لمحتويات تتضمن اعتداءات جنسية على الأطفال العام الماضي، وهو أعلى رقم تسجله، مشيرة إلى تحديد كمية قياسية من المواد التي تندرج ضمن "الفئة أ"، والتي يمكن أن تشمل أشد الصور وحشية بما في ذلك الاغتصاب والسادية وممارسة الجنس مع الحيوانات.
وقالت المؤسسة إن أكثر من 62 ألف صفحة تحتوي على محتوى من "الفئة أ"، مقارنة بـ 51 ألفاً في العام السابق، 2022.
وكشفت "IWF" أنها عثرت على 2401 صورة لمواد اعتداء جنسي على الأطفال مُنتَجة ذاتيا، وهي المواد التي يتم فيها استغلال الضحايا أو تهديدهم لتصوير الانتهاكات الجنسية بحق أنفسهم، وقد تم إنتاج هذه الصور من قبل أطفال تتراوح أعمارهم بين 3 و6 سنوات. وأفاد محللون أنهم لاحظوا وقوع هذه الاعتداءات في بيئات منزلية مثل غرف النوم والمطابخ.
وقالت الرئيسة التنفيذية للمؤسسة، سوزي هارغريفز، إن المجرمين الانتهازيين الذين يحاولون التلاعب بالأطفال "ليسوا تهديدا بعيدا".
وأضافت "إذا كان الأطفال دون سن السادسة مستهدفين بهذه الطريقة، فنحن بحاجة إلى إجراء محادثات مناسبة لأعمارهم الآن للتأكد من أنهم يعرفون كيفية اكتشاف المخاطر".
وتابعت هارغريفز، أن قانون سلامة الإنترنت، الذي تم إقراره العام الماضي ويفرض واجب الرعاية على شركات وسائل التواصل الاجتماعي لحماية الأطفال، "يحتاج إلى أن يكون فعالا".
وقال توم توجندهات، وزير الدولة للأمن ببريطانيا، إن على الآباء أن يتحدثوا مع أطفالهم حول استخدام وسائل التواصل الاجتماعي.
وأضاف "قد تشكل المنصات التي تفترض أنها آمنة خطرا"، مضيفا أن على شركات التكنولوجيا تقديم ضمانات أقوى لمنع الإساءة، حسبما نقلته الغارديان.
ووفقا للأبحاث التي نُشرت، الأسبوع الماضي، من قبل جهة تنظيم الاتصالات البريطانية "أوفكوم"، فإن ربع الأطفال الذين تتراوح أعمارهم بين 3 و4 سنوات يمتلكون هاتفا محمولا، ونصف الأطفال دون سن 13 عاما لديهم حسابات على وسائل التواصل الاجتماعي.
وتستعد الحكومة لإطلاق استشارة في الأسابيع المقبلة ستتضمن مقترحات لحظر بيع الهواتف الذكية للأطفال دون سن 16 عاما ورفع الحد الأدنى لسن مواقع التواصل الاجتماعي من 13 إلى 16 عاما.
المصدر: الحرة
كلمات دلالية: التواصل الاجتماعی الذکاء الاصطناعی العام الماضی
إقرأ أيضاً:
الأمين العام لدور وهيئات الإفتاء: الذكاء الاصطناعي فرصة لتعزيز الوسطية ونشر الفكر المعتدل
أكد الدكتور إبراهيم نجم، الأمين العام لدُور وهيئات الإفتاء في العالم، أن الذكاء الاصطناعي يمثل فرصة استراتيجية يمكن توظيفها لتعزيز قيم الوسطية ونشر الفكر المعتدل، كما أنه أداة حيوية لمواجهة الأفكار المتطرفة التي تهدد استقرار المجتمعات.
إبراهيم نجم لـ "الوفد": قريبا.. قانون حاسم لمعاقبة المتجرئين على الفتوى دون تصريح (خاص) إبراهيم نجم: مصر البلد المؤهلة لقيادة قاطرة الإسلام في هذا الوقت العصيبجاء ذلك خلال كلمته التي ألقاها اليوم في أعمال الملتقى السنوي لمراكز الفكر في الدول العربية، في دورته الثانية المنعقدة بمقر جامعة الدول العربية يومَي 23 و24 ديسمبر الجاري، تحت شعار "نحو آلية عربية لمواجهة التهديدات الناتجة عن استخدام الذكاء الاصطناعي من قِبل الجماعات الإرهابية".
وفي مستهل كلمته، أشار الدكتور نجم إلى أن التحول الرقمي أصبح واقعًا لا يمكن تجاهله في مختلف المجالات، بما في ذلك المجال الديني، مؤكدًا أن المؤسسات الدينية تواجه مسؤولية كبيرة في تبنِّي أدوات الذكاء الاصطناعي لتحقيق رسالتها وتعزيز حضورها.
وقال: "إن التطبيقات الذكية تمنحنا فرصة غير مسبوقة لإعادة تقديم النصوص الدينية بما يتوافق مع العصر، دون التفريط في الأصالة أو تجاوز الضوابط الشرعية."
وأوضح أنَّ هذه الأدوات تُعد وسيلة فعالة لدعم الوسطية ومواجهة الأفكار المتطرفة، مشيرًا إلى أن النجاح في هذا المجال يتطلب رؤية متكاملة تجمع بين القيم الدينية والاحتياجات التقنية، لضمان توافق مخرجات الذكاء الاصطناعي مع الثوابت الشرعية.
تناول الأمين العام أبرز التحديات التي تواجه استخدام الذكاء الاصطناعي في الحقل الديني، مُقسمًا إياها إلى تحديات تقنية وشرعية واجتماعية.
أشار إلى محدودية قدرة تقنيات الذكاء الاصطناعي الحالية على فهم التنوع الثقافي والديني، بالإضافة إلى نقص قواعد البيانات الشرعية الدقيقة التي يمكن الاعتماد عليها لتطوير التطبيقات الذكية. وأكد على ضرورة الاستثمار في تطوير هذه القواعد لتكون مرجعًا موثوقًا يخدم الأهداف الشرعية.
ولفت الدكتور نجم الانتباه إلى خطورة البرمجة المتحيزة التي قد تُسهم في تفسير النصوص الدينية بما يخدم أجندات متطرفة.
وأوضح أن هذا يتطلَّب وضع معايير واضحة ومدونات أخلاقية تنظم استخدام الذكاء الاصطناعي في المجال الديني، بما يضمن توافق مخرجاته مع القيم الوسطية. كما تناول التحديات الاجتماعية الناتجة عن استخدام الذكاء الاصطناعي في نشر فتاوى غير موثوقة أو تحريضية عبر الإنترنت.
وأشار إلى أن هذا قد يؤدي إلى تعزيز الانعزال الرقمي وتقليل التفاعل المباشر بين العلماء والجمهور، مما يتطلب تدخلًا من المؤسسات الدينية لضبط هذا الجانب.
واستعرض الأمينُ العام لدُور وهيئات الإفتاء في العالم الفرصَ التي يمكن أن يوفرها الذكاء الاصطناعي لتعزيز العمل الديني، مُشيرًا إلى إمكانية توظيفه في عدة مجالات رئيسية، منها تحليل النصوص المتطرفة واستخلاص أنماط التحريض، مما يُسهم في صياغة استراتيجيات فعَّالة لمكافحة الفكر المتطرف.
وقال: "يمكن لهذه الأدوات أن توفر تقارير دورية للمؤسسات الدينية وصانعي القرار حول التوجهات الفكرية المتطرفة، بما يدعم جهودهم في هذا المجال."
كما دعا إلى إنشاء منصات رقمية تعتمد على الذكاء الاصطناعي لتقديم فتاوى موثوقة، مع التركيز على قضايا الشباب والتحديات المعاصرة. وأوضح أن هذه المنصات يمكن أن تقدم إجابات دقيقة ومتعددة اللغات، مما يوسع نطاق الاستفادة منها.
وأشار الدكتور إبراهيم نجم إلى أهمية تطوير تطبيقات تعليمية تفاعلية تُقدم دروسًا في تفسير القرآن والحديث بطرق مبتكرة، مثل استخدام تقنيات الواقع الافتراضي لتوضيح السياقات التاريخية للنصوص الشرعية، مما يُثري العملية التعليمية ويُشجع على التفاعل. وأشاد بإمكانية استخدام الذكاء الاصطناعي في تحليل النقاط المشتركة بين النصوص الدينية لتعزيز الحوار بين الأديان.
وقال: "إن تصميم خوارزميات تُبرز القيم المشتركة بين الديانات يُسهم في نشر التسامح والتعايش السلمي."
وأكد الأمين العام للأمانة على الدَّور القيادي الذي يجب أن تضطلع به المؤسسات الدينية المعتدلة في هذا المجال. ودعا إلى إنشاء مركز دولي متخصص في الذكاء الاصطناعي الشرعي تحت مظلة الأزهر ودار الإفتاء المصرية، يضم فرقًا متكاملة من علماء الدين وخبراء التقنية لتطوير حلول مبتكرة وموثوقة.
كما شدد على ضرورة تنظيم برامج تدريبية لتأهيل القيادات الدينية والخطباء لاستخدام أدوات الذكاء الاصطناعي في تحليل النصوص ودحض الأفكار المتطرفة، إضافة إلى إطلاق مبادرات عالمية تُعزز من تبادل الخبرات والرؤى بين المؤسسات الدينية وخبراء التقنية.
واقترح الدكتور نجم سلسلة من الخطوات العملية، من بينها إطلاق منصة شاملة تقدم خدمات الإفتاء؛ دروسًا تفاعلية، وتقارير تحليلية عن الخطابات المتطرفة، وإنشاء موسوعة شرعية رقمية تعتمد على بيانات دقيقة لتغذية التطبيقات الذكية، وتطوير تطبيقات موجهة للشباب تُقدم الإرشادات الدينية بأسلوب بسيط وجذاب.
كما أكد على ضرورة تعزيز الحوار التفاعلي من خلال روبوتات محادثة تعتمد على الذكاء الاصطناعي لتقديم إجابات شرعية وسطية، وإنشاء وحدة متابعة إلكترونية لرصد الأنشطة الفكرية المتطرفة عبر الإنترنت.
واختتم الدكتور إبراهيم نجم الأمين العام لدُور وهيئات الإفتاء في العالم كلمته بالتأكيد على أن الذكاء الاصطناعي يُمثل فرصة تاريخية يمكن من خلالها تعزيز الوسطية ونشر الفكر المعتدل، مشيرًا إلى أن المؤسسات الدينية المعتدلة، مثل الأزهر ودار الإفتاء المصرية، لديها القدرة على قيادة هذا التحول الرقمي من خلال بناء شراكات استراتيجية والاستثمار في البحث العلمي، لضمان مستقبل رقمي يدعم القيم الإنسانية ويُحقق السلام الفكري والاجتماعي.