اكتشاف مواد لإساءة معاملة الأطفال في عالم الذكاء الاصطناعي
تاريخ النشر: 21st, December 2023 GMT
يقول باحثون من مرصد ستانفورد للإنترنت، إن مجموعة البيانات المستخدمة لتدريب أدوات إنشاء صور الذكاء الاصطناعي تحتوي على ما لا يقل عن 1008 حالات تم التحقق من صحتها لمواد الاعتداء الجنسي على الأطفال.
ولاحظ باحثو جامعة ستانفورد أن وجود مواد الاعتداء الجنسي على الأطفال في مجموعة البيانات، يمكن أن يسمح لنماذج الذكاء الاصطناعي التي تم تدريبها على البيانات بإنشاء أمثلة جديدة وحتى واقعية لهذه المواد.
وقالت LAION، المنظمة غير الربحية التي أنشأت مجموعة البيانات إن "لديها سياسة عدم التسامح مطلقاً مع المحتوى غير القانوني، وفي ظل قدر كبير من الحذر، نقوم بإزالة مجموعات البيانات مؤقتاً للتأكد من أنها آمنة قبل إعادة نشرها".
وأضافت المنظمة أنها قبل نشر مجموعات البيانات الخاصة بها في المقام الأول، قامت بإنشاء عوامل تصفية لاكتشاف المحتوى غير القانوني وإزالته منها.
ووفقاً للتقارير السابقة، تحتوي مجموعة البيانات المعنية على "ملايين الصور الإباحية والعنف وعري الأطفال والميمات العنصرية ورموز الكراهية والأعمال الفنية المحمية بحقوق الطبع والنشر والأعمال المستخرجة من مواقع الشركات الخاصة"، وبشكل عام، تتضمن أكثر من 5 مليارات صورة والتسميات التوضيحية الوصفية المرتبطة بها.
ومن غير القانوني لمعظم المؤسسات في الولايات المتحدة عرض مواد الإساءة للأطفال لأغراض التحقق، وعلى هذا النحو، استخدم باحثو جامعة ستانفورد العديد من التقنيات للبحث عن هذه المواد.
ووفقاً لورقتهم البحثية، فقد استخدموا الاكتشاف القائم على التجزئة الإدراكية، والكشف القائم على التجزئة المشفرة، للاستفادة من تضمينات الصور في مجموعة البيانات نفسها، وعثروا على 3226 إدخالاً تحتوي على مواد مشتبه بها، بحسب موقع إن غادجيت.
المصدر: موقع 24
كلمات دلالية: التغير المناخي أحداث السودان سلطان النيادي غزة وإسرائيل مونديال الأندية الحرب الأوكرانية عام الاستدامة الذكاء الاصطناعي مجموعة البیانات
إقرأ أيضاً:
إيران.. إطلاق منصة وطنية لـ«الذكاء الاصطناعي»
بجهود 100 باحث إيراني، كسفت طهران، اليوم السبت، “عن النسخة الأولية لمنصة “الذكاء الاصطناعي” الوطنية (الإصدار 3.0)”.
وأفادت وكالة مهر للأنباء، “أنه أُقيمت مراسم إطلاق منصة “الذكاء الاصطناعي الوطنية مفتوحة المصدر” في مركز المؤتمرات الدولية “رايزن”.
وأعرب الدكتور هرمزي نجاد، مدير الشؤون البحثية في الجامعة ومدير مشروع المنصة، “عن شكره لفريق تطوير هذه المنصة الذي يضم حوالي 100 شخص من الطلاب والباحثين بعد الدكتوراه والمطورين الذين انضموا إلينا من الجامعة”.
وأشار هرمزي نجاد، “إلى أهمية هذا المشروع، مقدماً شكره الخاص لـ 15 من أعضاء هيئة التدريس الذين شاركوا بشكل مباشر في هذا المشروع، كما أعرب عن تقديره للدكتور أفشين، نائب رئيس الجمهورية للشؤون العلمية، الذي كان له دور بارز في دعم هذا المجال”.
وأكد هرمزي نجاد، الذي يدير الشؤون البحثية في الجامعة منذ ثماني سنوات، أن “التركيز على مجال استراتيجي مثل الذكاء الاصطناعي لم يكن بهذا المستوى من قبل في البلاد”.
وأعرب عن تفاؤله “بأن جميع الباحثين والأكاديميين والشركات المعنية في هذا المجال سيستفيدون بشكل كبير من هذه المنصة قريباً”.
هذا “وتُعد هذه المنصة مشروعا تقنيا وطنيا تم تطويره باستخدام خبرات الأساتذة المحليين، وتهدف إلى توفير بنية تحتية متكاملة لتحليل البيانات وتطوير تطبيقات الذكاء الاصطناعي، وفق الخطط الاستراتيجية للبلاد”.
ووفقا لوكالة الأنباء الإيرانية “إيرنا”، أكد حسين أسدي، مدير مركز المعالجة السريعة، أن “المنصة تعتمد على تقنيات مفتوحة المصدر مع تحسينات محلية، كما تم تطوير وحداتها الإلكترونية بالكامل داخل البلاد لضمان الأمان والاستقلالية”.
وأوضح أسدي، “أنه لم يتم استخدام أي واجهات برمجية خارجية (APIs)، ما يضمن استمرارية عمل المنصة حتى في حال انقطاع الإنترنت بالبلاد بالكامل”.
وأشار أسدي، “إلى أن المنصة تتميز بسرعة التطوير وانخفاض التكلفة وقابليتها للتوسع، مع توقعات بإكمال الإصدار النهائي، بحلول سبتمبر2025”.