اكتشاف مواد لإساءة معاملة الأطفال في عالم الذكاء الاصطناعي
تاريخ النشر: 21st, December 2023 GMT
يقول باحثون من مرصد ستانفورد للإنترنت، إن مجموعة البيانات المستخدمة لتدريب أدوات إنشاء صور الذكاء الاصطناعي تحتوي على ما لا يقل عن 1008 حالات تم التحقق من صحتها لمواد الاعتداء الجنسي على الأطفال.
ولاحظ باحثو جامعة ستانفورد أن وجود مواد الاعتداء الجنسي على الأطفال في مجموعة البيانات، يمكن أن يسمح لنماذج الذكاء الاصطناعي التي تم تدريبها على البيانات بإنشاء أمثلة جديدة وحتى واقعية لهذه المواد.
وقالت LAION، المنظمة غير الربحية التي أنشأت مجموعة البيانات إن "لديها سياسة عدم التسامح مطلقاً مع المحتوى غير القانوني، وفي ظل قدر كبير من الحذر، نقوم بإزالة مجموعات البيانات مؤقتاً للتأكد من أنها آمنة قبل إعادة نشرها".
وأضافت المنظمة أنها قبل نشر مجموعات البيانات الخاصة بها في المقام الأول، قامت بإنشاء عوامل تصفية لاكتشاف المحتوى غير القانوني وإزالته منها.
ووفقاً للتقارير السابقة، تحتوي مجموعة البيانات المعنية على "ملايين الصور الإباحية والعنف وعري الأطفال والميمات العنصرية ورموز الكراهية والأعمال الفنية المحمية بحقوق الطبع والنشر والأعمال المستخرجة من مواقع الشركات الخاصة"، وبشكل عام، تتضمن أكثر من 5 مليارات صورة والتسميات التوضيحية الوصفية المرتبطة بها.
ومن غير القانوني لمعظم المؤسسات في الولايات المتحدة عرض مواد الإساءة للأطفال لأغراض التحقق، وعلى هذا النحو، استخدم باحثو جامعة ستانفورد العديد من التقنيات للبحث عن هذه المواد.
ووفقاً لورقتهم البحثية، فقد استخدموا الاكتشاف القائم على التجزئة الإدراكية، والكشف القائم على التجزئة المشفرة، للاستفادة من تضمينات الصور في مجموعة البيانات نفسها، وعثروا على 3226 إدخالاً تحتوي على مواد مشتبه بها، بحسب موقع إن غادجيت.
المصدر: موقع 24
كلمات دلالية: التغير المناخي أحداث السودان سلطان النيادي غزة وإسرائيل مونديال الأندية الحرب الأوكرانية عام الاستدامة الذكاء الاصطناعي مجموعة البیانات
إقرأ أيضاً:
أيام أقل لتدريب الموظفين الجدد بفضل الذكاء الاصطناعي
الأحد, 16 مارس 2025 1:28 ص
بغداد/المركز الخبري الوطني
أحدث الذكاء الاصطناعي نقلة نوعية في عمليات استقبال الموظفين الجدد بالشركات الكبرى والصغرى على حد سواء، إذ يوفر أيامًا من وقت إدارات الموارد البشرية ويعزز تجربة الانضمام للعمل.
استطاعت مؤسسات مثل هيتاشي واتحاد تكساس الائتماني تبسيط إجراءات استقبال العاملين الجدد عبر حلول الذكاء الاصطناعي، محققةً نتائج ملموسة في تقليص الوقت وتحسين تجربة الموظف.
واجهت شركة هيتاشي تحديًا كبيرًا مع انتشار موظفيها البالغ عددهم نحو 300 ألف في الولايات المتحدة واليابان وأوروبا، خاصة مع تزايد العمل عن بُعد. استثمرت الشركة هذا التحدي فرصةً لتطوير نظام استقبال الموظفين باستخدام مساعد رقمي ذكي خلال الخريف الماضي.