دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!
تاريخ النشر: 25th, December 2023 GMT
كشفت دراسة جديدة أن آلاف صور الاعتداء الجنسي على الأطفال مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.
وعثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس للصور والتسميات التوضيحية عبر الإنترنت استُخدم لتدريب صنّاع صور الذكاء الاصطناعي مثل Stable Diffusion.
وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة، لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. وتم التأكد من أن أكثر من 1000 صورة من الصور المشتبه بها تشمل مواد اعتداء جنسي على الأطفال.
وكتب الباحثون: "وجدنا أن امتلاك مجموعة بيانات LAION-5B المأهولة حتى أواخر عام 2023، يعني حيازة آلاف الصور غير القانونية".
وعشية إصدار تقرير مرصد ستانفورد للإنترنت يوم الأربعاء، قالت LAION إنها أزالت مجموعات البيانات الخاصة بها مؤقتا.
وقالت LAION، التي تمثل الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق غير الربحية، في بيان لها: "إن لديها سياسة عدم التسامح مطلقا مع المحتوى غير القانوني، وفي ظل الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها".
إقرأ المزيد
وفي حين أن الصور لا تمثل سوى جزء صغير من مؤشر LAION الذي يبلغ حوالي 5.8 مليار صورة، تقول مجموعة ستانفورد إنها ربما تؤثر على قدرة أدوات الذكاء الاصطناعي على توليد مخرجات ضارة وتعزيز الإساءة السابقة للضحايا الحقيقيين.
ويقول الباحثون إن هذه الصور نفسها جعلت من السهل على أنظمة الذكاء الاصطناعي إنتاج صور واقعية وصريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي لمراهقين حقيقيين يرتدون ملابس كاملة، إلى عراة، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم.
وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة الاستخدام، أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صورا مسيئة للأطفال، هي من خلال الجمع بين ما تعلمته من فئتين منفصلتين من الصور عبر الإنترنت: المواد الإباحية للبالغين والصور الحميدة للأطفال.
وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، والذي كتب التقرير، إن هذه مشكلة ليست سهلة الإصلاح، وتعود جذورها إلى العديد من مشاريع الذكاء الاصطناعي التوليدية التي "تم طرحها بشكل فعال في السوق" وإتاحتها على نطاق واسع، لأن هذا المجال تنافسي للغاية.
يذكر أن LAION من بنات أفكار الباحث والمعلم الألماني، كريستوف شومان، الذي قال في وقت سابق من هذا العام إن جزءا من السبب وراء جعل قاعدة البيانات المرئية الضخمة هذه متاحة للجمهور، هو ضمان عدم التحكم في مستقبل تطوير الذكاء الاصطناعي من قبل شركات قوية.
المصدر: الغارديان
المصدر: RT Arabic
كلمات دلالية: اختراعات بحوث ذكاء اصطناعي الذکاء الاصطناعی على الأطفال
إقرأ أيضاً:
بيل غيتس يلقي محاضرة عن الذكاء الاصطناعي
التقى طلبة أكاديمية CNN أبوظبي، وعدد من الجامعات الإماراتية بيل غيتس أحد أبرز روّاد التكنولوجيا وأقطاب العمل الخيري في العالم، رئيس مؤسَّسة بيل وميليندا غيتس واستمعوا إلى أفكاره عن مستقبل الذكاء الاصطناعي خلال محاضرة ألقاها ضمن فعاليات البرنامج التدريبي السنوي للأكاديمية.
وفي إطار سلسلة من الفرص التدريبية التي تنظِّمها هيئة الإعلام الإبداعي، أتاحت المحاضرة التفاعلية على مدى 30 دقيقة للطلاب المتدربين، فرصة فريدة للتعرُّف إلى آراء غيتس بشأن التطوُّرات المستقبلية في مجال الذكاء الاصطناعي من خلال المشاركة في مناقشات هادفة ومحفِّزة للتفكير خلال الجلسة.
وأدارت بيكي أندرسون، مديرة تحرير شبكة CNN أبوظبي ومذيعة برنامج «كونيكت ذا وورلد مع بيكي أندرسون»، الحوار الذي تناول تأثير التقنيات الناشئة في عالم اليوم، وكيفية توظيفها خاصة الذكاء الاصطناعي، لمعالجة التحديات العالمية، وأهمها تحديات القضاء على الأمراض، وتغيُّر المناخ والأمن الغذائي في المناطق المحرومة.
وتعرَّف الطلاب خلال اللقاء إلى المعايير التي تحدِّد من خلالها مؤسَّسة بيل غيتس أهمَّ التحديات، وآليتها في البحث عن الحلول المبتكرة لإحداث التغيير على أرض الواقع.
وأكد محمد ضبيع، المدير العام لهيئة الإعلام الإبداعي بالإنابة، الحرص عاماً بعد عام على توسيع نطاق الفرص المتاحة للمواهب الشابة في الصناعات الإبداعية في أبوظبي، وقال إن فرصة التحدُّث إلى أحد أكثر المبتكرين وروّاد التكنولوجيا المرموقين في العالم يؤكِّد التزامنا ونهجنا الثابت بتقديم أفضل التجارب التعليمية للجيل الشاب من أبناء الوطن، بالتعاون مع شركائنا في أكاديمية CNN أبوظبي.
وعبرت ريم المزروعي، طالبة في أكاديمية CNN أبوظبي عن سعادتها بهذه التجربة الفريدة التي قدمتها لهم أكاديمية CNN أبوظبي وقالت: «التقينا بشخصيتين مؤثرتين في مجالاتهما، بيل غيتس في التكنولوجيا وبيكي أندرسون في الصحافة والإعلام الجزء القيِّم في هذه الحصص التعليمية يتمثل في الاطلاع على إدارة بيكي أندرسون لهذه الجلسة الفريدة مع شخصية رائدة، إلى جانب فهم أهمية البحث عن الضيف والإعداد المسبق لأي حوار».
ومنذ عام 2011، تتعاون مؤسَّسة بيل غيتس مع دولة الإمارات في مجموعة من المبادرات الهادفة إلى تحسين مستوى الصحة في العالم، والاستجابة للأخطار الفورية والآثار السلبية طويلة المدى الناجمة عن تغيُّر المناخ، إلى جانب تسريع الابتكار.
وإضافة إلى عمل المؤسَّسة، يهتم بيل غيتس أيضاً بمجموعة من المشاريع التي تعالج قضايا عالمية مُلِحَّة، مثل توفير الطاقة النظيفة، وتوسيع نطاق الحلول التي تسهم في تحقيق الحياد المناخي.
ويتمحور عمل المؤسَّسة حول فلسفة العمل الخيري التحفيزي، أي الاستثمار في الابتكارات التي تحسِّن حياة مَن هم في أمَسِّ الحاجة إليها.
يُذكَر أنَّ أكاديمية CNN كانت قد أُطلِقَت في أبوظبي في عام 2020، وهي برنامج تدريبي شامل يمتد 12 أسبوعاً ويقوده مذيعو ومراسلو CNN، ومتخصِّصون من مختلف العالم، ويكتسب خلاله المشاركون المهارات الأساسية اللازمة للعمل في غرفة الأخبار، والفهم العميق لأخلاقيات العمل الصحفي وتقنيات التحقُّق من الأخبار، والسرد القصصي وكتابة السيناريو، وغيرها من المهارات، من خلال ورش عمل تفاعلية ودورات تدريبية متخصِّصة ودروس رقمية مصمَّمة حسب الطلب.
(وام)
أسعار الذهب اليوم في سوريا الجمعة 22 نوفمبر 2024.. عيار 21 يرتفع