اكتشاف صور اعتداء جنسي على أطفال ببيانات تدريبية على الذكاء الاصطناعي
تاريخ النشر: 22nd, December 2023 GMT
(CNN)-- قال باحثون في مرصد ستانفورد للإنترنت في دراسة نشرت في وقت سابق من هذا الأسبوع إنه تم العثور على أكثر من ألف صورة لمواد الاعتداء الجنسي على الأطفال في مجموعة بيانات عامة ضخمة تستخدم لتدريب نماذج توليد الصور الشهيرة المعتمدة على الذكاء الاصطناعي.
وجود هذه الصور في بيانات التدريب قد يسهل على نماذج الذكاء الاصطناعي إنشاء صور جديدة وواقعية يتم إنشاؤها بواسطة الذكاء الاصطناعي لمحتوى إساءة معاملة الأطفال، أو صور “تزييف عميق” للأطفال الذين يتم استغلالهم.
تثير النتائج أيضًا عددًا كبيرًا من المخاوف الجديدة المحيطة بالطبيعة الغامضة لبيانات التدريب التي تعمل كأساس لمجموعة جديدة من أدوات الذكاء الاصطناعي القوية.
تحتوي مجموعة البيانات الضخمة التي فحصها باحثو جامعة ستانفورد، والمعروفة باسم LAION 5B، على مليارات الصور التي تم استخراجها من الإنترنت، بما في ذلك من وسائل التواصل الاجتماعي ومواقع الترفيه للبالغين.
ومن بين أكثر من 5 مليارات صورة في مجموعة البيانات، قال باحثو جامعة ستانفورد إنهم حددوا ما لا يقل عن 1008 حالات من مواد الاعتداء الجنسي على الأطفال.
وقالت LAION، المنظمة الألمانية غير الربحية التي تقف وراء مجموعة البيانات، في بيان على موقعها على الإنترنت إن لديها "سياسة عدم التسامح مطلقًا مع المحتوى غير القانوني".
وقالت المنظمة إنها تلقت نسخة من التقرير من جامعة ستانفورد، وهي بصدد تقييم النتائج التي توصل إليها. كما أشارت إلى أن مجموعات البيانات تمر عبر "أدوات تصفية مكثفة" للتأكد من أنها آمنة وتمتثل للقانون.
وأضافت المنظمة: "بسبب قدر كبير من الحذر، قمنا بإيقاف تشغيل LAION 5B"، قائلة إنها تعمل مع مؤسسة مراقبة الإنترنت ومقرها المملكة المتحدة "للعثور على الروابط التي قد لا تزال تشير إلى محتوى مشبوه وربما غير قانوني وإزالتها".
وقالت LAION إنها تخطط لإكمال مراجعة السلامة الكاملة لـ LAION 5B بحلول النصف الثاني من شهر يناير وتخطط لإعادة نشر مجموعة البيانات في ذلك الوقت.
وفي الوقت نفسه، قال فريق ستانفورد إن إزالة الصور المحددة جارية حاليًا بعد أن أبلغ الباحثون عن عناوين روابط الصور إلى المركز الوطني للأطفال المفقودين والمستغلين والمركز الكندي لحماية الطفل.
في التقرير، قال الباحثون إنه بينما حاول مطورو LAION 5B تصفية محتوى صريح معين، فقد تم تدريب نسخة سابقة من نموذج توليد الصور الشهير Stable Diffusion في النهاية على "مجموعة واسعة من المحتوى، سواء كان صريحًا أو غير ذلك".
وقال متحدث باسم Stability AI، الشركة الناشئة التي تتخذ من لندن مقراً لها والتي تقف خلف Stable Diffusion، لشبكة CNN في بيان إن هذا الإصدار السابق، Stable Diffusion 1.5، تم إصداره من قبل شركة منفصلة وليس بواسطة Stability AI.
وقد لاحظ الباحثون في جامعة ستانفورد أن Stable Diffusion 2.0 قام بتصفية النتائج التي اعتبرت غير آمنة إلى حد كبير، ونتيجة لذلك لم يكن لديه سوى القليل من المواد الواضحة في مجموعة التدريب.
ذكر تقرير ستانفورد أن مجموعات البيانات الضخمة على نطاق الويب تمثل مشكلة كبيرة لعدد من الأسباب، حتى مع محاولات التصفية الآمنة، بسبب احتمال تضمينها ليس فقط لمواد الاعتداء الجنسي على الأطفال ولكن أيضًا بسبب مخاوف الخصوصية وحقوق الطبع والنشر الأخرى التي تنشأ من استخدامها.
وأوصى التقرير بأن تقتصر مجموعات البيانات هذه على "إعدادات البحث فقط" وأنه يجب استخدام "مجموعات البيانات الأكثر تنظيمًا وذات المصادر الجيدة" فقط للنماذج الموزعة بشكل عام.
المصدر: CNN Arabic
كلمات دلالية: اعتداءات جنسية تكنولوجيا الذکاء الاصطناعی مجموعة البیانات جامعة ستانفورد
إقرأ أيضاً:
خبراء: الذكاء الاصطناعي ليس بديلاً للبشر
أكد خبراء خلال مشاركتهم في فعاليات "ملتقى دبي للذكاء الاصطناعي"، أهمية التركيز على الإنسان باعتباره محور التحول في استخدام التكنولوجيا وتبنيها، مع ضرورة إعطاء الأولوية لتعزيز التأثير الإيجابي للذكاء الاصطناعي على جودة الحياة ورفاه المجتمعات، والعمل على الارتقاء بقدرات الأفراد بدلاً من استبدالهم.
جاء ذلك ضمن فعاليات "ملتقى دبي للذكاء الاصطناعي" في "أسبوع دبي للذكاء الاصطناعي"، الذي ينعقد برعاية سمو الشيخ حمدان بن محمد بن راشد آل مكتوم، ولي عهد دبي، نائب رئيس مجلس الوزراء وزير الدفاع، رئيس مجلس أمناء مؤسسة دبي للمستقبل.
وأجمع المشاركون في جلسة بعنوان "الذكاء الاصطناعي التوليدي بين النمو المتسارع والتصميم الواعي" انعقدت ضمن الملتقى في منطقة 2071 في أبراج الإمارات بدبي، على أهمية القيمة الحقيقية للذكاء الاصطناعي والتي تكمن في التكاملية، أي تحقيق التوازن بين كفاءة الآلة والقيم الإنسانية.
فمن جهته قال بانوس ماداموبولوس، المستثمر في موريس آنجل، والمدير التنفيذي والمؤسس السابق لبرامج الصناعة والشراكات، ستانفورد اتش ايه آي، إن الذكاء الاصطناعي يجب أن يستلهم من الدماغ البشري، مشيراً إلى أن التقنيات الذكية ستُعيد تشكيل الوظائف وتغيّر ملامح قطاعات المستقبل، لكن الهدف منها ليس إلغاء العنصر البشري، بل تمكينه.
وأضاف سيشهد جيلنا تحولاً حقيقياً نحو فرق العمل الهجينة التي يقودها الإنسان ويعززها الذكاء الاصطناعي، لذا يتوجب علينا الاستثمار في أدوات تعزز الإبداع والتعاطف والقرارات السليمة باعتبارها مهارات إنسانية أساسية لا يمكن للآلة تقليدها، ودعائم حقيقية لبناء عالم أفضل.
وشدد على أن التحول الحقيقي في مجال الذكاء الاصطناعي لا يبدأ بالتكنولوجيا، وإنما بالنهج القيادي القادر على إعادة تصور العمليات والأساليب والأدوات المتبعة وتحديد دورها في تشكيل حياتنا ومستقبلنا ، ولا يتطلب ذلك تبني الذكاء الاصطناعي فحسب، وإنما فهمه وتوجيهه وتشكيله وفقاً لاحتياجاتنا ، مشيرا إلى أنه مما لا شك فيه بأن المؤسسات التي ستحقق نمواً وازدهاراً في العصر الجديد لن تكون الأسرع في الأتمتة، بل الأقدر على قيادة التحول الهادف والمسؤول.
من جانبه اعتبر سيرجي لوتر، الرئيس التنفيذي للبحث العالمي، والذكاء الاصطناعي، والتكنولوجيا الإعلانية في شركة "يانغو"، أن الذكاء الاصطناعي التوليدي ليس مجرّد تطور تقني، بل هو تغيير جذري في طريقة التفكير.
وأضاف لا نعمل على تصميم تقنيات عامة للجميع، بل نطور حلولاً ذكية تناسب كل سوق حسب لغته وثقافته واحتياجاته الخاصة، ونسعى إلى تقديم تقنيات ذكاء اصطناعي أسهل وأكثر كفاءة وتأثيراً، من خلال دمج التكنولوجيا المتقدمة مع فهمنا للأسواق المحلية.
وأكد أن الذكاء الاصطناعي لا يُلغي دور الإبداع البشري، بل يعيد تشكيله، لافتاً إلى أن دور الإنسان لم يعد يقتصر على تنفيذ المهام، بل أصبح يتعلق بالفهم والتفكير الإبداعي.
وقال لوتر إنه من يعرف كيفية استخدام الذكاء الاصطناعي بطريقة ذكية ومؤثرة ستكون له الريادة في المستقبل، فالأمر لا يتعلق باستبدال البشر، بل بتمكينهم من العمل بطرق أسرع وأكثر ذكاءً وابتكاراً.
ويتواصل "ملتقى دبي للذكاء الاصطناعي" ضمن فعاليات "أسبوع دبي للذكاء الاصطناعي" على مدى أربعة أيام في منطقة 2071 بأبراج الإمارات بدبي بحضور آلاف المسؤولين والخبراء وصناع القرار والمتحدثين العالميين المتخصصين في قطاع الذكاء الاصطناعي، إلى جانب مؤثرين عالميين وقادة التكنولوجيا.
ويشهد الملتقى مشاركة وفود من 25 دولة حول العالم، و25 شركة عالمية و18 جهة حكومية و60 شركة ناشئة تستعرض حلولها ومشاريعها النوعية في مختلف مجالات الذكاء الاصطناعي، إضافة إلى مشاركة 20 جامعة ومؤسسة بحثية في جلسات وفعاليات الملتقى.