دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!
تاريخ النشر: 25th, December 2023 GMT
كشفت دراسة جديدة أن آلاف صور الاعتداء الجنسي على الأطفال مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.
وعثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس للصور والتسميات التوضيحية عبر الإنترنت استُخدم لتدريب صنّاع صور الذكاء الاصطناعي مثل Stable Diffusion.
وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة، لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. وتم التأكد من أن أكثر من 1000 صورة من الصور المشتبه بها تشمل مواد اعتداء جنسي على الأطفال.
وكتب الباحثون: "وجدنا أن امتلاك مجموعة بيانات LAION-5B المأهولة حتى أواخر عام 2023، يعني حيازة آلاف الصور غير القانونية".
وعشية إصدار تقرير مرصد ستانفورد للإنترنت يوم الأربعاء، قالت LAION إنها أزالت مجموعات البيانات الخاصة بها مؤقتا.
وقالت LAION، التي تمثل الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق غير الربحية، في بيان لها: "إن لديها سياسة عدم التسامح مطلقا مع المحتوى غير القانوني، وفي ظل الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها".
إقرأ المزيد
وفي حين أن الصور لا تمثل سوى جزء صغير من مؤشر LAION الذي يبلغ حوالي 5.8 مليار صورة، تقول مجموعة ستانفورد إنها ربما تؤثر على قدرة أدوات الذكاء الاصطناعي على توليد مخرجات ضارة وتعزيز الإساءة السابقة للضحايا الحقيقيين.
ويقول الباحثون إن هذه الصور نفسها جعلت من السهل على أنظمة الذكاء الاصطناعي إنتاج صور واقعية وصريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي لمراهقين حقيقيين يرتدون ملابس كاملة، إلى عراة، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم.
وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة الاستخدام، أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صورا مسيئة للأطفال، هي من خلال الجمع بين ما تعلمته من فئتين منفصلتين من الصور عبر الإنترنت: المواد الإباحية للبالغين والصور الحميدة للأطفال.
وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، والذي كتب التقرير، إن هذه مشكلة ليست سهلة الإصلاح، وتعود جذورها إلى العديد من مشاريع الذكاء الاصطناعي التوليدية التي "تم طرحها بشكل فعال في السوق" وإتاحتها على نطاق واسع، لأن هذا المجال تنافسي للغاية.
يذكر أن LAION من بنات أفكار الباحث والمعلم الألماني، كريستوف شومان، الذي قال في وقت سابق من هذا العام إن جزءا من السبب وراء جعل قاعدة البيانات المرئية الضخمة هذه متاحة للجمهور، هو ضمان عدم التحكم في مستقبل تطوير الذكاء الاصطناعي من قبل شركات قوية.
المصدر: الغارديان
المصدر: RT Arabic
كلمات دلالية: اختراعات بحوث ذكاء اصطناعي الذکاء الاصطناعی على الأطفال
إقرأ أيضاً:
سامسونج تطلق Galaxy A56 مع دعم ميزات الذكاء الاصطناعي
طرحت شركة سامسونج، هاتفها الجديد Galaxy A56 الذي يأتي مع دعم الشحن السلكي بقدرة 45 وات، بعد أربع سنوات من اعتماد الشركة لهذه السرعة لأول مرة، تشمل الميزات الجديدة أيضا دعم ميزات الذكاء الاصطناعي، ومعالج قوي وشاشة أكبر بقياس مع حواف أصغر من جميع الجهات.
وبحسب ما ذكره موقع “gsmarena” التقني، يعد Galaxy A56 أول هاتف يحمل معالج ميدياتك Exynos 1580، وهو يعد ترقية كبيرة مقارنة بسابقه، مما يمنح الهاتف أداء كبير مقارنة بـ A55.
ويحتوي المعالج على وحدة معالجة مركزية CPU بسرعة 2.9 جيجاهرتز، وحدة معالجة رسومات GPU قائمة على AMD، ووحدة معالجة الشبكات العصبية NPU بسرعة 14.7 TOPS، مما يعني أن الأداء سيكون أعلى بنسبة 37% مقارنة بالعام الماضي، يحتوي الهاتف على 8 جيجابايت من ذاكرة الوصول العشوائي رامم.
تم تحسين الشاشة أيضا، حيث أصبحت شاشة HBM أكثر سطوعا، مع 1200 شمعة في السطوع العادي و1900 شمعة في السطوع الأقصى، كما تحافظ الشاشة على دقة Full HD+ وحماية Gorilla Glass Victus+.
فيما يخص المتانة، فإن Galaxy A56 يحتوي أيضا على Victus+ في الجهة الخلفية مع إطار من الألمنيوم، كما أن الهاتف أصبح أنحف من سابقه بملف بسمك 7.4 مم ويتميز بجزيرة كاميرا معاد تصميمها.
يحتوي هاتف Galaxy A56، على كاميرا خلفية رئيسية 50 ميجابكسل، مصحوبة بكاميرا بدقة 12 ميجابكسل بزاوية واسعة، وعدسة بدقة 5 ميجابكسل ماكرو، بالإضافة إلى كاميرا أمامية بدقة 12 ميجابكسل لالتقاط صور السيلفي، يدعم نظام الكامير بعض ميزات الذكاء الاصطناعي.
يشمل الهاتف أيضا تحسينات في التصوير مثل تعزيز الصور السياقي، وتحسين الصور والفيديوهات في الإضاءة المنخفضة باستخدام وضع الحد من الضوضاء، وزيادة سرعة التصوير المستمر، تم تحسين التبديل بين الكاميرا الرئيسية والكاميرا الواسعة الزاوية ليصبح أسرع بمرتين.
وعدت سامسونج بتقديم 6 سنوات من التحديثات الأمنية و6 تحديثات لنظام التشغيل، مما يعد المستخدمين بعمر أطول للهاتف، سيتم إطلاق الهاتف بنظام Android 15 وواجهة One UI 7.0، التي تأتي مع تصميم جديد للواجهة وخيارات تخصيص أكثر.
يأتي الهاتف أيضا مع ميزة Circle to Search، التي تتيح للمستخدمين البحث عن أي شيء على شاشتهم من خلال حركة واحدة فورية.
وتعج هذه هي المرة الأولى التي يحصل فيها هاتف من سلسلة Galaxy A على دعم الشحن السريع بقدرة 45 وات، وهي ميزة كانت مقتصرة سابقا على هواتف Galaxy S الرائدة.
تسمى سامسونج هذه الميزة Super Fast Charge 2.0، ومن المفترض أن يشحن الهاتف 65% من بطاريته التي تبلغ 5000 مللي أمبير في 30 دقيقة، بينما سيستغرق الشحن من 0 إلى 100% حوالي 68 دقيقة.
يتوفر Samsung Galaxy A56 بأربعة ألوان هي: الرمادي الغامق، الرمادي الفاتح، الزيتوني، والوردي، مقابل سعر يبدأ من 479 دولار للإصدار بسعة 128 جيجابايت.
أبوظبي .. إطلاق أول برنامج بكالوريوس في مجال الذكاء الاصطناعي