دراسة مقلقة تكشف تدريب ذكاء اصطناعي على صور الاعتداء الجنسي على الأطفال!
تاريخ النشر: 25th, December 2023 GMT
كشفت دراسة جديدة أن آلاف صور الاعتداء الجنسي على الأطفال مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.
وعثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة للاعتداء الجنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس للصور والتسميات التوضيحية عبر الإنترنت استُخدم لتدريب صنّاع صور الذكاء الاصطناعي مثل Stable Diffusion.
وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة، لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. وتم التأكد من أن أكثر من 1000 صورة من الصور المشتبه بها تشمل مواد اعتداء جنسي على الأطفال.
وكتب الباحثون: "وجدنا أن امتلاك مجموعة بيانات LAION-5B المأهولة حتى أواخر عام 2023، يعني حيازة آلاف الصور غير القانونية".
وعشية إصدار تقرير مرصد ستانفورد للإنترنت يوم الأربعاء، قالت LAION إنها أزالت مجموعات البيانات الخاصة بها مؤقتا.
وقالت LAION، التي تمثل الشبكة المفتوحة للذكاء الاصطناعي واسعة النطاق غير الربحية، في بيان لها: "إن لديها سياسة عدم التسامح مطلقا مع المحتوى غير القانوني، وفي ظل الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها".
إقرأ المزيد
وفي حين أن الصور لا تمثل سوى جزء صغير من مؤشر LAION الذي يبلغ حوالي 5.8 مليار صورة، تقول مجموعة ستانفورد إنها ربما تؤثر على قدرة أدوات الذكاء الاصطناعي على توليد مخرجات ضارة وتعزيز الإساءة السابقة للضحايا الحقيقيين.
ويقول الباحثون إن هذه الصور نفسها جعلت من السهل على أنظمة الذكاء الاصطناعي إنتاج صور واقعية وصريحة لأطفال مزيفين، بالإضافة إلى تحويل صور وسائل التواصل الاجتماعي لمراهقين حقيقيين يرتدون ملابس كاملة، إلى عراة، الأمر الذي أثار قلق المدارس وجهات إنفاذ القانون في جميع أنحاء العالم.
وحتى وقت قريب، اعتقد الباحثون في مجال مكافحة إساءة الاستخدام، أن الطريقة الوحيدة التي تنتج بها بعض أدوات الذكاء الاصطناعي غير الخاضعة للرقابة صورا مسيئة للأطفال، هي من خلال الجمع بين ما تعلمته من فئتين منفصلتين من الصور عبر الإنترنت: المواد الإباحية للبالغين والصور الحميدة للأطفال.
وقال ديفيد ثيل، كبير خبراء التكنولوجيا في مرصد ستانفورد للإنترنت، والذي كتب التقرير، إن هذه مشكلة ليست سهلة الإصلاح، وتعود جذورها إلى العديد من مشاريع الذكاء الاصطناعي التوليدية التي "تم طرحها بشكل فعال في السوق" وإتاحتها على نطاق واسع، لأن هذا المجال تنافسي للغاية.
يذكر أن LAION من بنات أفكار الباحث والمعلم الألماني، كريستوف شومان، الذي قال في وقت سابق من هذا العام إن جزءا من السبب وراء جعل قاعدة البيانات المرئية الضخمة هذه متاحة للجمهور، هو ضمان عدم التحكم في مستقبل تطوير الذكاء الاصطناعي من قبل شركات قوية.
المصدر: الغارديان
المصدر: RT Arabic
كلمات دلالية: اختراعات بحوث ذكاء اصطناعي الذکاء الاصطناعی على الأطفال
إقرأ أيضاً:
مع الذكاء الاصطناعي.. كُن مستعدًا لوظائف المستقبل
مؤيد الزعبي
تخيل عزيزي القارئ أن تصبح جاهلًا في وظيفتك وبأدوارك الوظيفية لسبب بسيط أنك لا تملك المعرفة ولا القدرة ولا المهارة لاستخدام أنظمة الذكاء الاصطناعي الخاصة بوظيفتك، أعتقد بأنك لا تريد أن تكون بهذا الوضع أبدًا؛ لذلك عليك أن تبدأ من الآن في أن تتأقلم وتستعد بما هو قادم حتى يكون مكانك محفوظًا في شركتك أو حتى تترقى لمكان أفضل طالما أن الإنتاجية لديك باتت مضاعفة، فأنت ماهر بمهامك الوظيفية وماهر في توظيف الذكاء الاصطناعي لخدمة إنتاجيتك العملية بل أنه لديك الفرصة لأن تصبح أمهر المهرة إذا توقعت ما هي وظائف المستقبل التي ستستحدث للذكاء الاصطناعي نفسه في شركتك أو مجالك، لذلك أريد أن ادردش معك هنا في هذا الطرح حول هذه الفرص المستقبلية.
طالما أن الذكاء الاصطناعي سيدخل بيئة العمل في جميع الشركات والوظائف فأصبح لا بد وحتمًا أن يتواجد من يعمل على صيانة هذه الأنظمة أو يجعلها تعمل بالكفاءة المطلوبة فموظف صيانة أنظمة الذكاء الاصطناعي إحدى الوظائف القادمة بقوة في معظم الشركات، أيضًا هناك وظائف متعلقة بأمن هذه الأنظمة وربما تحدثت عنها سابقًا في الكثير من الأطروحات، وما أريد إضافته هنا أن وظائف أمن أنظمة الذكاء الاصطناعي لن تقتصر عن حماية بيانات مستخدميك أو عملائك بل حتى أمن شركاتك وأسرارها، وأيضًا سيصبح جزءًا من وظيفة هذا الفريق أو هذا القسم هو حماية أساليب العمل المتبعة داخل الشركة والتي تعمل بالذكاء الاصطناعي، فلا يمكن لأي شركة من أن تترك نتاج خبراتها في توظيف الذكاء الاصطناعي لزيادة الإنتاجية مثلًا هكذا دون حماية، فتوقع أن تكون مسؤولًا عن حماية هذا النوع من الخبرات في قادم الأيام، ولا تتعجب أن تكون هذه المهمة هي جزء من مهام قسم الموارد البشرية.
وبما أننا نتحدث عن قسم الموارد البشرية فهناك تغييرات جذرية ستدخل بيئة العمل في هذا القسم، فمن المهم أن تتغير طرق تقييم لمهارات الموظفين وقدراتهم الوظيفية بناء على قدرتهم في استخدام أنظمة الذكاء الاصطناعي، وأجد أنه يقع على عاتق قسم الموارد البشرية في أن يبدأ من الآن في تطوير مهارات الموظفين في كيفية استخدام الذكاء الاصطناعي، والبحث عن موظفين كفؤ لإدارة ما يستحدث في قادم الوقت من تغييرات في بيئة العمل داخل جميع أقسام الشركة، وسيضاف لهم موظف جديد بمسمى " خبير تحولات سوق العمل" سيساعدهم في التكيف على المتغيرات الناتجة من خلال تطوير المهارات وإعادة تأهيلها.
هناك شبه إجماع على أن هناك وظيفة ستدخل عالمنا متعلقة بأخلاقيات الذكاء الاصطناعي، وستكون مهمة هؤلاء ضمان الاستخدام العادل وعدم التحيز في أنظمة الذكاء الاصطناعي. تخيل، عزيزي القارئ، أن شركة كبرى تُريد إدراج نظام ذكاء اصطناعي داخل بيئة عملها؛ فمن المهم أن يكون هناك مراقب أخلاقيات أو مهندس أخلاقيات ذكاء اصطناعي يراقب كيف يكون لهذا النظام أن يعمل بشكل عادل وغير منحاز لأي طرف على حساب طرف آخر، وألا يظهر أي عنصرية تجاه عرق أو دين أو لون، أو حتى تحيزًا للموظف على حساب العمل أو العكس.
وفي حال استخدام أنظمة ذكاء اصطناعي مختصة بالتوظيف، يجب ضمان أن يكون التوظيف غير منحاز وخاليًا من أي نوع من العنصرية. وعلى هذا الأساس، يمكنك قياس هذه المهمة على بقية الأعمال. أيضًا، سيكون هناك حاجة لمن يصمم واجهات العمل أو تلك الخاصة بالعملاء والتي تعتمد على الذكاء الاصطناعي. وبالمثل، سنحتاج إلى متخصصين لتقييم تجربة العملاء التي تعتمد على الذكاء الاصطناعي.
بوجهة نظري، هناك مرحلتان لدخول الذكاء الاصطناعي إلى بيئة العمل. الأولى: مرحلة إدخال أنظمة الذكاء الاصطناعي إلى بيئة العمل، والثانية: مرحلة الاعتماد الكامل على الذكاء الاصطناعي. ولهذا، سنجد وظائف مرحلية مثل محلل بيانات الذكاء الاصطناعي. ففي المرحلة الأولى، سنحتاج إلى من ينقح البيانات ويضمن دقة وفعالية النموذج. أما في المرحلة الثانية، فسيكون الذكاء الاصطناعي قد تعلم وبات ينقح بياناته بنفسه.
وأيضًا، في المرحلة الأولى، سنحتاج إلى مدرب أنظمة ذكاء اصطناعي، تكون مهمته تدريب الأنظمة على التعرف على الأنماط واتخاذ القرارات من خلال إدخال البيانات وتصحيح الأخطاء إن وجدت. أما في المرحلة الثانية، فسيصبح الذكاء الاصطناعي قادرًا على تدريب نفسه بنفسه.
أيضًا، في أقسام التسويق، ستتغير بيئة العمل كثيرًا؛ حيث سيدخل الذكاء الاصطناعي في تصميم وتنفيذ الحملات التسويقية. لذا، يجب أن تكون مُستعدًا لكيفية الاستعانة بالذكاء الاصطناعي لإطلاق حملة تسويقية مناسبة لشركتك وميزانيتك. ومن الوظائف التي ستُستحدث، مثلًا، مؤلف محتوى للذكاء الاصطناعي. فليس من المعقول أن هناك مئات المنصات التي تنتج محتوى بالذكاء الاصطناعي دون أن تستفيد الشركات من هذا التطور بتوظيف أفراد قادرين على استخدام هذه الأدوات لإنتاج محتوى متميز، سريع، متنوع، واحترافي.
أيضًا، من المجالات التي ستشهد توسعًا كبيرًا، الوظائف المتعلقة بمصممي الواقع الافتراضي أو الواقع المعزز؛ فهناك تجارب تعليمية، سواء في المدارس أو الجامعات، ستكون بحاجة لمثل هذا النوع من التصميم. وأيضًا، ستُقدِم المراكز التجارية ومواقع التسوق الإلكترونية على تجارب تسوق جديدة تعتمد على هذه التقنيات، إضافة إلى تجارب العملاء المبنية على الذكاء الاصطناعي أو حتى التجارب السياحية المستندة إلى هذه التكنولوجيا.
لذا، سنجد سوقًا كبيرًا لمصممي الواقع الافتراضي، خصوصًا أصحاب الإبداع والخيال القادرين على خلق بيئة افتراضية مناسبة للمستخدمين.
وبما أن الذكاء الاصطناعي سيدخل حياتنا من أوسع أبوابها، فلا عجب أن نجد مستشارين يعززون حياتنا باستخدام الذكاء الاصطناعي ويقدمون لنا أفضل الحلول لتحسين حياتنا الأسرية، المالية، والصحية. بل إن هناك وظائف ستأخذ منحى آخر، وهي الوظائف المتعلقة باستكشاف استخدامات الذكاء الاصطناعي. أجد هذه الوظيفة ملفتة للنظر، لأن الكثير من الأعمال ستتطلب مستشارًا يستكشف ما هو المناسب لها من الأنظمة المستحدثة في عالم الذكاء الاصطناعي. ولهذا، لن نجد فقط أفرادًا متخصصين في هذا المجال، بل أيضًا شركات تقدم استشارات خاصة لتختار لشركتك ما يناسبها.
المتغيرات كثيرة، والمستحدث من الوظائف والأدوار لا حصر له، ولا يمكنني أن أجمع كل هذه المستجدات في طرح واحد، ولكن ما أريده حقًا هو أن تجعل هذا الطرح بوابة للبحث، وأن تسأل نفسك سؤالًا مهمًا: كيف يمكنني تطوير مهاراتي وزيادة إنتاجيتي باستخدام الذكاء الاصطناعي؟ تخيَّل مع نفسك شكل وظيفتك المستقبلية، وعندها ستعرف طريقك إلى مستقبل أفضل. ويُمكنك أن تبدأ من الآن في تطوير مهاراتك من خلال دورات متخصصة.
بأرقام الشاسيه.. حماية المستهلك: وقف التعامل على هذه السيارات الجديدة