اكتشاف مواد لإساءة معاملة الأطفال في عالم الذكاء الاصطناعي
تاريخ النشر: 21st, December 2023 GMT
يقول باحثون من مرصد ستانفورد للإنترنت، إن مجموعة البيانات المستخدمة لتدريب أدوات إنشاء صور الذكاء الاصطناعي تحتوي على ما لا يقل عن 1008 حالات تم التحقق من صحتها لمواد الاعتداء الجنسي على الأطفال.
ولاحظ باحثو جامعة ستانفورد أن وجود مواد الاعتداء الجنسي على الأطفال في مجموعة البيانات، يمكن أن يسمح لنماذج الذكاء الاصطناعي التي تم تدريبها على البيانات بإنشاء أمثلة جديدة وحتى واقعية لهذه المواد.
وقالت LAION، المنظمة غير الربحية التي أنشأت مجموعة البيانات إن "لديها سياسة عدم التسامح مطلقاً مع المحتوى غير القانوني، وفي ظل قدر كبير من الحذر، نقوم بإزالة مجموعات البيانات مؤقتاً للتأكد من أنها آمنة قبل إعادة نشرها".
وأضافت المنظمة أنها قبل نشر مجموعات البيانات الخاصة بها في المقام الأول، قامت بإنشاء عوامل تصفية لاكتشاف المحتوى غير القانوني وإزالته منها.
ووفقاً للتقارير السابقة، تحتوي مجموعة البيانات المعنية على "ملايين الصور الإباحية والعنف وعري الأطفال والميمات العنصرية ورموز الكراهية والأعمال الفنية المحمية بحقوق الطبع والنشر والأعمال المستخرجة من مواقع الشركات الخاصة"، وبشكل عام، تتضمن أكثر من 5 مليارات صورة والتسميات التوضيحية الوصفية المرتبطة بها.
ومن غير القانوني لمعظم المؤسسات في الولايات المتحدة عرض مواد الإساءة للأطفال لأغراض التحقق، وعلى هذا النحو، استخدم باحثو جامعة ستانفورد العديد من التقنيات للبحث عن هذه المواد.
ووفقاً لورقتهم البحثية، فقد استخدموا الاكتشاف القائم على التجزئة الإدراكية، والكشف القائم على التجزئة المشفرة، للاستفادة من تضمينات الصور في مجموعة البيانات نفسها، وعثروا على 3226 إدخالاً تحتوي على مواد مشتبه بها، بحسب موقع إن غادجيت.
المصدر: موقع 24
كلمات دلالية: التغير المناخي أحداث السودان سلطان النيادي غزة وإسرائيل مونديال الأندية الحرب الأوكرانية عام الاستدامة الذكاء الاصطناعي مجموعة البیانات
إقرأ أيضاً:
الذكاء الاصطناعي يرسم ملامح جديدة لقطاعي الأمن والدفاع
يوسف العربي (أبوظبي)
يرسم الذكاء الاصطناعي ملامح جديدة لقطاعي الأمن والدفاع حيث مكّن الأنظمة الأمنية والدفاعية من تحليل البيانات الضخمة، والتعلم المستمر من البيئات التشغيلية، مما أدى إلى تحسين دقة التنبؤ والكشف عن التهديدات، حسب خبراء ومتخصصين.
وقال هؤلاء لـ «الاتحاد» إنه بفضل خوارزميات التعلم الآلي والتحليل في الوقت الفعلي، باتت الأنظمة الأمنية قادرة على التمييز بين الأنشطة العادية والسلوكيات المشبوهة، ما يعزز سرعة الاستجابة ويحدّ من المخاطر الأمنية المحتملة. وأضافوا: يقوم الذكاء الاصطناعي بإعادة رسم قواعد الأمن العسكري من خلال تولّي دور المهاجم والمدافع في آنٍ واحد كما يراقب الذكاء الاصطناعي الدفاعي حركة البيانات داخل الشبكات، فيكتشف ما يبدو غريباً ويحوّله للتحقيق المعمّق دون تعطيل عمليات الشبكة المعتادة. وأكدوا أنه مع تنامي التهديدات الأمنية وتعقيدها على المستوى العالمي، أصبح الاعتماد على الأنظمة الذكية القابلة للتكيف أمراً ضرورياً لمواكبة بيئات التشغيل الديناميكية والتحديات المتزايدة.
التعلم الآلي
ومن جانبه قال وليد لحود، مدير المبيعات الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا «أترمس»: إن قطاعي الأمن والدفاع يشهدان تحولاً جذرياً مدفوعين بالتطور المتسارع في تقنيات الذكاء الاصطناعي، والتشغيل الآلي، وتكامل أجهزة الاستشعار، ما يعزز بشكل غير مسبوق قدرات المراقبة والكشف عن التهديدات بذكاء ودقة عالية، ومع تنامي التهديدات الأمنية وتعقيدها على المستوى العالمي، أصبح الاعتماد على الأنظمة الذكية القابلة للتكيف أمراً ضرورياً لمواكبة بيئات التشغيل الديناميكية والتحديات المتزايدة.
وأضاف أن الذكاء الاصطناعي أحدث طفرة في مجال الأمن والمراقبة، حيث مكّن الأنظمة الدفاعية من تحليل البيانات الضخمة والتعلم المستمر من البيئات التشغيلية، مما أدى إلى تحسين دقة التنبؤ والكشف عن التهديدات وتقليل الإنذارات الكاذبة، وبفضل خوارزميات التعلم الآلي والتحليل في الوقت الفعلي باتت الأنظمة الأمنية قادرة على التمييز بين الأنشطة العادية والسلوكيات المشبوهة، ما يعزز سرعة الاستجابة ويحدّ من المخاطر الأمنية المحتملة.
وأوضح أنه في هذا السياق، تعدّ حلول مثل « SURICATE » حلاً متكاملاً يعتمد على تقنيات الذكاء الاصطناعي لتوفير مستويات عالية من الحماية والاستجابة السريعة للمتغيرات الأمنية إذ تساهم هذه الحلول في المراقبة الذكية، والتحليل اللحظي بحيث تعتمد على تقنيات التعلّم الآلي وتحليل البيانات الضخمة للقيام بعمليات المراقبة المستمرة والآلية، ما يتيح كشف التهديدات بسرعة عالية، سواء كانت طائرات مسيّرة أو مركبات أو عناصر بشرية مشبوهة.
وأضاف أن نظام SURICATE هو حلّ ذكيّ للمراقبة يعتمد على دمج الكاميرات النهارية والحرارية في وحدة واحدة، مما يتيح تغطية مستمرة في مختلف ظروف الإضاءة ويتميز النظام بقدرته على التحليل الفوري للمشاهد من خلال الذكاء الاصطناعي المتقدم، الذي يعمل مباشرة على الجهاز (Edge AI) دون الحاجة إلى معالجة خارجية، وبفضل هذه التقنية يمكن للنظام رصد وتتبع الأجسام المتحركة بفعالية، مع تصنيفها تلقائياً بناءً على خصائصها البصرية والحرارية.
ونوه بأن ما يميز النظام هو آلية التعلّم العميق (Deep Learning) التي تمكّنه من التطوّر المستمر حيث يستفيد النظام من الإنذارات السابقة لتحسين أدائه وتعزيز قاعدة بياناته ومع مرور الوقت، يصبح النظام أكثر دقة في التعرف على التهديدات الحقيقية والتقليل من الإنذارات الخاطئة، مما يساعد الفرق الأمنية والدفاعية على الاستجابة بسرعة وفعالية للمواقف المختلفة.
حلقة تفاعلية
ومن ناحيته قال جاريث برايثويت، المدير العام للأسواق الناشئة في «جيجامون»: إن الذكاء الاصطناعي يعيد رسم قواعد الأمن العسكري من خلال تولّي دور المهاجم والمدافع في آنٍ واحد.
وأضاف أنه على مدار أربعة عقود في هذا المجال تطوّرت التهديدات من فيروسات بسيطة إلى برمجيات خبيثة بالغة التعقيد مدعومة بالذكاء الاصطناعي.
وأوضح أن الأنظمة العدائية تدرس أخطاءها وتحسّن أساليبها مباشرةً، دافعةً بالحدود إلى الأمام باستمرار وفي الجهة الأخرى، يراقب الذكاء الاصطناعي الدفاعي حركة البيانات داخل الشبكات، فيكتشف ما يبدو غريباً ويحوّله للتحقيق المعمّق دون تعطيل عمليات الشبكة المعتادة.
ولفت إلى أن هذه الحلقة التفاعلية تزيد من قدرة الذكاء الاصطناعي المهاجم على تطوير تكتيكاته، وتقابلها ضرورة توقع الذكاء الدفاعي للحركة التالية وتساعد تحديثات التواقيع والخوارزميات المتغيرة على توقّع التهديدات الناشئة وإحباطها فيما يشبه حرب كرّ وفرّ يتفوّق فيها الذكاء الأقوى، لكنها سباق لا يعرف نهاية.
ضرورة حتمية
وقال إيليا ليونوف، المدير الإقليمي لمنطقة الشرق الأوسط وشمال أفريقيا، «بوزيتف تكنولوجيز» إنه في عالم يتصاعد فيه خطر التهديدات السيبرانية بوتيرة متسارعة، لم يعد تبني الذكاء الاصطناعي والتعلم الآلي لحماية منشآت النفط والغاز والشبكات العسكرية وأنظمة الدفاع خياراً ثانوياً، بل أصبح ضرورة حتمية حيث تُوظّف هذه التقنيات على نطاق واسع لأتمتة الكشف والاستجابة والتحقيق، ما يختصر بشكل لافت زمن الاستجابة (MTTR)، وهو عنصر جوهري في عمليات الدفاع السيبراني الحديثة.
ولفت إلى أن نهج «الأمن السيبراني القائم على النتائج» من «بوزيتف تكنولوجيز» يقدم نموذجاً بارزاً في هذا السياق، إذ يهدف إلى تقليص زمن الاستجابة ليكون أقصر من زمن الهجوم (MTTA) ويجمع هذا الإطار بين أفضل الممارسات وأحدث الأدوات المتطورة، ما ينتج عنه دفاع عالي الكفاءة وقد ثبتت جدواه مراراً في بيئات تشغيلية فعلية، خصوصاً في خضم تزايد الأنشطة المرتبطة بالحروب الإلكترونية.
وقال: غير أن مجرمي الإنترنت ليسوا غافلين عن هذه التقنيات، فهم أيضاً يوظفون الذكاء الاصطناعي في عمليات الاستطلاع وغيرها من مراحل الهجوم وفي خضم هذا السباق التكنولوجي، يصبح تبني استراتيجيات معززة بالذكاء الاصطناعي ضرورة للمحافظة على التفوق الدفاعي.
وأضاف أنه أمام التهديدات السيبرانية المعقدة بنحو متزايد، يظل تسريع وتيرة اعتماد الذكاء الاصطناعي لحماية البنى التحتية الحيوية من أهم السبل لترسيخ القدرة على الصمود وحماية الأمن في عصر تسوده الحروب الرقمية.
مسرع قوي
قال باتريس كين، الرئيس التنفيذي لمجموعة «تاليس» إنه في الوقت الذي تتطلع فيه قوات الدفاع إلى تحقيق الابتكار في عام 2025 وما بعده، يشكل الذكاء الاصطناعي ركيزة أساسية في مسيرة التحول.
وأضاف: في تاليس، كنا ندرك ونتوقع هذا التطور التكنولوجي، وحرصنا على قيادة التغيير، حيث إننا ولأكثر من عقد من الزمان، قمنا بتضمين الذكاء الاصطناعي البسيط والقابل للتفسير والشفاف في حلولنا التي تخدم القوات المسلحة.
ولفت إلى أن تاليس تعتبر لاعباً رئيسياً في مجال الذكاء الاصطناعي في هذه البيئات المعقدة وتعد الشركة من كبار المتقدمين للحصول على براءات الاختراع - في أوروبا في هذا المجال، وتكرس الكثير من الجهد للبحث في مجال الذكاء الاصطناعي، سواء داخلياً أو من خلال الشراكات الأكاديمية والصناعية ولتحقيق المزيد من التقدم في هذه المهمة، وضعنا خبرتنا في مجال الذكاء الاصطناعي في CortAIx وهو مسرع قوي يضم أكثر من 600 مهندس وباحث متفرغين لتطوير الذكاء الاصطناعي الموجه للتطبيقات الحساسة.
ونوه بأنه على عكس الذكاء الاصطناعي المخصص للمستهلك، تم تصميم أنظمتنا للبيئات التي تكون فيها الأرواح والأمن القومي والبنية الأساسية بالغة الأهمية وهذا يعني إعادة التفكير في نماذج الذكاء الاصطناعي التقليدية، وضمان الامتثال للوائح الصارمة، وإعطاء الأولوية لإمكانية التضمين والاقتصاد في الإعدادات التشغيلية المعقدة.
وأوضح أن ما يميز الذكاء الاصطناعي الذي تطوره «تاليس» هو مقاربتنا الهجينة التي تتجاوز النماذج اللغوية الكبيرة التي تعتمد على كميات هائلة من البيانات والطاقة ويضمن الذكاء الاصطناعي في تاليس مستويات عالية من الشفافية والأمن السيبراني والممارسات الأخلاقية، ما يجعله مؤثراً ومستداماً ويعتمد الذكاء الاصطناعي الذي تستخدمه تاليس، والذي يسمى الذكاء الاصطناعي الهجين، على البيانات، ما يتيح الفرصة للاستفادة من قوة الأساليب الإحصائية المثبتة، ومن النماذج التي يمكن أن تكون هندسية أو رياضية أو رمزية وهذا مهم جداً لأن هذا الذكاء الاصطناعي شفاف، وليس صندوقاً أسود. وقال: إن هذه الطريقة تسمح لنا بشرح سبب ارتكاب الذكاء الاصطناعي لخطأ ما، على سبيل المثال، ومن الممكن تصحيحه وتحسينه، تماماً مثل الإنسان مضيفاً: نحن أيضاً رواد الذكاء الاصطناعي البسيط، الذي يستفيد من المعالجات عالية الكفاءة وتقنيات التشكيل العصبي المتطورة التي تحاكي الدماغ البشري، وتستهلك ما يصل إلى 1000 مرة طاقة أقل من الأنظمة التقليدية. وفي هذا المجال، نجحت تاليس في الحفاظ على مركزها الرائد في مجال التكنولوجيا.
894 مليار درهم
قالت الدكتورة نعمت الجيار - مدير برنامج الدراسات العليا للذكاء الاصطناعي في كلية الرياضيات وعلوم الحاسوب في جامعة هيريوت وات – دبي، إن الذكاء الاصطناعي يلعب دوراً حيوياً في شتى المجالات ووفقاً لأحدث التقارير الصادرة عن «ستاتيستا» من المتوقع أن يصل حجم السوق في سوق الذكاء الاصطناعي إلى 243.70 مليار دولار في عام 2025 ما يعادل 894 مليار درهم ومن المتوقع أن يُظهر حجم السوق معدل نمو سنوي (CAGR 2025-2030) بنسبة 27.67%، مما يؤدي إلى حجم سوق يبلغ 826.70 مليار دولار بحلول عام 2030.
وقالت إنه تم دمج تقنيات الذكاء الاصطناعي في قطاعات عديدة حيث أصبح ضرورة وليس رفاهية، ففي قطاع الأمن والدفاع الحديث تستخدم أدوات الذكاء الاصطناعي في اكتشاف ورصد التهديدات واتخاذ القرارات المناسبة، وبالتالي رفع مستوى الكفاءة التشغيلية وتعتمد الحكومات والمؤسسات الخاصة على التقنيات المعتمدة على الذكاء الاصطناعي بشكل كبير لحماية الأصول، ومكافحة التهديدات السيبرانية، وتعزيز الدفاع الوطني.
وأضافت أنه في مجال الأمن السيبراني والذي لا يقل أهمية عن الأمن المادي (وهو الإجراءات الأمنية التي يتم تبنيها لحماية مواقع البناء والمعدات وكل المعلومات والبرامج الموجودة فيها) وبسبب التطور التكنولوجي الذي نشهده زادت نسب الهجمات السيبرانية فوفقًا لأحدث التقارير بلغت الخسائر جراء الهجمات السيبرانية نحو 10 تريليونات دولار عام 2023، وفي عام 2024 قدرت الخسائر بنحو 9 تريليونات دولار.
ونوهت بأنه يتم استخدام الذكاء الاصطناعي لاكتشاف الهجمات السيبرانية ومنعها في الوقت الفعلي و تقوم خوارزميات التعلم الآلي بتحليل كميات هائلة من البيانات لتحديد الأنماط المرتبطة بالبرامج المشبوهة ومحاولات الاحتيال، كما يمكن للأنظمة الأمنية التي تعمل بالذكاء الاصطناعي التعرف ورصد الأنشطة الغير مألوفة والتنبؤ بالتهديدات المحتملة والاستجابة بشكل أسرع من المحللين البشريين، وهذا مهم بشكل خاص لتأمين المعلومات الحيوية وحماية البنية التحتية.
وفي مجال الأمن المادي، تستخدم أنظمة المراقبة المعتمدة على الذكاء الاصطناعي للتعرف على الوجه، وتحليل السلوك، والكشف عن التحركات المريبة ومراقبة الأماكن العامة والمرافق الحيوية كما تساعد الكاميرات والطائرات بدون طيار (الدرونز) المعززة بالذكاء الاصطناعي في أمن الحدود، وفحص المطارات، ومراقبة الحشود.
ويعمل الذكاء الاصطناعي أيضًا على تعزيز الأمن في العمليات العسكرية وتستخدم الطائرات بدون طيار والأنظمة الآلية ذاتية التحكم في الاستطلاع والمراقبة والخدمات اللوجستية، مما يعزز الأمن ويقلل من المخاطر فيوفر للقادة العسكريين رؤى في الوقت الفعلي لتعزيز التخطيط الاستراتيجي.
اليونيفيل: هجوم أنصار حزب الله غير مقبول