Meta تحتاج إلى قواعد محدثة للتزييف العميق الصريح
تاريخ النشر: 25th, July 2024 GMT
يحث مجلس الرقابة التابع لشركة Meta الشركة على تحديث قواعدها بشأن التزييف العميق الجنسي الصريح. قدم المجلس هذه التوصيات كجزء من قراره في حالتين تتعلقان بصور تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة.
تنبع هذه القضايا من طعنين من المستخدمين بشأن صور تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة، على الرغم من رفض المجلس تسمية الأفراد.
تم الإبلاغ عن المنشور إلى Meta ولكن تم إغلاق التقرير تلقائيًا بعد 48 ساعة، كما حدث مع استئناف المستخدم اللاحق.
وفي نهاية المطاف، قامت الشركة بإزالة المنشور بعد اهتمام مجلس الرقابة، والذي ألغى مع ذلك قرار ميتا الأصلي بترك الصورة.
وأظهر المنشور الثاني، الذي تمت مشاركته على مجموعة فيسبوك مخصصة لفن الذكاء الاصطناعي، "صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية مع رجل يتلمس صدرها". قام Meta تلقائيًا بإزالة المنشور لأنه تمت إضافته إلى نظام داخلي يمكنه التعرف على الصور التي تم إبلاغ الشركة بها مسبقًا. وجد مجلس الرقابة أن ميتا كان على حق في حذف المنصب.
وفي كلتا الحالتين، قال مجلس الرقابة إن التزييف العميق للذكاء الاصطناعي انتهك قواعد الشركة التي تحظر صور "فوتوشوب ذات طابع جنسي مهين". لكن في توصياته إلى ميتا، قال مجلس الرقابة إن اللغة الحالية المستخدمة في هذه القواعد قديمة وقد تجعل من الصعب على المستخدمين الإبلاغ عن الصور الواضحة التي صنعها الذكاء الاصطناعي.
وبدلاً من ذلك، يقول مجلس الإدارة إنه يجب عليه تحديث سياساته لتوضيح أنه يحظر الصور الفاضحة غير التوافقية التي يتم تصنيعها بواسطة الذكاء الاصطناعي أو يتم التلاعب بها. "يتم إنشاء الكثير من الصور الجنسية غير التوافقية المنتشرة عبر الإنترنت اليوم باستخدام نماذج الذكاء الاصطناعي التوليدية التي تقوم إما بتحرير الصور الموجودة تلقائيًا أو إنشاء صور جديدة تمامًا"، كما كتب المجلس. تقنيات التحرير، بطريقة واضحة لكل من المستخدمين ومشرفي الشركة.
كما انتقد المجلس ممارسة ميتا المتمثلة في إغلاق طعون المستخدمين تلقائيًا، والتي قال إنها قد يكون لها "تأثيرات كبيرة على حقوق الإنسان" على المستخدمين. ومع ذلك، قال المجلس إنه ليس لديه "معلومات كافية" حول هذه الممارسة لتقديم توصية.
أصبح انتشار صور الذكاء الاصطناعي الصريحة قضية بارزة بشكل متزايد حيث أصبحت "الإباحية المزيفة العميقة" شكلاً أكثر انتشارًا من أشكال المضايقات عبر الإنترنت في السنوات الأخيرة. ويأتي قرار مجلس الإدارة بعد يوم واحد من موافقة مجلس الشيوخ الأمريكي بالإجماع على مشروع قانون يتخذ إجراءات صارمة ضد التزييف العميق الصريح. وإذا تم إقرار هذا الإجراء ليصبح قانونًا، فإنه سيسمح للضحايا بمقاضاة منشئي هذه الصور مقابل ما يصل إلى 250 ألف دولار.
هذه ليست المرة الأولى التي يدفع فيها مجلس الرقابة شركة Meta لتحديث قواعدها الخاصة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفي قضية أخرى رفيعة المستوى، حقق المجلس في مقطع فيديو تم تعديله بشكل ضار للرئيس جو بايدن. أدت القضية في النهاية إلى قيام Meta بتجديد سياساتها حول كيفية تصنيف المحتوى الناتج عن الذكاء الاصطناعي.
المصدر: بوابة الوفد
كلمات دلالية: بواسطة الذکاء الاصطناعی مجلس الرقابة تلقائی ا
إقرأ أيضاً:
إصدار دليل ممارسات الذكاء الاصطناعي في العملية التعليمية
أصدرت وزارة التربية والتعليم دليل ممارسات الذكاء الاصطناعي في العملية التعليمية، الذي يمثل وثيقة أساسية تهدف إلى توجيه المعلمين والمشرفين وإدارات المدارس في كيفية استخدام الذكاء الاصطناعي بفعالية لتعزيز جودة التعليم وتحقيق أهداف "رؤية عمان 2040"؛
يهدف الدليل إلى توفير الأسس اللازمة لتمكين الهيئة التعليمية من الاستفادة من تقنيات الذكاء الاصطناعي في المدارس، سواء في الجوانب التعليمية أو الإدارية. ويتضمن توجيهًا شاملًا لبناء الخطط، تشكيل الفرق، وتحديد الاحتياجات التي تضمن دمج هذه التقنية الحديثة في كافة العمليات التعليمية.
كما يسعى الدليل إلى تعزيز الوعي لدى المعلمين بآليات الذكاء الاصطناعي وتقديم التدريب المناسب لهم لاستخدام هذه الأدوات بشكل أخلاقي وفعال، بما يسهم في تطوير بيئة تعليمية مبتكرة تعتمد على التكنولوجيا المتقدمة. من خلال ذلك، يهدف الدليل إلى تحسين تجربة التعلم وتعزيز أداء الطلبة باستخدام الأدوات والأساليب المتطورة، بالإضافة إلى دعم ممارسات إيجابية وفعالة في توظيف هذه التقنية.
يؤكد الدليل على ضرورة تنظيم الجهود وتعزيز استخدام الذكاء الاصطناعي داخل البيئة التعليمية، من خلال تشكيل فرق متخصصة، أبرزها الفريق المركزي المعني بإعداد وتنفيذ البرنامج الوطني لاستخدام الذكاء الاصطناعي في التعليم المدرسي. هذه الفرق ستكون مسؤولة عن تنسيق الجهود بين الجهات المختلفة لضمان تنفيذ الخطط التعليمية بشكل فعال، بالإضافة إلى متابعة تطبيق أفضل الممارسات العالمية في هذا المجال.
كما يركز الدليل على أهمية التعاون بين المؤسسات التعليمية المختلفة لتبادل المعرفة والتجارب، وتقديم التقارير الخاصة بتطبيقات الذكاء الاصطناعي إلى لجنة التحول الرقمي في الوزارة لضمان مواكبة التطورات العالمية وتحقيق أهداف استخدام هذه التقنيات بشكل مستدام.
يكشف الدليل آلية تمكين الذكاء الاصطناعي في العملية التعليمية، مع التركيز على الصفوف الدراسية لتحسين جودة التعليم والتعلم. ويتطلب هذا تشكيل فرق عمل متخصصة من الهيئة التعليمية والمعنيين لتحديد الاحتياجات والمتطلبات الخاصة بالذكاء الاصطناعي في المدارس، والإشراف على تطبيقها بما يتوافق مع المبادئ الأخلاقية والتشريعات المعتمدة من قبل الوزارة.
الضوابط الأمنية
يتناول الدليل أيضًا الضوابط الأمنية اللازمة لاستخدام تطبيقات الذكاء الاصطناعي في التعليم المدرسي. في إطار هذا، يشدد على أهمية الالتزام بالقوانين واللوائح الخاصة بحماية البيانات الشخصية، وكذلك الامتناع عن مشاركة أي معلومات حساسة أو سرية خارج نطاق الوزارة. يُطلب أيضًا أن يتم استخدام التطبيقات الموثقة والمصرح بها فقط من قبل الوزارة، مع ضمان حماية البيانات الشخصية والموافقة المسبقة للأفراد عند استخدام تقنيات الذكاء الاصطناعي التي تشمل تصميم شخصيات حقيقية.
المخاطر المحتملة
كما يعرض الدليل أبرز المخاطر المحتملة المرتبطة باستخدام تقنيات الذكاء الاصطناعي في التعليم، بما في ذلك المخاطر الصحية مثل الإجهاد الجسدي الناتج عن الاستخدام المفرط للأجهزة، بالإضافة إلى المشكلات النفسية والاجتماعية مثل التوتر والاكتئاب، والمخاطر المعرفية، حيث قد يؤدي الاعتماد المفرط على الذكاء الاصطناعي إلى تقليص التفكير النقدي وضعف المهارات العقلية بسبب الاعتماد على معلومات غير دقيقة.
فضلاً عن المخاطر الاجتماعية، والتي تشمل التفاوت في الوصول إلى التكنولوجيا وتغيرات اجتماعية قد تحدث نتيجة لتحيزات خوارزميات الذكاء الاصطناعي، والمخاطر الأمنية، بما يتعلق بانتهاك الخصوصية والتعرض للاختراقات الإلكترونية التي قد تؤدي إلى تدمير الأنظمة أو تسريب البيانات الحساسة.
ويعد دليل ممارسات الذكاء الاصطناعي في التعليم خطوة مهمة نحو دمج التكنولوجيا المتطورة في العملية التعليمية العمانية، ويعكس التزام الوزارة بتطوير بيئة تعليمية مستدامة تعتمد على الابتكار. ويهدف هذا الدليل إلى ضمان أن يكون استخدام الذكاء الاصطناعي في التعليم أمرًا متكاملًا وآمنًا، بما يعزز من قدرات المعلمين والطلبة على السواء في مواجهة التحديات المستقبلية.
«BMI» التابعة لـ فيتش تتوقع نموا إيجابيا في قطاع السياحة بمصر خلال 2025