Meta تحتاج إلى قواعد محدثة للتزييف العميق الصريح
تاريخ النشر: 25th, July 2024 GMT
يحث مجلس الرقابة التابع لشركة Meta الشركة على تحديث قواعدها بشأن التزييف العميق الجنسي الصريح. قدم المجلس هذه التوصيات كجزء من قراره في حالتين تتعلقان بصور تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة.
تنبع هذه القضايا من طعنين من المستخدمين بشأن صور تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة، على الرغم من رفض المجلس تسمية الأفراد.
تم الإبلاغ عن المنشور إلى Meta ولكن تم إغلاق التقرير تلقائيًا بعد 48 ساعة، كما حدث مع استئناف المستخدم اللاحق.
وفي نهاية المطاف، قامت الشركة بإزالة المنشور بعد اهتمام مجلس الرقابة، والذي ألغى مع ذلك قرار ميتا الأصلي بترك الصورة.
وأظهر المنشور الثاني، الذي تمت مشاركته على مجموعة فيسبوك مخصصة لفن الذكاء الاصطناعي، "صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية مع رجل يتلمس صدرها". قام Meta تلقائيًا بإزالة المنشور لأنه تمت إضافته إلى نظام داخلي يمكنه التعرف على الصور التي تم إبلاغ الشركة بها مسبقًا. وجد مجلس الرقابة أن ميتا كان على حق في حذف المنصب.
وفي كلتا الحالتين، قال مجلس الرقابة إن التزييف العميق للذكاء الاصطناعي انتهك قواعد الشركة التي تحظر صور "فوتوشوب ذات طابع جنسي مهين". لكن في توصياته إلى ميتا، قال مجلس الرقابة إن اللغة الحالية المستخدمة في هذه القواعد قديمة وقد تجعل من الصعب على المستخدمين الإبلاغ عن الصور الواضحة التي صنعها الذكاء الاصطناعي.
وبدلاً من ذلك، يقول مجلس الإدارة إنه يجب عليه تحديث سياساته لتوضيح أنه يحظر الصور الفاضحة غير التوافقية التي يتم تصنيعها بواسطة الذكاء الاصطناعي أو يتم التلاعب بها. "يتم إنشاء الكثير من الصور الجنسية غير التوافقية المنتشرة عبر الإنترنت اليوم باستخدام نماذج الذكاء الاصطناعي التوليدية التي تقوم إما بتحرير الصور الموجودة تلقائيًا أو إنشاء صور جديدة تمامًا"، كما كتب المجلس. تقنيات التحرير، بطريقة واضحة لكل من المستخدمين ومشرفي الشركة.
كما انتقد المجلس ممارسة ميتا المتمثلة في إغلاق طعون المستخدمين تلقائيًا، والتي قال إنها قد يكون لها "تأثيرات كبيرة على حقوق الإنسان" على المستخدمين. ومع ذلك، قال المجلس إنه ليس لديه "معلومات كافية" حول هذه الممارسة لتقديم توصية.
أصبح انتشار صور الذكاء الاصطناعي الصريحة قضية بارزة بشكل متزايد حيث أصبحت "الإباحية المزيفة العميقة" شكلاً أكثر انتشارًا من أشكال المضايقات عبر الإنترنت في السنوات الأخيرة. ويأتي قرار مجلس الإدارة بعد يوم واحد من موافقة مجلس الشيوخ الأمريكي بالإجماع على مشروع قانون يتخذ إجراءات صارمة ضد التزييف العميق الصريح. وإذا تم إقرار هذا الإجراء ليصبح قانونًا، فإنه سيسمح للضحايا بمقاضاة منشئي هذه الصور مقابل ما يصل إلى 250 ألف دولار.
هذه ليست المرة الأولى التي يدفع فيها مجلس الرقابة شركة Meta لتحديث قواعدها الخاصة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفي قضية أخرى رفيعة المستوى، حقق المجلس في مقطع فيديو تم تعديله بشكل ضار للرئيس جو بايدن. أدت القضية في النهاية إلى قيام Meta بتجديد سياساتها حول كيفية تصنيف المحتوى الناتج عن الذكاء الاصطناعي.
المصدر: بوابة الوفد
كلمات دلالية: بواسطة الذکاء الاصطناعی مجلس الرقابة تلقائی ا
إقرأ أيضاً:
اتفاق غربي لتوقيع أول معاهدة حول مخاطر الذكاء الاصطناعي
اتفقت بعض دول الغرب ومن ضمنها بريطانيا والولايات المتحدة والاتحاد الأوروبي على التوقيع قريبا على أول معاهدة دولية حول معايير استخدام الذكاء الاصطناعي.
وتتناول المعاهدة المخاطر التي قد يشكلها الذكاء الاصطناعي مع تعزيز الابتكار المسؤول.
ووفقا لمعلومات صحيفة فايننشال تايمز، يجري الحديث عن وثيقة لمجلس أوروبا، والتي “تمت صياغتها على مدى عامين من قبل ممثلي أكثر من 50 دولة، بما في ذلك كندا وإسرائيل واليابان وأستراليا”.
وبموجب الوثيقة الجديدة، تركز معاهدة الذكاء الاصطناعي بشكل أساسي على حماية حقوق المتضررين من أنظمة الذكاء الاصطناعي، وهي منفصلة عن قانون الذكاء الاصطناعي للاتحاد الأوروبي الذي دخل حيز التنفيذ الشهر الماضي.
وأشار وزير العلوم والابتكار والتكنولوجيا البريطاني بيتر كايل، إلى أن “الابتكار يتطور بسرعة كما الذكاء الاصطناعي، ومن المهم أن نتخذ الخطوة الأولى الضرورية في جميع أنحاء العالم.
وقالت وزيرة العدل البريطانية، شابانا محمود، في بيان “هذه المعاهدة تشكل خطوة رئيسية لضمان إمكانية الاستفادة من التقنيات الجديدة دون المساس بقيمنا مثل حقوق الإنسان وسيادة القانون”.
ويتضمن قانون الذكاء الاصطناعي للاتحاد الأوروبي لوائح شاملة بشأن تطوير ونشر واستخدام أنظمة الذكاء الاصطناعي في السوق الداخلي.
وتم إعداد مسودة المعاهدة وهي تشمل القانون الأوروبي حول الذكاء الاصطناعي (2024) واتفاق مجموعة السبع (G7) الذي تم تنسيقه في أكتوبر الماضي.
وجرت القمة الأولى حول الاستخدام الآمن للذكاء الاصطناعي في نوفمبر الماضي في بريطانيا، حيث وقعت 28 دولة بما في ذلك الولايات المتحدة والصين، على إعلان بشأن الاستخدام الآمن للذكاء الاصطناعي.