Meta تحتاج إلى قواعد محدثة للتزييف العميق الصريح
تاريخ النشر: 25th, July 2024 GMT
يحث مجلس الرقابة التابع لشركة Meta الشركة على تحديث قواعدها بشأن التزييف العميق الجنسي الصريح. قدم المجلس هذه التوصيات كجزء من قراره في حالتين تتعلقان بصور تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة.
تنبع هذه القضايا من طعنين من المستخدمين بشأن صور تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة، على الرغم من رفض المجلس تسمية الأفراد.
تم الإبلاغ عن المنشور إلى Meta ولكن تم إغلاق التقرير تلقائيًا بعد 48 ساعة، كما حدث مع استئناف المستخدم اللاحق.
وفي نهاية المطاف، قامت الشركة بإزالة المنشور بعد اهتمام مجلس الرقابة، والذي ألغى مع ذلك قرار ميتا الأصلي بترك الصورة.
وأظهر المنشور الثاني، الذي تمت مشاركته على مجموعة فيسبوك مخصصة لفن الذكاء الاصطناعي، "صورة تم إنشاؤها بواسطة الذكاء الاصطناعي لامرأة عارية مع رجل يتلمس صدرها". قام Meta تلقائيًا بإزالة المنشور لأنه تمت إضافته إلى نظام داخلي يمكنه التعرف على الصور التي تم إبلاغ الشركة بها مسبقًا. وجد مجلس الرقابة أن ميتا كان على حق في حذف المنصب.
وفي كلتا الحالتين، قال مجلس الرقابة إن التزييف العميق للذكاء الاصطناعي انتهك قواعد الشركة التي تحظر صور "فوتوشوب ذات طابع جنسي مهين". لكن في توصياته إلى ميتا، قال مجلس الرقابة إن اللغة الحالية المستخدمة في هذه القواعد قديمة وقد تجعل من الصعب على المستخدمين الإبلاغ عن الصور الواضحة التي صنعها الذكاء الاصطناعي.
وبدلاً من ذلك، يقول مجلس الإدارة إنه يجب عليه تحديث سياساته لتوضيح أنه يحظر الصور الفاضحة غير التوافقية التي يتم تصنيعها بواسطة الذكاء الاصطناعي أو يتم التلاعب بها. "يتم إنشاء الكثير من الصور الجنسية غير التوافقية المنتشرة عبر الإنترنت اليوم باستخدام نماذج الذكاء الاصطناعي التوليدية التي تقوم إما بتحرير الصور الموجودة تلقائيًا أو إنشاء صور جديدة تمامًا"، كما كتب المجلس. تقنيات التحرير، بطريقة واضحة لكل من المستخدمين ومشرفي الشركة.
كما انتقد المجلس ممارسة ميتا المتمثلة في إغلاق طعون المستخدمين تلقائيًا، والتي قال إنها قد يكون لها "تأثيرات كبيرة على حقوق الإنسان" على المستخدمين. ومع ذلك، قال المجلس إنه ليس لديه "معلومات كافية" حول هذه الممارسة لتقديم توصية.
أصبح انتشار صور الذكاء الاصطناعي الصريحة قضية بارزة بشكل متزايد حيث أصبحت "الإباحية المزيفة العميقة" شكلاً أكثر انتشارًا من أشكال المضايقات عبر الإنترنت في السنوات الأخيرة. ويأتي قرار مجلس الإدارة بعد يوم واحد من موافقة مجلس الشيوخ الأمريكي بالإجماع على مشروع قانون يتخذ إجراءات صارمة ضد التزييف العميق الصريح. وإذا تم إقرار هذا الإجراء ليصبح قانونًا، فإنه سيسمح للضحايا بمقاضاة منشئي هذه الصور مقابل ما يصل إلى 250 ألف دولار.
هذه ليست المرة الأولى التي يدفع فيها مجلس الرقابة شركة Meta لتحديث قواعدها الخاصة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفي قضية أخرى رفيعة المستوى، حقق المجلس في مقطع فيديو تم تعديله بشكل ضار للرئيس جو بايدن. أدت القضية في النهاية إلى قيام Meta بتجديد سياساتها حول كيفية تصنيف المحتوى الناتج عن الذكاء الاصطناعي.
المصدر: بوابة الوفد
كلمات دلالية: بواسطة الذکاء الاصطناعی مجلس الرقابة تلقائی ا
إقرأ أيضاً:
الذكاء الاصطناعي يتفوق في المجال الطبي
أعلنت شركة مايكروسوفت عن تطوير أداة طبية تعتمد على الذكاء الاصطناعي، تدّعي أنها تتفوق بأربع مرات على الأطباء في تشخيص الأمراض المعقدة، في خطوة قد تسرّع من وتيرة العلاج وتخفف الضغط عن أنظمة الرعاية الصحية.
الأداة المسماة «Microsoft AI Diagnostic Orchestrator» هي أول مبادرة تصدر عن وحدة الذكاء الاصطناعي الصحية التي أُنشئت العام الماضي بقيادة مصطفى سليمان، المؤسس المشارك السابق لـ DeepMind، المختبر البحثي الذي أسسه ويملكه الآن منافس مايكروسوفت، جوجل.
في مقابلة مع صحيفة فايننشال تايمز، وصف المدير التنفيذي لوحدة الذكاء الاصطناعي في مايكروسوفت التجربة بأنها خطوة نحو «ذكاء طبي فائق» قد يساهم في حل أزمات نقص الموظفين وفترات الانتظار الطويلة في المستشفيات.
سلسلة النقاش
تعتمد التقنية على ما يسمى بـ «المنسق» الذي يجمع لجنة افتراضية مكونة من خمسة وكلاء ذكاء اصطناعي يمثلون أدوارًا مختلفة كالافتراضات العلمية واختيار الفحوصات التشخيصية، ويتحاورون ويتناقشون لاختيار أفضل مسار للعمل.
اختبر الباحثون الأداة عبر تزويدها بـ 304 دراسات من مجلة نيو إنجلاند الطبية «NEJM» تناولت حالات طبية معقدة حُلت بواسطة الأطباء. باستخدام تقنية جديدة تسمى «سلسلة النقاش»، قدم الذكاء الاصطناعي تحليلًا مفصلًا خطوة بخطوة لكيفية الوصول إلى التشخيص.
استُخدمت نماذج لغوية كبيرة متقدمة من OpenAI، Meta، Anthropic، Google، xAI وDeepSeek، حيث حسّن المنسق أداء جميع النماذج، وكان أفضلها نموذج OpenAI o3، الذي تمكن من حل 85.5% من الحالات بشكل صحيح، مقابل حوالي 20% فقط لدى الأطباء البشر المشاركين في التجربة، رغم أن الأطباء لم يسمح لهم بالاستعانة بالكتب أو زملائهم، مما كان قد يزيد من دقة تشخيصاتهم.
مستقبل التشخيص الطبي
من المتوقع أن تُدمج هذه التقنية قريبًا في مساعد مايكروسوفت الذكي Copilot ومحرك البحث Bing، اللذين يتلقيان نحو 50 مليون استعلام صحي يوميًا.
وصرح سليمان أن مايكروسوفت تقترب من تطوير نماذج ذكاء اصطناعي ليست أفضل قليلاً فقط، بل أفضل بكثير من الأداء البشري: أسرع، أقل تكلفة، وأكثر دقة بأربع مرات.
يأتي مشروع سليمان الجديد بعد أن قاد DeepMind عدة اختراقات في مجال الرعاية الصحية المرتبطة بالذكاء الاصطناعي، حيث فاز مديرها سير ديميس هسابيس بجائزة نوبل للكيمياء العام الماضي لاستخدام الذكاء الاصطناعي في فك أسرار البروتينات البيولوجية.
فرص جديدة
استثمرت مايكروسوفت نحو 14 مليار دولار في OpenAI، وتمتلك حقوقًا حصرية لاستخدام وبيع تقنيتها، لكنها تواجه خلافات مع الشركة الناشئة التي تسعى للتحول إلى كيان ربحي، ما أدى إلى توترات حول شروط الشراكة المستقبلية.
وأكد سليمان أن مايكروسوفت لا تفضل نموذجًا معينًا من بين النماذج الأربعة "عالية المستوى" التي يستخدمها MAI-DxO، معتبراً أن المنسق هو العنصر الفاصل والمميز.
وأشار دومينيك كينغ، رئيس وحدة الصحة السابق في DeepMind والذي انضم إلى مايكروسوفت مؤخرًا، إلى أن البرنامج "أدى أداءً أفضل من أي شيء رأيناه من قبل"، معتبراً أن هناك فرصة حقيقية لاستخدامه كبوابة جديدة للرعاية الصحية.
علامة فارقة
ولفت كينغ إلى أن النماذج الذكية كانت موجهة أيضًا للتركيز على تقليل التكاليف، ما خفض بشكل كبير عدد الفحوصات اللازمة للوصول للتشخيص الصحيح في التجربة، موفرًا مئات آلاف الدولارات في بعض الحالات.
مع ذلك، أكد كينغ أن التكنولوجيا لا تزال في مراحلها الأولى ولم تُراجع بعد من قبل الأقران، وليست جاهزة بعد للاستخدام في البيئات السريرية.
وصف إريك توبول، طبيب القلب ومؤسس معهد سكرِبز للأبحاث التطبيقية، الدراسة بأنها "علامة فارقة"، مشيرًا إلى أنها أول دراسة تقدم دليلًا على الكفاءة والجدوى المحتملة للذكاء الاصطناعي التوليدي في الطب، من حيث الدقة وتوفير التكاليف، رغم أنها لم تُجرَ في ممارسات طبية حقيقية بعد.
أسامة عثمان (أبوظبي)
مجلس الوزراء يرحب بإشادات خبراء صندوق النقد بمرونة الاقتصاد السعودي في مواجهة التحديات