ميتا تكثف تصنيف صور الذكاء الاصطناعي عبر منصاتها

تخطط Meta لتكثيف تصنيفها للصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي عبر Facebook وInstagram وThreads للمساعدة في توضيح أن العناصر المرئية مصطنعة. إنه جزء من حملة أوسع نطاقًا للقضاء على المعلومات الخاطئة والمضللة، وهو أمر مهم بشكل خاص ونحن نتجادل مع تداعيات الذكاء الاصطناعي التوليدي (GAI) في عام انتخابي كبير في الولايات المتحدة ودول أخرى.

وفقًا لرئيس الشؤون العالمية في Meta، Nick Clegg، تعمل الشركة مع شركاء من جميع أنحاء الصناعة لتطوير معايير تتضمن الدلالات التي تم إنشاء صورة أو مقطع فيديو أو مقطع صوتي باستخدام الذكاء الاصطناعي. وكتب كليج في منشور Meta Newsroom: "إن القدرة على اكتشاف هذه الإشارات ستمكننا من تصنيف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي ينشرها المستخدمون على Facebook وInstagram وThreads". "نحن نعمل على بناء هذه الإمكانية الآن، وفي الأشهر المقبلة سنبدأ في تطبيق التصنيفات بجميع اللغات التي يدعمها كل تطبيق." وأضاف كليج أنه مع توسيع هذه القدرات خلال العام المقبل، تتوقع ميتا معرفة المزيد حول "كيفية إنشاء الأشخاص لمحتوى الذكاء الاصطناعي ومشاركته، ونوع الشفافية التي يجدها الأشخاص الأكثر قيمة وكيف تتطور هذه التقنيات". وكتب أن ذلك سيساعد في إعلام أفضل ممارسات الصناعة وسياسات Meta الخاصة.

تقول Meta إن الأدوات التي تعمل عليها ستكون قادرة على اكتشاف الإشارات غير المرئية - وهي المعلومات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي تتوافق مع المعايير الفنية C2PA و IPTC - على نطاق واسع. على هذا النحو، تتوقع أن تكون قادرة على تحديد الصور وتصنيفها من Google، وOpenAI، وMicrosoft، وAdobe، وMidjourney، وShutterstock، وجميعها تدمج بيانات تعريف GAI في الصور التي تنتجها منتجاتها.

أما بالنسبة لفيديو وصوت GAI، يشير كليج إلى أن الشركات في هذا المجال لم تبدأ بعد في دمج الإشارات غير المرئية في تلك الموجودة على نفس نطاق الصور. على هذا النحو، فإن Meta غير قادر حتى الآن على اكتشاف الفيديو والصوت الذي يتم إنشاؤه بواسطة أدوات الذكاء الاصطناعي التابعة لجهات خارجية. في غضون ذلك، تتوقع Meta من المستخدمين تصنيف هذا المحتوى بأنفسهم.

وكتب كليج: "بينما تعمل الصناعة على تحقيق هذه الإمكانية، فإننا نضيف ميزة للأشخاص للكشف عنها عندما يشاركون الفيديو أو الصوت الناتج عن الذكاء الاصطناعي حتى نتمكن من إضافة تصنيف إليه". "سنطلب من الأشخاص استخدام أداة الكشف والتسمية هذه عندما ينشرون محتوى عضويًا يحتوي على فيديو واقعي أو صوت يبدو واقعيًا تم إنشاؤه أو تعديله رقميًا، وقد نطبق عقوبات إذا فشلوا في القيام بذلك. إذا قررنا ذلك يخلق محتوى الصور أو الفيديو أو الصوت الذي تم إنشاؤه أو تعديله رقميًا خطرًا كبيرًا بشكل خاص لخداع الجمهور ماديًا بشأن مسألة ذات أهمية، وقد نضيف علامة أكثر وضوحًا إذا كان ذلك مناسبًا، حتى يكون لدى الأشخاص مزيد من المعلومات والسياق."

ومع ذلك، فإن إلقاء المسؤولية على المستخدمين لإضافة إفصاحات وتسميات إلى مقاطع الفيديو والصوت التي يتم إنشاؤها بواسطة الذكاء الاصطناعي يبدو أمرًا غير موفق. سيحاول العديد من هؤلاء الأشخاص خداع الآخرين عمدًا. علاوة على ذلك، من المحتمل أن الآخرين لن يزعجوا أنفسهم أو لن يكونوا على دراية بسياسات GAI.

بالإضافة إلى ذلك، تسعى Meta إلى جعل من الصعب على الأشخاص تغيير أو إزالة العلامات غير المرئية من محتوى GAI. كتب كليج: قام مختبر أبحاث FAIR AI التابع للشركة بتطوير تقنية "تدمج آلية وضع العلامات المائية مباشرة في عملية إنشاء الصور لبعض أنواع مولدات الصور، والتي يمكن أن تكون ذات قيمة للنماذج مفتوحة المصدر بحيث لا يمكن تعطيل العلامة المائية". تعمل Meta أيضًا على إيجاد طرق للكشف تلقائيًا عن المواد التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي لا تحتوي على علامات غير مرئية.

تخطط Meta لمواصلة التعاون مع شركاء الصناعة و"البقاء في حوار مع الحكومات والمجتمع المدني" مع تزايد انتشار GAI. وتعتقد أن هذا هو النهج الصحيح للتعامل مع المحتوى الذي تتم مشاركته على فيسبوك وInstagram وThreads في الوقت الحالي، على الرغم من أنها ستقوم بتعديل الأمور إذا لزم الأمر.

إحدى المشكلات الرئيسية في نهج Meta - على الأقل أثناء عمله على طرق الكشف تلقائيًا عن محتوى GAI الذي لا يستخدم العلامات غير المرئية المتوافقة مع معايير الصناعة - هي أنه يتطلب موافقة الشركاء. على سبيل المثال، لدى C2PA طريقة مصادقة على شكل دفتر الأستاذ. لكي ينجح ذلك، تحتاج كل من الأدوات المستخدمة لإنشاء الصور والأنظمة الأساسية التي تتم استضافتها عليها إلى شراء C2PA.

شاركت Meta التحديث الخاص بنهجها في تصنيف المحتوى الناتج عن الذكاء الاصطناعي بعد أيام قليلة من إلقاء الرئيس التنفيذي مارك زوكربيرج مزيدًا من الضوء على خطط شركته لبناء ذكاء اصطناعي عام. وأشار إلى أن بيانات التدريب هي إحدى المزايا الرئيسية التي تتمتع بها Meta. وتقدر الشركة أن الصور وتمثل مقاطع الفيديو التي تتم مشاركتها على Facebook وInstagram مجموعة بيانات أكبر من الزحف المشترك. هذه مجموعة بيانات تضم حوالي 250 مليار صفحة ويب تم استخدامها لتدريب نماذج الذكاء الاصطناعي الأخرى. سيكون Meta قادرًا على الاستفادة من كليهما، ولا يتعين عليه مشاركة البيانات التي قام بجمعها عبر Facebook وInstagram مع أي شخص آخر.

ويأتي التعهد بتصنيف المحتوى الناتج عن الذكاء الاصطناعي على نطاق أوسع أيضًا بعد يوم واحد فقط من قرار مجلس الرقابة في شركة Meta بأن مقطع الفيديو الذي تم تحريره بشكل مضلل للإشارة إلى أن الرئيس جو بايدن لمس صدر حفيدته بشكل متكرر يمكن أن يبقى على منصات الشركة. في الواقع، قامت بايدن ببساطة بوضع ملصق "لقد قمت بالتصويت" على قميصها بعد أن قامت بالتصويت شخصياً للمرة الأولى. قرر مجلس الإدارة أن الفيديو مسموح به بموجب قواعد Meta بشأن الوسائط التي تم التلاعب بها، لكنه حث الشركة على تحديث إرشادات المجتمع تلك.

المصدر: بوابة الوفد