لقد تطورت قدرات أدوات توليد الصور بالذكاء الاصطناعي إلى مرحلة يمكن فيها للأفراد الخلط بينها وبين الصور غير المولدة بالذكاء الاصطناعي أو الصور الحقيقية، وهو ما يثير مخاوف بشأن إساءة استخدامها المحتملة على سبيل المثال استخدامها لابتزاز الفتيات أو التحرش بهم .

وقد قامت شركة OpenAI بالفعل بتضمين علامات مائية للصور التي ينشئها برنامج DALL-E 3 للحفاظ على الشفافية حول المصدر واحترام الأصالة.

وتقوم الشركة الآن بتطوير أداة جديدة قادرة على التمييز بين الصور الحقيقية وتلك التي تم إنشاؤها بواسطة نموذج توليد النص إلى صورة الخاص بالشركة DALL-E.

 

ستتضمن أدوات الذكاء الاصطناعي التوليدية من OpenAI بيانات تعريف C2PA

 

أعلن المدونة الرسمية لشركة OpenAI أنهم يعملون على طرق جديدة للكشف عن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفقًا للشركة، فإن الهدف هو مساعدة الباحثين على دراسة أصالة المحتوى والانضمام إلى اللجنة التوجيهية لتحالف مصدر ومصداقية المحتوى (C2PA)، وهي معيار واسع الاستخدام لإصدار شهادات للمحتوى الرقمي. سيسمح ذلك للمبدعين بوضع علامات وإصدار شهادات على محتواهم للتحقق من أصوله الحقيقية.

تقول OpenAI إنهم سيقومون أيضًا بدمج بيانات تعريف C2PA لبرنامج Sora، وهو نموذج الشركة لإنشاء الفيديوهات، عند إطلاقه على نطاق واسع. بالنسبة لأولئك الذين لا يعرفون، من المحتمل أيضًا أن يكون Sora أداة مميزة لتحويل النص إلى فيديو، مثل DALL-E 3، حيث يتوفر فقط للمشتركين المدفوعين. وفقًا لتقرير سابق، سيكون Sora متاحًا للجمهور في عام 2024.

 

OpenAI تبني أداة جديدة للكشف عن المحتوى الذي ينشئه DALL-E 3

 

كما ذكر أعلاه، تعمل OpenAI أيضًا على أداة جديدة تستخدم الذكاء الاصطناعي للكشف عن الصور التي تم إنشاؤها بواسطة DALL-E 3. وبشكل أكثر تحديدًا، تتنبأ هذه الأداة باحتمالية إنشاء صورة بواسطة الأداة. وفقًا للشركة، لا يزال من الممكن اكتشاف الصورة حتى بعد ضغطها، أو تعديل تشبعها، أو حتى اقتصاصها. ناهيك عن أن هذه الأدوات تهدف إلى أن تكون أكثر مقاومة لمحاولات إزالة إشارات حول أصل المحتوى.

حققت أداة الكشف معدل دقة يبلغ 98٪ للصور التي تم إنشاؤها باستخدام DALL-E، والأهم من ذلك أنها لا تضع علامة على الصور غير المولدة بالذكاء الاصطناعي على أنها من صنع الذكاء الاصطناعي.

لقد فتحت الشركة بالفعل باب التقدمات للوصول إلى أداة الكشف عن الصور الجديدة لأول مجموعة من المختبرين لديها. ويشمل ذلك مختبرات الأبحاث ومنظمات الصحافة الاستقصائية البحثية التي تهدف إلى جمع الملاحظات من خلال برنامج وصول الباحثين.
 

المصدر: صدى البلد

كلمات دلالية: الذكاء الاصطناعي التحرش أدوات الذكاء الاصطناعي بالذکاء الاصطناعی الذکاء الاصطناعی

إقرأ أيضاً:

تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية

كشفت دراسة جديدة عن مشكلة جوهرية في أدوات البحث بالذكاء الاصطناعي، حيث تبين أنها تقدم إجابات خاطئة بمعدل مرتفع يصل إلى 60% من الاستفسارات، مما يثير مخاوف حول مدى دقتها وموثوقيتها (Marcin).

أجرت Columbia Journalism Review (CJR) الدراسة، حيث قدمت لثمانية أدوات ذكاء اصطناعي مقطعًا من مقال، وطلبت منها تحديد عنوان المقال الأصلي، الناشر، تاريخ النشر، ورابط المصدر. ووجدت الدراسة أن معظم الأدوات قدمت إجابات غير صحيحة بنسبة كبيرة، بما في ذلك اختلاق روابط أو مصادر، أو تقديم إجابات غير دقيقة، وأحيانًا الإشارة إلى نسخ مسروقة من المقالات الأصلية (Marcin).


وذكرت CJR في تقريرها: "معظم الأدوات التي اختبرناها قدمت إجابات غير دقيقة بثقة مقلقة، نادرًا ما استخدمت عبارات مثل "يبدو أن" أو "من المحتمل"، كما لم تعترف بفجوات معرفتها بعبارات مثل "لم أتمكن من العثور على المقال الدقيق'" (Marcin).

 

 

هذه النتائج تعزز الشكوك حول قدرة أدوات البحث المدعومة بالذكاء الاصطناعي على تقديم معلومات دقيقة، خاصة مع تزايد استخدامها. وفقًا للتقرير، ربع الأميركيين يستخدمون الذكاء الاصطناعي للبحث بدلاً من محركات البحث التقليدية.

 

أخبار ذات صلة وداعاً لمساعد جوجل.. "جيميني" يستعد للحلول مكانه هذا العام "التجارة الأميركية" تحظر "ديب سيك" على الأجهزة الحكومية


يأتي ذلك في وقت تدفع فيه Google بقوة نحو تعزيز الاعتماد على الذكاء الاصطناعي في البحث، حيث أعلنت هذا الشهر عن توسيع نطاق ميزات الذكاء الاصطناعي في البحث، وبدأت اختبار نتائج بحث تعتمد بالكامل على الذكاء الاصطناعي.


 

 

تشير الدراسة إلى أن هذه ليست المرة الأولى التي تُظهر فيها أدوات الذكاء الاصطناعي ثقة زائدة رغم تقديمها معلومات خاطئة، ما يثير تساؤلات حول مستقبل هذه التقنيات ومدى تأثيرها على دقة المعلومات التي يحصل عليها المستخدمون.


إسلام العبادي(أبوظبي)

مقالات مشابهة

  • مدعوم بالذكاء الاصطناعي.. جي 42 وإنفيديا تكشفان عن نظام رائد للتنبؤ بالطقس
  • "الغروب القمري".. نشر صور مذهلة للشمس والأرض والزهرة
  • صحيفة إيطالية تُعلن نشر أول طبعة مولدة بالذكاء الاصطناعي في العالم
  • صحيفة إيطالية تطلق تجربة بالذكاء الاصطناعي
  • مايكروسوفت تعمل على جلب ميزة تلخيص النص بالذكاء الاصطناعي إلى تطبيق المفكرة
  • تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية
  • سحر Gemini.. الذكاء الاصطناعي لجوجل يزيل العلامات المائية من الصور
  • إطلاق المشروع الوطني لفحص اعتلال شبكية العين بالذكاء الاصطناعي
  • الذكاء الاصطناعي الصيني يهدد بيانات المستخدمين لشركة أمريكية
  • الصين تضع لوائح تنظم المحتوى المُنشَأ بالذكاء الاصطناعي