جوجل تعد بإصلاح إنشاء صور Gemini

يتمتع برنامج Gemini chatbot من Google، والذي كان يُسمى سابقًا Bard، بالقدرة على إعداد الرسوم التوضيحية التي تم إنشاؤها بواسطة الذكاء الاصطناعي بناءً على الوصف النصي للمستخدم.

 يمكنك أن تطلب منه إنشاء صور للأزواج السعداء، على سبيل المثال، أو لأشخاص يرتدون ملابس قديمة ويسيرون في الشوارع الحديثة. وكما لاحظت بي بي سي، فإن بعض المستخدمين ينتقدون جوجل لتصويرها شخصيات محددة من البيض أو مجموعات من الأشخاص البيض تاريخياً كأفراد متنوعين عرقياً.

الآن، أصدرت Google بيانًا، قالت فيه إنها تدرك أن Gemini "تقدم معلومات غير دقيقة في بعض الصور التاريخية لتوليد الصور" وأنها ستقوم بإصلاح الأمور على الفور.

وفقًا لـ Daily Dot، بدأ موظف سابق في Google الشكاوى عندما قام بتغريد صور لنساء ملونات مع تسمية توضيحية تقول: "من الصعب بشكل محرج إقناع Google Gemini بالاعتراف بوجود الأشخاص البيض". للحصول على تلك النتائج، طلب من جيميني أن ينشئ صورًا لنساء أمريكيات وبريطانيات وأستراليات. وشارك مستخدمون آخرون، معظمهم معروفون بكونهم شخصيات يمينية، في نتائجهم الخاصة، حيث أظهروا صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي تصور الآباء المؤسسين لأمريكا وباباوات الكنيسة الكاثوليكية على أنهم أشخاص ملونون.

في اختباراتنا، أدى طلب الجوزاء لإنشاء رسوم توضيحية للآباء المؤسسين إلى ظهور صور لرجال بيض مع شخص واحد ملون أو امرأة. عندما طلبنا من برنامج الدردشة الآلي إنشاء صور للبابا على مر العصور، حصلنا على صور تصور النساء السود والأمريكيين الأصليين كزعيم للكنيسة الكاثوليكية. عندما طلبنا من الجوزاء إنشاء صور لنساء أمريكيات، أعطانا صورًا لامرأة بيضاء وشرق آسيوية وأمريكية أصلية وامرأة من جنوب آسيا. يقول The Verge إن برنامج الدردشة الآلي يصور النازيين أيضًا على أنهم أشخاص ملونون، لكننا لم نتمكن من جعل Gemini ينشئ صورًا نازية. ورد الشات بوت: "أنا غير قادر على تلبية طلبك بسبب الرمزية الضارة والتأثير المرتبط بالحزب النازي".

يمكن أن يكون سلوك الجوزاء نتيجة للتصحيح المفرط، حيث أن روبوتات الدردشة والروبوتات التي تم تدريبها على الذكاء الاصطناعي خلال السنوات الماضية كانت تميل إلى إظهار سلوك عنصري وجنساني. في إحدى التجارب من عام 2022، على سبيل المثال، اختار الروبوت مرارًا وتكرارًا رجلاً أسود عندما سُئل عن أي الوجوه التي قام بمسحها كان مجرمًا. في بيان نُشر على موقع X، قال جاك كراوزيك، قائد منتج Gemini، إن Google صممت "قدرات توليد الصور الخاصة بها لتعكس قاعدة مستخدميها العالمية، و[تأخذ] التمثيل والتحيز على محمل الجد". وقال إن جيميني ستستمر في إنتاج رسوم توضيحية متنوعة عرقيًا لمطالبات مفتوحة، مثل صور الأشخاص الذين يمشون مع كلابهم. ومع ذلك، فقد اعترف بأن "السياقات التاريخية لها فروق دقيقة أكثر وأن [فريقه] سوف يضبطها بشكل أكبر لاستيعاب ذلك."

نحن ندرك أن Gemini يقدم معلومات غير دقيقة في بعض الصور التاريخية التي تم إنشاؤها للصور، ونحن نعمل على إصلاح ذلك على الفور.

المصدر: بوابة الوفد