رئيس جوجل: فشل إنشاء صور Gemini غير مقبول

تناول الرئيس التنفيذي لشركة Google، ساندر بيتشاي، المشكلات الأخيرة التي واجهتها الشركة باستخدام أداة توليد الصور Gemini التي تعمل بالذكاء الاصطناعي بعد أن بدأت في التصحيح الزائد للتنوع في الصور التاريخية. ووصف تطور الأحداث بأنه "غير مقبول"، وقال إن الشركة "تعمل على مدار الساعة" لإصلاح المشكلة، وفقًا لمذكرة موظف داخلية نشرتها سيمافور.

وكتب بيتشاي للموظفين: "لا يوجد ذكاء اصطناعي مثالي، خاصة في هذه المرحلة الناشئة من تطور الصناعة، لكننا نعلم أن المستوى مرتفع بالنسبة لنا وسنواصل ذلك مهما طال الوقت". "وسنقوم بمراجعة ما حدث والتأكد من إصلاحه على نطاق واسع."

لا يزال بيتشاي متفائلًا بشأن مستقبل برنامج Gemini chatbot، الذي كان يُسمى سابقًا Bard، مشيرًا إلى أن الفريق "شهد بالفعل تحسنًا كبيرًا في مجموعة واسعة من المطالبات". سيظل جانب إنشاء الصور في Gemini متوقفًا مؤقتًا حتى يتم حل المشكلة بالكامل.

بدأ هذا عندما بدأ مستخدمو جيميني يلاحظون أن المولد بدأ في إنتاج صور غير دقيقة تاريخيًا، مثل صور النازيين والآباء المؤسسين لأمريكا كأشخاص ملونين. وسرعان ما أصبح هذا أمرًا كبيرًا على وسائل التواصل الاجتماعي، حيث تم طرح كلمة "استيقظ" كثيرًا.
لم يلقي برابهاكار راغافان، نائب الرئيس الأول للمعرفة والمعلومات في جوجل، اللوم على اليقظة، بل على سلسلة من أخطاء الضبط. في الأساس، تم ضبط النموذج بشكل دقيق للسماح بمجموعات متنوعة من الأشخاص في الصور، لكنه "فشل في حساب الحالات التي يجب ألا تظهر نطاقًا بوضوح". أدى ذلك إلى ظهور صور مثيرة للجدل مثل ظهور الأشخاص الملونين على أنهم من الفايكنج والبابا الكاثوليك الأمريكيين الأصليين.

وقال راغافان أيضًا إن النموذج أصبح أكثر حذرًا بمرور الوقت، ويرفض أحيانًا الإجابة على بعض المطالبات بعد تفسيرها بشكل خاطئ على أنها حساسة. وهذا يفسر التقارير التي تفيد بأن النموذج رفض إنشاء صور للأشخاص البيض.

يبدو أن الشركة كانت تحاول إرضاء الجمهور العالمي والتأكد من عدم وقوع العارضة في بعض فخاخ المنتجات المنافسة، مثل إنشاء صور جنسية صريحة أو تصوير لأشخاص حقيقيين. يعد ضبط نماذج الذكاء الاصطناعي هذه عملاً دقيقًا للغاية ويمكن بسهولة أن يؤدي البرنامج إلى ارتكاب أخطاء سخيفة. هذا ما يفعلونه. على أية حال، أفضل بابا كاثوليكيًا غير دقيق تاريخيًا على صور العنف غير المتوقعة في أي يوم من أيام الأسبوع. اعتبر هذا بمثابة تذكير آخر بأن الذكاء الاصطناعي لا يزال أمامه طريق طويل ليقطعه.

أما بالنسبة لـ Gemini، فتوعد الشركة بعودة مولد الصور في المستقبل القريب، لكنها لا تزال تتطلب مجموعة من الإصلاحات والاختبارات للتأكد من عدم حدوث ذلك مرة أخرى، بما في ذلك “التغييرات الهيكلية، وإرشادات المنتج المحدثة، وعمليات الإطلاق المحسنة، والتقييمات القوية”. والفريق الأحمر والتوصيات الفنية.

المصدر: بوابة الوفد