نموذج فيسبوك للذكاء الاصطناعي يفشل في توليد صور تجمع الآسيويين بغيرهم
تاريخ النشر: 4th, April 2024 GMT
يبدو أن نموذج ميتا لتوليد الصور بالذكاء الاصطناعي يواجه صعوبة في التعامل مع الواقع البسيط المتمثل في العلاقات بين الثقافات المتعددة؛ فعند تجربة النموذج من موقع "ذا فيرج" (The Verge) أظهر مولد الصور بالذكاء الاصطناعي من شركة ميتا عجزا مثيرا للدهشة في تخيل صور أفراد آسيويين إلى جانب نظرائهم من الجنس القوقازي.
رغم تعدد المحاولات باستخدام توجيهات متنوعة مثل "رجل آسيوي وصديق قوقازي"، أو "رجل آسيوي وزوجة بيضاء"، أو "امرأة آسيوية وزوج قوقازي"، فإن الأداة تولد في الغالب صورا تظهر فردين آسيويين فقط.
يمتد هذا الخلل إلى تصوير الأزواج من الأعراق المختلطة والصداقات بين الأجناس المختلفة، إذ إن نموذج الذكاء الاصطناعي يعيد باستمرار صورا لا تعكس المزيج العرقي المحدد له في التوجيهات المكتوبة.
على سبيل المثال، نتج عن توجيه "رجل آسيوي وامرأة بيضاء يبتسمان مع كلب" صور لشخصين آسيويين فقط، حتى بعد تعديل الوصف المكتوب.
ولاحظ الموقع أيضا مشكلات مماثلة مع التوجيهات التي تطلب تصوير علاقات الصداقة بين الأجناس المختلفة، إذ كانت الأداة تتجه مرة أخرى إلى عرض صور لأفراد آسيويين.
اللافت للنظر أنه عندما انتقل الموقع للتركيز على صور أفراد من جنوب آسيا، كانت النتائج أدق قليلا ولكنها لا تزال متفاوتة، فقد تمكنت الأداة من إنتاج صورة لرجل من جنوب آسيا مع امرأة قوقازية في إحدى المرات، لتعود بعدها إلى إنتاج صور لأفراد جنوب آسيويين فقط.
إلى جانب هذه التحيزات الواضحة، تشير نتائج نموذج الذكاء الاصطناعي أيضًا إلى تحيزات أعمق وأكثر منهجية.
على سبيل المثال، فإن تصوير الأداة للنساء الآسيويات يتماشى في الغالب مع الملامح الشرق آسيوية وألوان البشرة الفاتحة، متجاهلةً التنوع الهائل في التركيبة السكانية الآسيوية. بالإضافة إلى ذلك، ثمة نزعة واضحة تتمثل في استخدام ملابس خاصة بثقافة معينة، مثل زينة "البيندي" ولباس "الساري" وهي أزياء تشتهر بها الهند، دون أي تعليمات صريحة للنموذج باستخدام هذا النوع من الملابس.
لا تتعلق تلك التحيزات بالمغالطات العرقية فحسب، بل تعكس أيضا التحيزات النمطية والعمرية، فغالبا ما يصور النموذج صورة المرأة الآسيوية على أنها شابة وشرق آسيوية في المظهر، متجاهلا التنوع العمري والعرقي في مختلف أنحاء القارة الآسيوية.
تثير أوجه القصور والتحيزات في نموذج ميتا لتوليد الصور بالذكاء الاصطناعي عدّة مخاوف مهمة بشأن مدى شمولية أدوات الذكاء الاصطناعي وحساسيتها الثقافية، ويؤكد هذا الوضع على الحاجة إلى أن يكون تطوير الذكاء الاصطناعي أكثر تعبيرا عن التنوع الثقافي العالمي وتجنب استمرار التأثر بالقوالب النمطية والتحيزات التي تسيطر على العالم.
ربما تكون تجربة موقع "ذا فيرج" لنموذج ميتا مثالًا تحذيريًا حول المخاطر المحتملة في تطوير نماذج الذكاء الاصطناعي التوليدي، مما يبرز أهمية مجموعات البيانات المختلفة التي تتدرب عليها تلك النماذج. ومع تقدمنا إلى المستقبل، سيكون التصدي لمثل هذه التحيزات أمرًا ضروريًا لتطوير أنظمة الذكاء الاصطناعي التي تفهم وتمثل حقًا النسيج الثري للتجربة الإنسانية.
المصدر: الجزيرة
كلمات دلالية: رمضان 1445 هـ ترجمات حريات الذکاء الاصطناعی
إقرأ أيضاً:
بيل غيتس يُحذر.. ماذا لو قرر الذكاء الاصطناعي الاستغناء عنّا؟
قد يبدو هذا السؤال خيالياً إلا أنه في الواقع جاء على لسان مؤسس شركة مايكروسوفت، الملياردير الأمريكي بيل غيتس، الذي سبق أن حذّر من أوبئة ومخاطر عالمية قبل سنوات، واليوم، يعود مجددًا ليُثير الجدل، ليس بهدف بثّ الذعر، بل لحثّنا على التفكير الجاد في مستقبل قد يكون أقرب مما نتصور.
لماذا يشعر غيتس بالقلق؟
رغم كونه من أبرز رواد التكنولوجيا، لا يُخفي غيتس مخاوفه من المدى الذي قد تبلغه تقنيات الذكاء الاصطناعي، فقد غيّرت كل اختراعات البشرية مجرى التاريخ، من العجلة إلى الإنترنت، وجلب كل منها تحديات ومشكلات بجانب التقدم. ومع ذلك، لا يمكن إحراز التقدم دون المخاطرة، والتغيير لا يُعدّ سيئًا إذا رافقه وعي ومنطق، وفقا لموقع unionrayo.
الذكاء الاصطناعي يتطوّر بسرعة غير متوقعة
يُشبّه غيتس المرحلة الحالية من الذكاء الاصطناعي ببدايات استخدام السيارات، حين لم تكن هناك إشارات مرور أو قوانين واضحة، فنحن الآن منبهرون بقدرات هذه التقنية، لكن دون وجود ضوابط حاكمة، وأكثر ما يُقلق غيتس وبعض فلاسفة جامعة أكسفورد هو ما يُعرف بـ”انفجار الذكاء” — لحظة قد يتمكن فيها الذكاء الاصطناعي من تحسين نفسه دون تدخل بشري، بشكل يفوق السيطرة، وربما دون الحاجة للبشر أصلاً. ورغم أن هذا قد يبدو خيالاً علمياً، إلا أنه احتمال واقعي يستحق التفكير.
التزييف العميق والتضليل والتأثير على الانتخابات
واحدة من أخطر التحديات الحالية هي ظاهرة “التزييف العميق”؛ حيث يمكن للذكاء الاصطناعي إنتاج مقاطع فيديو وتسجيلات صوتية يصعب تمييزها عن الحقيقة، تخيّل تأثير فيديو مزيف لمرشح سياسي يرتكب جريمة قبل الانتخابات بيومين — حتى لو تم نفيه لاحقًا، الضرر سيكون قد وقع.
الذكاء الاصطناعي كسلاح رقمي
مخاوف غيتس لا تتوقف عند التضليل. فهو يحذر أيضًا من دور الذكاء الاصطناعي في الهجمات السيبرانية، حيث يمكنه رصد ثغرات في الأنظمة الأمنية واستغلالها، من سرقة بيانات إلى شن هجمات بين الدول.
ما الحل في نظر غيتس؟
يقترح غيتس تأسيس هيئة دولية تُشبه الوكالة الدولية للطاقة الذرية، ولكن متخصصة في مراقبة الذكاء الاصطناعي وتنظيمه، بحيث تُطلق التحذيرات حين تظهر مؤشرات خطر.
هل الذكاء الاصطناعي سيأخذ وظائفنا؟
غيتس لا يرى أن الذكاء الاصطناعي سيقضي على فرص العمل بالكامل، لكنه يُقرّ بأن هناك تحوّلاً قادماً في سوق العمل، وظائف ستختفي، وأخرى ستُخلق، والمهم هو كيف سنتعامل مع هذا التغيير ونستخدم الذكاء الاصطناعي كأداة، لا كبديل تام.
كما يشدد على أهمية ضمان العدالة في الوصول إلى هذه التقنيات، حتى لا تزيد الفجوة الاجتماعية القائمة.
الذكاء الاصطناعي ليس معصومًا من الخطأ
يُنبّه غيتس إلى أن الذكاء الاصطناعي قد يُنتج معلومات مغلوطة أو يحمل تحيزات بشرية تعلّمها من بياناته، لذلك، لا يدعو لحظره، بل لتحسينه، وتنويعه، وتثقيف من يستخدمه.
في النهاية، لا يُعلن غيتس نهاية العالم، لكنه في الوقت ذاته لا يتجاهل التحديات. فالذكاء الاصطناعي سيُغيّر كل شيء، لكن ما زال السؤال مفتوحًا: هل سيكون هذا التغيير نعمة أم نقمة؟
البيان
إنضم لقناة النيلين على واتساب
مكافحة المخدرات تقيم معرضًا توعويًّا بأضرار ومخاطر المخدرات والسموم والمؤثرات العقلية بالكلية التقنية