واتساب منحاز.. أطفال فلسطين مسلحون وأطفال إسرائيل يلعبون
تاريخ النشر: 6th, November 2023 GMT
ذكر تقرير نشرته صحيفة غارديان البريطانية أن خاصية جديدة في تطبيق واتساب المملوك لشركة ميتا تسمح للمستخدمين بإنشاء "ملصقات" لصور أطفال يحملون أسلحة عندما يكتبون كلمة "فلسطين" أو كلمات مماثلة بواسطة الذكاء الاصطناعي.
وبالرغم من أن نتائج البحث اختلفت عند اختبارها من قبل مستخدمين مختلفين، فإن اختبار صحيفة غارديان الذي دعمته بلقطات الشاشة واختباراتها الخاصة، أكدت ظهور ملصقات مختلفة تصور أسلحة عندما كان يتم البحث باستخدام كلمات "فلسطيني" أو "فلسطين" أو "فتى مسلم فلسطيني" باللغة الإنجليزية.
كما أنشأ الذكاء الاصطناعي رسومات لجنود يبتسمون ويصلون دون استخدام أسلحة، وذلك تلبية لمطالبات تقدم بها الجيش الإسرائيلي للشركات بتعديل ذلك في أنظمة تعليم الذكاء الاصطناعي، كما ذكر التقرير. وقال مصدر لم يذكر اسمه للصحيفة إن بعض العاملين في شركة ميتا قاموا بتصعيد المشكلة للإدارة.
وبدأ تطبيق المراسلات منذ شهر مضى باستخدام الذكاء الاصطناعي في إنشاء الملصقات، وتطالب هذه الميزة المستخدمين "بتحويل الأفكار إلى ملصقات باستخدام الذكاء الاصطناعي".
ملصقات التحيز لدى ميتاوأظهرت عمليات غارديان لإنشاء ملصق عن "فلسطين المسلمة" 4 صور لنساء إحداهن امرأة متحجبة وهي واقفة ساكنة وأخرى تقرأ وثالثة تحمل زهرة وأخيرة تحمل لافتة.
لكن عملية صحيفة غارديان عن إنشاء ملصق لـ"فتى مسلم فلسطيني" أدت إلى ظهور 4 صور للأطفال، منها واحدة لصبي يحمل سلاحا ناريا يشبه الكلاشنيكوف ويرتدي الكوفية أو طاقية يرتديها عادة المسلمون.
وفي بحث آخر لصحيفة غارديان عن "فلسطين" جاءت النتيجة ظهور صورة يد تحمل مسدسا. وعندما غيرت الكلمة إلى "إسرائيل" أعادت الميزة إنشاء ملصق للعَلم الإسرائيلي ورجل يرقص. أما عند كتابة كلمة "حماس" فظهرت رسالة "لا يمكن إنشاء ملصقات تعمل بالذكاء الاصطناعي. حاول مرة أخرى".
وذكر التقرير أن أحد المستخدمين شارك لقطات شاشة لعملية إنشاء ملصق بكلمة "فلسطيني" نتجت عنها صورة أخرى مختلفة لرجل يحمل مسدسا.
وأظهرت عمليات إنشاء ملصقات مماثلة باستخدام كلمة "الصبي الإسرائيلي" 4 صور لأطفال، اثنتان منها تصوران صِبية يلعبون كرة القدم، واثنتان كانتا مجرد صور لوجوههم.
كما أظهر طلب "الفتى اليهودي الإسرائيلي" 4 صور لأولاد، اثنتان منها لفتَيان يرتديان قلائد عليها نجمة داود، وواحدة لفتى يرتدي القبعة اليهودية ويقرأ، والرابعة لفتى واقف. ولم يحمل أي منهم أسلحة.
وحتى المطالبات بإنشاء ملصقات عسكرية بكلمات صريحة مثل "الجيش الإسرائيلي" أو "قوات الدفاع الإسرائيلية" لم تنتج عنها صور لبنادق أو أسلحة. وصورت الرسوم الكاريكاتيرية أشخاصا يرتدون الزي الرسمي في أوضاع مختلفة، وكان معظمهم يبتسمون. وأظهر أحد الرسوم التوضيحية رجلاً يرتدي الزي الرسمي وهو يصلي.
ويأتي هذا التقرير من قبل غارديان في الوقت الذي تعرضت فيه ميتا لانتقادات من العديد من مستخدمي إنستغرام وفيسبوك الذين ينشرون محتوى داعما للفلسطينيين.
ويقول المستخدمون إنه، ومع استمرار القصف الإسرائيلي لغزة، فإن شركة ميتا تطبق سياساتها بطريقة متحيزة، وهي ممارسة يقولون إنها ترقى إلى مستوى المراقبة.
وأبلغ مستخدمون آخرون عن تعمّد ميتا إخفاء منشوراتهم الداعمة للفلسطينيين عن المستخدمين الآخرين دون تفسير، ويقولون إنهم شهدوا انخفاضا حادا في التفاعل مع منشوراتهم.
ميتا: أخطاء غير مقصودةوقالت ميتا سابقا في بيان لها "ليست نيتنا أبدا قمع مجتمع معين أو وجهة نظر معينة". ولكن بسبب "الكميات الكبيرة من المحتوى الذي يتم الإبلاغ عنه" فإنه "قد تتم إزالة المحتوى الذي لا ينتهك سياساتنا عن طريق الخطأ".
وقال المتحدث الرسمي باسم ميتا لصحيفة غارديان، كيفن ماكاليستر، إن الشركة كانت على علم بالمشكلة وتعالجها "كما قلنا عندما أطلقنا الميزة، ويمكن أن تعرض النماذج مخرجات غير دقيقة أو غير مناسبة كما هو الحال مع جميع أنظمة الذكاء الاصطناعي التوليدية. سنواصل تحسين هذه الميزات مع تطورها وسيشارك المزيد من الأشخاص بتعليقاتهم".
مطالبات بالتحقيقوردا على تقرير صحيفة غارديان عن الملصقات التي أنشأها الذكاء الاصطناعي في ميتا، دعت عضوة مجلس الشيوخ الأسترالي مهرين فاروقي نائبة زعيم حزب الخضر ومفوض السلامة الإلكترونية في البلاد، إلى التحقيق في "الصور العنصرية والمعادية للإسلام التي تنتجها شركة ميتا".
وقالت مهرين في بيان "إن صور الذكاء الاصطناعي للأطفال الفلسطينيين الذين يظهرون وهم يحملون أسلحة على واتساب هي نظرة مرعبة على المعايير العنصرية والمعادية للإسلام التي يتم إدخالها في الخوارزمية".
وأضافت "كم عدد الأخطاء العنصرية التي يجب كشفها قبل اتخاذ إجراء جدي؟ لقد تم بالفعل إحداث الضرر. يجب محاسبة ميتا".
يذكر أن ميتا واجهت ضغوطا متكررة من المبدعين والناشطين والصحفيين الفلسطينيين، خاصة في أوقات تصاعد النزاع أو العدوان تجاه الفلسطينيين الذين يعيشون في غزة والضفة الغربية.
ووجدت دراسة أجريت بتكليف من الشركة في سبتمبر/أيلول 2022 أن سياسات المحتوى الخاصة بفيسبوك وإنستغرام خلال الهجمات الإسرائيلية على قطاع غزة في مايو/أيار 2021 انتهكت حقوق الإنسان الفلسطيني.
وقال التقرير إن تصرفات ميتا ربما كان لها "تأثير سلبي… على حقوق المستخدمين الفلسطينيين في حرية التعبير وحرية التجمع والمشاركة السياسية وعدم التمييز، وبالتالي على قدرة الفلسطينيين على تبادل المعلومات والرؤى عن حياتهم"، بحسب تقرير غارديان.
المصدر: الجزيرة
كلمات دلالية: الذکاء الاصطناعی إنشاء ملصقات شرکة میتا
إقرأ أيضاً:
الدماغ البشري يتفوّق على الذكاء الاصطناعي في حالات عدّة
لا شك أن أنظمة الذكاء الاصطناعي قد حققت إنجازات مذهلة، بدءًا من إتقان الألعاب وكتابة النصوص وصولًا إلى توليد الصور ومقاطع الفيديو المقنعة.
وقد دفع ذلك البعض إلى الحديث عن إمكانية أن نكون على أعتاب الذكاء الاصطناعي العام (AGI)، وهو نظام ذكاء اصطناعي يمتلك قدرات معرفية شاملة تشبه قدرات الإنسان.
في حين أن بعض هذا الحديث ما هو إلا ضجة إعلامية، إلا أن عددًا كافيًا من الخبراء في هذا المجال يأخذون الفكرة على محمل الجد، مما يستدعي إلقاء نظرة فاحصة عليها.
تحديات تعريف الذكاء الاصطناعي العامتدور العديد من النقاشات حول مسألة كيفية تعريف الذكاء الاصطناعي العام، وهو أمر يبدو أن الخبراء في هذا المجال لا يتفقون عليه.
ويساهم هذا في ظهور تقديرات متباينة حول موعد ظهوره، تتراوح بين "إنه موجود عمليًا" إلى "لن نتمكن أبدًا من تحقيقه". وبالنظر إلى هذا التباين، يستحيل تقديم أي نوع من المنظور المستنير حول مدى قربنا من تحقيقه.
لكن لدينا مثال موجود على الذكاء العام بدون "الاصطناعي" - وهو الذكاء الذي يوفره دماغ الحيوان، وخاصة الدماغ البشري.
ومن الواضح أن الأنظمة التي يتم الترويج لها كدليل على أن الذكاء الاصطناعي العام قاب قوسين أو أدنى لا تعمل على الإطلاق مثل الدماغ. قد لا يكون هذا عيبًا قاتلًا، أو حتى عيبًا على الإطلاق. من الممكن تمامًا أن يكون هناك أكثر من طريقة للوصول إلى الذكاء، اعتمادًا على كيفية تعريفه.
لكن من المحتمل أن تكون بعض الاختلافات على الأقل مهمة من الناحية الوظيفية، وحقيقة أن الذكاء الاصطناعي يسلك مسارًا مختلفًا تمامًا عن المثال العملي الوحيد الذي لدينا من المرجح أن يكون ذا مغزى.
مع وضع كل ذلك في الاعتبار، دعونا نلقي نظرة على بعض الأشياء التي يقوم بها الدماغ والتي لا تستطيع أنظمة الذكاء الاصطناعي الحالية القيام بها.
أشارت أرييل جولدشتاين، الباحثة في الجامعة العبرية في القدس، إلى أن أنظمة الذكاء الاصطناعي الحالية "مجزأة" في قدراتها. فقد تكون جيدة بشكل مدهش في شيء ما، ثم سيئة بشكل مدهش في شيء آخر يبدو مرتبطًا به.
وأكدت عالمة الأعصاب كريستا بيكر من جامعة ولاية كارولينا الشمالية على هذه النقطة، مشيرة إلى أن البشر قادرون على تطبيق المنطق في مواقف جديدة دون الحاجة إلى إعادة تعلم كل شيء من الصفر.
ذكر ماريانو شاين، مهندس جوجل الذي تعاون مع جولدشتاين، أن أنظمة الذكاء الاصطناعي تفتقر إلى الذاكرة طويلة المدى والمخصصة للمهام، وهي القدرة على نشر المهارات المكتسبة في مهمة ما في سياقات مختلفة.
أشارت بيكر إلى وجود تحيز نحو تفضيل السلوكيات الشبيهة بالسلوك البشري، مثل الردود التي تبدو بشرية والتي تولدها نماذج اللغات الكبيرة.
في المقابل، يمكن لذبابة الفاكهة، بدماغها الذي يحتوي على أقل من 150 ألف خلية عصبية، دمج أنواع متعددة من المعلومات الحسية، والتحكم في أربعة أزواج من الأطراف، والتنقل في بيئات معقدة، وتلبية احتياجاتها من الطاقة، وإنتاج أجيال جديدة من الأدمغة، وأكثر من ذلك.
الاختلافات الرئيسية بين الدماغ البشري والذكاء الاصطناعيتستند معظم أنظمة الذكاء الاصطناعي الحالية، بما في ذلك جميع نماذج اللغات الكبيرة، على ما يسمى بالشبكات العصبية.
تم تصميم هذه الشبكات لتقليد كيفية عمل بعض مناطق الدماغ، مع وجود أعداد كبيرة من الخلايا العصبية الاصطناعية التي تأخذ مدخلات وتعدلها ثم تمرير المعلومات المعدلة إلى طبقة أخرى من الخلايا العصبية الاصطناعية. لكن هذا التقليد محدود للغاية.
فالخلايا العصبية الحقيقية متخصصة للغاية، وتستخدم مجموعة متنوعة من الناقلات العصبية وتتأثر بعوامل خارج الخلايا العصبية مثل الهرمونات. كما أنها تتواصل من خلال سلسلة من النبضات المتغيرة في التوقيت والشدة، مما يسمح بدرجة من الضوضاء غير الحتمية في الاتصالات.
تهدف الشبكات العصبية التي تم إنشاؤها حتى الآن هي إلى حد كبير أنظمة متخصصة تهدف إلى التعامل مع مهمة واحدة.
في المقابل، يحتوي الدماغ النموذجي على الكثير من الوحدات الوظيفية التي يمكنها العمل بالتوازي، وفي بعض الحالات دون أي نشاط تحكمي يحدث في مكان آخر في الدماغ.
تمتلك أنظمة الذكاء الاصطناعي الحالية عمومًا حالتين: التدريب والنشر. التدريب هو المكان الذي يتعلم فيه الذكاء الاصطناعي سلوكه؛ النشر هو المكان الذي يتم فيه استخدام هذا السلوك.
في المقابل، لا يحتوي الدماغ على حالات تعلم ونشاط منفصلة؛ إنه في كلا الوضعين باستمرار، بينما في كثير من الحالات، يتعلم الدماغ أثناء العمل.
بالنسبة للعديد من أنظمة الذكاء الاصطناعي، لا يمكن تمييز "الذاكرة" عن الموارد الحسابية التي تسمح لها بأداء مهمة والاتصالات التي تم تشكيلها أثناء التدريب. في المقابل، تمتلك الأنظمة البيولوجية عمرًا من الذكريات للاعتماد عليها.
القيود والتحدياتمن الصعب التفكير في الذكاء الاصطناعي دون إدراك الطاقة الهائلة والموارد الحسابية المستخدمة في تدريبه. لقد تطورت الأدمغة في ظل قيود هائلة على الطاقة وتستمر في العمل باستخدام طاقة أقل بكثير مما يمكن أن يوفره النظام الغذائي اليومي.
وقد أجبر هذا علم الأحياء على إيجاد طرق لتحسين موارده والاستفادة القصوى من تلك التي يخصصها لمهمة ما.
في المقابل، فإن قصة التطورات الحديثة في الذكاء الاصطناعي هي إلى حد كبير قصة رمي المزيد من الموارد عليها.
ويبدو أن خطط المستقبل (حتى الآن على الأقل) تشمل المزيد من هذا، بما في ذلك مجموعات بيانات تدريب أكبر وعدد أكبر من الخلايا العصبية الاصطناعية والوصلات بينها.
كل هذا يأتي في وقت تستخدم فيه أفضل أنظمة الذكاء الاصطناعي الحالية بالفعل ثلاثة أضعاف الخلايا العصبية التي نجدها في دماغ ذبابة الفاكهة وليس لديها أي مكان قريب من القدرات العامة للذبابة.
حالة الطقس ودرجات الحرارة المتوقعة اليوم الخميس 6 مارس 2025