يحذر خبراء من حدوث أشكال من التمييز في التطبيقات التي تعتمد على الذكاء الاصطناعي

خلال مؤتمر صحافي في برلين الأربعاء (30 أغسطس / آب)، قالت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز في ألمانيا، إن الذكاء الاصطناعي "يسهل الكثير من نواحي الحياة بما في ذلك التمييز والعنصرية" أيضا.

وجاءت تصريحات أتامان، رئيسة الوكالة الاتحادية لمكافحة التمييز، في مستهل تقديم تقريرها بشأن أفضل السبل لحماية الأشخاص من أي شكل من أشكال التمييز التي تساهم فيها "الخوارزميات الخاصة بدعم اتخاذ القرارات" أو ما يطلق عليها في الإنجليزية "algorithmic decision making systems"، وتعرف في العربية اختصارا بـ"مجال الأتمتة".

واستشهد التقرير بأمثلة عديدة يستخدم فيها "مجال الأتمتة"، الذي يعتمد على الذكاء الاصطناعي، مثل إجراءات التقديم للحصول على وظيفة، أو الحصول على قروض من البنوك أو توقيع عقود مع شركات التأمين أو الحصول على دعم من الدولة مثل المساعدات الاجتماعية.

التمييز الرقمي؟

وقالت أتامان "ما يبدو موضوعيا للوهلة الأولى يمكن أن يعيد تلقائيا صدور أحكام مسبقة وتصورات نمطية. ولا ينبغي لنا تحت أي ظرف من الظروف أن نقلل من  مخاطر التمييز الرقمي". 

يشار إلى أن السنوات الماضية قد برهنت على صحة مخاوف أتامان،  إذ إنه في عام 2019، تعرض أكثر من 20 ألف شخص في هولندا لعملية فساد انطوت على استخدام التكنولوجيا التي يفترض كثيرون أنها نزيهة، في قضية عُرفت إعلاميا بـ "فضيحة الاحتيال في إعانات رعاية الأطفال".

وتعود القضية إلى مطالبة آلاف الأسر في هولندا بسداد عشرات الآلاف من الإعانات بعد اتهامهم خطأ بالاحتيال في رعاية الأطفال، وتهديدهم بفرض غرامات كبيرة عليهم، في فضيحة أدت إلى استقالة الحكومة في حينه بعد أن اعترفت بالخطأ، الذي تعرضت له، خصوصا الأسر التي لديها جنسية مزدوجة.

ويرى خبراء أن "الخوارزمية التمييزية في البرنامج كانت مسؤولة جزئيا" عن الخطأ في فضيحة عززت مخاوف  الأقليات العرقية  في هولندا من أنهم يتعرضون للتمييز السلبي من قبل السلطات.

وفي محاولة لمنع حدوث مثل هذه الحالات في ألمانيا، دعت أتامان الشركات إلى العمل بشفافية، بما يشمل تقديم الشركات التي تستخدم الذكاء الاصطناعي معلومات حول البيانات المستخدمة وطريقة معالجتها.

وأشار مؤلفو التقرير، الذي قدمته المسؤولة الألمانية إلى أن الأنظمة القائمة على استخدام  الذكاء الاصطناعي  تعد بمثابة "صندوق أسود"، حيث من الصعب تتبع أسباب تعرض أي فئة لأي تجاوزات.

وقال التقرير إن احتمالات التمييز في "خدمات إدارة بيانات التطبيق" قد تكون "متأصلة بالفعل في النظام نفسه"، فيما قد يكون السبب في ذلك مجموعة بيانات معيبة جرى جمعها لغرض منحرف.

دعت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز، إلى وضع قواعد بشأن استخدام الذكاء الاصطناعي

الرمز البريدي

ولم يتوان التقرير عن تقديم أمثلة على مثل هذه الحالات، قائلا: "لا تعد خاصية الرمز البريدي، على سبيل المثال، تمييزية في حد ذاتها، لكنها قد تنطوي على شكل من أشكال التمييز المحظور بسبب أن الكثير من المهاجرين، ولأسباب تاريخية، يقطنون أحياء معينة".

مختارات "الأب الروحي للذكاء الاصطناعي" يستقيل من غوغل ويحذر من مستقبل مظلم الذكاء الاصطناعي.. تحذيرات من خطرٍ محدق "إذا لم تتم السيطرة"! مخاوف من توظيف الذكاء الاصطناعي لملاحقة المعارضين بالشرق الأوسط

وأضاف التقرير أن هذه الاحتمالية قد تسفر عن عواقب سلبية على الأشخاص، الذين يعيشون في هذه المناطق، إذ يمكن في حالة رغبتهم في الحصول على قروض اعتبار الأمر ينم عن مخاطر مالية مع الاعتقاد السائد بأن المهاجرين قد لا يتمكنون من سداد ديونهم، فيما يُطلق عليه "التمييز الإحصائي السكاني"، الذي يجعل من أي شخص ينتمي إلى عرقية بعينها في دائرة الاشتباه.

الدعوة لإنشاء هيئة تحكيمية

وفي محاولة للحيلولة دون حدوث مثل هذه الحوادث، تأمل أتامان في إنشاء  مكتب للتوفيق والتحكيم داخل الوكالة الاتحادية لمكافحة التمييز، مع الدعوة إلى شمول "القانون العام للمساواة في المعاملة" لإجراءات توفيق إلزامية.

الجدير بالذكر أن القانون العام للمساواة في المعاملة يحظر التمييز سواء في الحصول على الوظائف وفي أماكن العمل وفي الأماكن العامة وحتى في طرق البحث عن مسكن في ألمانيا.

وسلط تقرير الوكالة الاتحادية لمكافحة التمييز الضوء على خطورة الأمر، إذ ذكّر بأنه في الولايات المتحدة الأمريكية أدت الخوارزميات المبرمجة بشكل غير صحيح في البطاقات الائتمانية الخاصة بشركة آبل المعروفة باسم "آبل كارد" إلى التمييز بشكل منهجي ضد المرأة عند منح الائتمان.

ولم يتوقف الأمر على الولايات المتحدة إذ في أستراليا، اضطر مئات الآلاف إلى تسديد استحقاقات الرعاية الاجتماعيةالتي يحق لهم الحصول عليها بسبب خطأ في نظام الأتمتة في عمليات صنع القرار التي تعتمد على الذكاء الاصطناعي.

وفي ضوء هذه المعطيات، خلص التقرير الذي عرضته أتامان إلى القول بأن "الرقمنة تعد المستقبل، لكن يجب ألا تصبح كابوسا. يجب أن يكون لدى الناس الثقة بأنهم لن يتعرضوا للتمييز من قبل الذكاء الاصطناعي وحتى في حالة حدوث ذلك، فإنه بمقدورهم الدفاع عن أنفسهم. لذا فإن هناك حاجة إلى الخروج  بقواعد واضحة ومفهومة".

مارسيل فورستيناو / م. ع

المصدر: DW عربية

كلمات دلالية: الذكاء الاصطناعي الذكاء الاصطناعي الذکاء الاصطناعی فی ألمانیا الحصول على

إقرأ أيضاً:

"دبي للسلع المتعددة" يتعاون مع "آي بي إم" لتعزيز قطاع الذكاء الاصطناعي

أعلن مركز دبي للسلع المتعددة، انضمام شركة "آي بي إم للاستشارات" شريكاً لمركز الذكاء الاصطناعي.

وبموجب الشراكة، ستتعاون شركة "آي بي إم للاستشارات" مع مركز دبي للسلع المتعددة في بحث العديد من مجالات التعاون، بهدف دعم نمو قطاع الذكاء الاصطناعي في إمارة دبي.
ويشمل التعاون تعزيز المحتوى الفكري، وتقديم التوجيهات الإرشادية وتنظيم الندوات التعليمية، وغيرها من المؤتمرات المتخصصة، وفعاليات الابتكار التنافسي "الهاكاثون"، والعديد من المبادرات الأخرى.
ويتيح مركز الذكاء الاصطناعي بالتعاون مع مجموعة من الشركاء، للشركات الوصول إلى تقنيات الذكاء الاصطناعي، وتطوير البرمجيات والتطبيقات المخصصة المعززة بالذكاء الاصطناعي، إلى جانب برامج المسرعات وفرص دخول الأسواق.
ونجح المركز، منذ إطلاقه خلال شهر سبتمبر (أيلول) الماضي، في جذب واستقطاب نحو 60 شركة متخصصة في الذكاء الاصطناعي، ما يجعله أحد أبرز الوجهات للشركات المتخصصة في مجال الذكاء الاصطناعي، والتي تتطلع إلى توسيع نطاق أعمالها دولياً انطلاقاً من إمارة دبي.

نمو اقتصادي

وقال أحمد حمزة، المدير التنفيذي للمنطقة الحرة التابعة لمركز دبي للسلع المتعددة، إن الجهود المبذولة في تطوير التطبيقات العملية للذكاء الاصطناعي تعد أحد الأهداف الأساسية لمركز الذكاء الاصطناعي، حيث يمكن تحقيق مكاسب شاملة وقيمة ملموسة عبر تعزيز الاعتماد على حلول الذكاء الاصطناعي.
وأضاف:"تُشير التقديرات أن الذكاء الاصطناعي سيسهم في تحقيق نمو اقتصادي يصل إلى 15 تريليون دولار بحلول عام 2030، ونحن لدينا قناعة راسخة بأن يكون الذكاء الاصطناعي رافداً رئيسياً لدعم النمو الاقتصادي العالمي، ومن هنا تبرز أهمية شراكاتنا الجديدة مع "آي بي إم للاستشارات"، والتي ستضيف قيمة كبيرة إلى المركز".
وبدوره، قال بيل فاريل، الشريك الإداري لمنطقة الشرق الأوسط وأفريقيا لدى شركة "آي بي إم للاستشارات": "لا يمكننا إغفال الفرص الهائلة التي يوفرها الذكاء الاصطناعي، خصوصاً في دبي، وتُعد المنظومات الرئيسية والحيوية، مثل مركز الذكاء الاصطناعي في مركز دبي للسلع المتعددة، محاور ارتكاز أساسية لدفع عجلة الابتكار في مجال الذكاء الاصطناعي، مما يسمح لنا بالتعاون في مجموعة واسعة من الحلول التقنية الناشئة".

مقالات مشابهة

  • مدى خطورة الذكاء الاصطناعي؟.. وهذه أهم الوظائف التي يهددها|فيديو
  • كيف يؤثر الذكاء الاصطناعي على حياتنا اليومية؟ (فيديو)
  • وزيرة التضامن تشارك في ندوة " المرأة في عصر الذكاء الاصطناعي"
  • كيف يؤثر الذكاء الاصطناعي على حياتنا اليومية (فيديو)
  • الذكاء الاصطناعي يصل إلى مايكروسوفت آوتلوك
  • عباس أبو الحسن يثير الهلع بين جمهوره بشأن الذكاء الاصطناعي
  • شراكة بين مركز الذكاء الاصطناعي التابع لـ «دبي للسلع» و«آي بي إم للاستشارات»
  • انهيار ائتلاف حكومة أولاف شولتس.. ما الذي يحدث في ألمانيا؟
  • وزير السياحة: قوة تعلم آلة الذكاء الاصطناعي عظيمة وهذه التحديات التي تواجهنا
  • "دبي للسلع المتعددة" يتعاون مع "آي بي إم" لتعزيز قطاع الذكاء الاصطناعي