الذكاء الاصطناعي- هل يتسبب بـ"تمييز رقمي" مبرمَج في ألمانيا؟
تاريخ النشر: 1st, September 2023 GMT
يحذر خبراء من حدوث أشكال من التمييز في التطبيقات التي تعتمد على الذكاء الاصطناعي
خلال مؤتمر صحافي في برلين الأربعاء (30 أغسطس / آب)، قالت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز في ألمانيا، إن الذكاء الاصطناعي "يسهل الكثير من نواحي الحياة بما في ذلك التمييز والعنصرية" أيضا.
وجاءت تصريحات أتامان، رئيسة الوكالة الاتحادية لمكافحة التمييز، في مستهل تقديم تقريرها بشأن أفضل السبل لحماية الأشخاص من أي شكل من أشكال التمييز التي تساهم فيها "الخوارزميات الخاصة بدعم اتخاذ القرارات" أو ما يطلق عليها في الإنجليزية "algorithmic decision making systems"، وتعرف في العربية اختصارا بـ"مجال الأتمتة".
واستشهد التقرير بأمثلة عديدة يستخدم فيها "مجال الأتمتة"، الذي يعتمد على الذكاء الاصطناعي، مثل إجراءات التقديم للحصول على وظيفة، أو الحصول على قروض من البنوك أو توقيع عقود مع شركات التأمين أو الحصول على دعم من الدولة مثل المساعدات الاجتماعية.
التمييز الرقمي؟
وقالت أتامان "ما يبدو موضوعيا للوهلة الأولى يمكن أن يعيد تلقائيا صدور أحكام مسبقة وتصورات نمطية. ولا ينبغي لنا تحت أي ظرف من الظروف أن نقلل من مخاطر التمييز الرقمي".
يشار إلى أن السنوات الماضية قد برهنت على صحة مخاوف أتامان، إذ إنه في عام 2019، تعرض أكثر من 20 ألف شخص في هولندا لعملية فساد انطوت على استخدام التكنولوجيا التي يفترض كثيرون أنها نزيهة، في قضية عُرفت إعلاميا بـ "فضيحة الاحتيال في إعانات رعاية الأطفال".
وتعود القضية إلى مطالبة آلاف الأسر في هولندا بسداد عشرات الآلاف من الإعانات بعد اتهامهم خطأ بالاحتيال في رعاية الأطفال، وتهديدهم بفرض غرامات كبيرة عليهم، في فضيحة أدت إلى استقالة الحكومة في حينه بعد أن اعترفت بالخطأ، الذي تعرضت له، خصوصا الأسر التي لديها جنسية مزدوجة.
ويرى خبراء أن "الخوارزمية التمييزية في البرنامج كانت مسؤولة جزئيا" عن الخطأ في فضيحة عززت مخاوف الأقليات العرقية في هولندا من أنهم يتعرضون للتمييز السلبي من قبل السلطات.
وفي محاولة لمنع حدوث مثل هذه الحالات في ألمانيا، دعت أتامان الشركات إلى العمل بشفافية، بما يشمل تقديم الشركات التي تستخدم الذكاء الاصطناعي معلومات حول البيانات المستخدمة وطريقة معالجتها.
وأشار مؤلفو التقرير، الذي قدمته المسؤولة الألمانية إلى أن الأنظمة القائمة على استخدام الذكاء الاصطناعي تعد بمثابة "صندوق أسود"، حيث من الصعب تتبع أسباب تعرض أي فئة لأي تجاوزات.
وقال التقرير إن احتمالات التمييز في "خدمات إدارة بيانات التطبيق" قد تكون "متأصلة بالفعل في النظام نفسه"، فيما قد يكون السبب في ذلك مجموعة بيانات معيبة جرى جمعها لغرض منحرف.
دعت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز، إلى وضع قواعد بشأن استخدام الذكاء الاصطناعي
الرمز البريدي
ولم يتوان التقرير عن تقديم أمثلة على مثل هذه الحالات، قائلا: "لا تعد خاصية الرمز البريدي، على سبيل المثال، تمييزية في حد ذاتها، لكنها قد تنطوي على شكل من أشكال التمييز المحظور بسبب أن الكثير من المهاجرين، ولأسباب تاريخية، يقطنون أحياء معينة".
مختارات "الأب الروحي للذكاء الاصطناعي" يستقيل من غوغل ويحذر من مستقبل مظلم الذكاء الاصطناعي.. تحذيرات من خطرٍ محدق "إذا لم تتم السيطرة"! مخاوف من توظيف الذكاء الاصطناعي لملاحقة المعارضين بالشرق الأوسطوأضاف التقرير أن هذه الاحتمالية قد تسفر عن عواقب سلبية على الأشخاص، الذين يعيشون في هذه المناطق، إذ يمكن في حالة رغبتهم في الحصول على قروض اعتبار الأمر ينم عن مخاطر مالية مع الاعتقاد السائد بأن المهاجرين قد لا يتمكنون من سداد ديونهم، فيما يُطلق عليه "التمييز الإحصائي السكاني"، الذي يجعل من أي شخص ينتمي إلى عرقية بعينها في دائرة الاشتباه.
الدعوة لإنشاء هيئة تحكيمية
وفي محاولة للحيلولة دون حدوث مثل هذه الحوادث، تأمل أتامان في إنشاء مكتب للتوفيق والتحكيم داخل الوكالة الاتحادية لمكافحة التمييز، مع الدعوة إلى شمول "القانون العام للمساواة في المعاملة" لإجراءات توفيق إلزامية.
الجدير بالذكر أن القانون العام للمساواة في المعاملة يحظر التمييز سواء في الحصول على الوظائف وفي أماكن العمل وفي الأماكن العامة وحتى في طرق البحث عن مسكن في ألمانيا.
وسلط تقرير الوكالة الاتحادية لمكافحة التمييز الضوء على خطورة الأمر، إذ ذكّر بأنه في الولايات المتحدة الأمريكية أدت الخوارزميات المبرمجة بشكل غير صحيح في البطاقات الائتمانية الخاصة بشركة آبل المعروفة باسم "آبل كارد" إلى التمييز بشكل منهجي ضد المرأة عند منح الائتمان.
ولم يتوقف الأمر على الولايات المتحدة إذ في أستراليا، اضطر مئات الآلاف إلى تسديد استحقاقات الرعاية الاجتماعيةالتي يحق لهم الحصول عليها بسبب خطأ في نظام الأتمتة في عمليات صنع القرار التي تعتمد على الذكاء الاصطناعي.
وفي ضوء هذه المعطيات، خلص التقرير الذي عرضته أتامان إلى القول بأن "الرقمنة تعد المستقبل، لكن يجب ألا تصبح كابوسا. يجب أن يكون لدى الناس الثقة بأنهم لن يتعرضوا للتمييز من قبل الذكاء الاصطناعي وحتى في حالة حدوث ذلك، فإنه بمقدورهم الدفاع عن أنفسهم. لذا فإن هناك حاجة إلى الخروج بقواعد واضحة ومفهومة".
مارسيل فورستيناو / م. ع
المصدر: DW عربية
كلمات دلالية: الذكاء الاصطناعي الذكاء الاصطناعي الذکاء الاصطناعی فی ألمانیا الحصول على
إقرأ أيضاً:
انطلاق أسبوع الذكاء الاصطناعي في واحة قطر للعلوم والتكنولوجيا
انطلقت في 24 نوفمبر/تشرين الثاني 2024 فعاليات "أسبوع الذكاء الاصطناعي" في واحة قطر للعلوم والتكنولوجيا بمشاركة نخبة من الأكاديميين والمختصين في مجال التكنولوجيا، بالإضافة إلى حضور عدد من السفراء المعتمدين والمسؤولين من مؤسسة قطر.
وتم تنظيم هذا الحدث المهم بهدف استعراض أحدث التطورات في مجال الذكاء الاصطناعي، وكذلك تسليط الضوء على دور قطر في تعزيز الابتكار التكنولوجي بالمنطقة.
وتأتي هذه الفعالية بمناسبة الذكرى الـ15 لتأسيس واحة قطر للعلوم والتكنولوجيا، إذ تم تنظيم مجموعة من المحاضرات وورش العمل الحية التي يقدمها خبراء عالميون في الذكاء الاصطناعي، وهذا يساهم في فتح آفاق جديدة للبحث العلمي وتطوير التقنيات الحديثة في العديد من القطاعات الحيوية.
وركزت الفعاليات على التحديات والفرص التي يتيحها الذكاء الاصطناعي في مختلف المجالات، مثل الاقتصاد والصحة والتعليم، مما يعكس اهتمام قطر بتوظيف هذه التقنية لخدمة التنمية المستدامة في المنطقة.
وتم عرض العديد من التطبيقات العملية التي يمكن أن تسهم في تحسين جودة الحياة وتطوير بيئات العمل.
وخلال كلمته الافتتاحية أكد رئيس واحة قطر للعلوم والتكنولوجيا الدكتور جاك لاو على أن هذا الحدث يُعد منصة مهمة لتعزيز التعاون بين المؤسسات التكنولوجية في قطر والعالم.
ولفت لاو إلى أن الذكاء الاصطناعي يُعد ركيزة أساسية لتحقيق التطور التكنولوجي المنشود في السنوات القادمة.
وتم عرض العديد من الابتكارات التكنولوجية الحديثة خلال الفعاليات، بما في ذلك التطبيقات المبتكرة للذكاء الاصطناعي في مجالات متعددة مثل الرعاية الصحية، حيث تم تقديم حلول جديدة لمشاكل صحية مزمنة باستخدام الذكاء الاصطناعي، وكذلك في القطاع الصناعي لتطوير العمليات الإنتاجية.
وأقيمت أيضا ورش عمل جانبية تضمنت أحدث الابتكارات التقنية ومجالات استخدام الذكاء الاصطناعي وشاركت فيها شركات ومؤسسات قطرية وعالمية عدة، منها وزارة البلدية التي شاركت بهاكاثون الإبداع والابتكار لوزارة البلدية، وأيضا تجارب تكنولوجية من شركة قطر شل، بالإضافة إلى فعاليات عائلية وأنشطة للأطفال.
الحضور في الفعاليات كان متنوعا حيث جمع الحدث العديد من الشركات الناشئة والمبتكرين في مجال التكنولوجيا والذكاء الاصطناعي (الصحافة القطرية)وتسعى دولة قطر من خلال استضافة هذا الحدث العالمي إلى أن تصبح مركزا رائدا في مجال الذكاء الاصطناعي على مستوى المنطقة، حيث أقيمت الفعاليات في واحة قطر للعلوم والتكنولوجيا التي تعد بيئة خصبة للابتكار التكنولوجي.
كما أن هذا الحدث يعزز مكانة قطر كمركز عالمي للأبحاث والتطوير التكنولوجي.
وكان الحضور في الفعاليات متنوعا، إذ جمع الحدث العديد من الشركات الناشئة والمبتكرين في مجال التكنولوجيا والذكاء الاصطناعي من جميع أنحاء العالم.
ويُعد هذا الحدث فرصة لتبادل الخبرات وتطوير التعاون بين الشركات التكنولوجية المحلية والدولية، مما يعزز من قدرة قطر على جذب الاستثمارات في هذا القطاع الحيوي.
وركزت الفعاليات أيضا على أهمية الذكاء الاصطناعي في بناء الاقتصاد الوطني وتعزيز قدرة قطر على التنافس في الأسواق العالمية.
وأكد المشاركون أن استثمار دولة قطر في الذكاء الاصطناعي سيسهم بشكل كبير في تحقيق رؤية قطر 2030 التي تهدف إلى تنويع الاقتصاد القطري وتعزيز الابتكار.
وفي إطار فعاليات الأسبوع تم الإعلان عن العديد من المبادرات الجديدة التي تهدف إلى دعم الأبحاث وتطوير تقنيات الذكاء الاصطناعي في قطر، بما في ذلك برامج تدريبية وورش عمل تركز على تعليم وتوجيه المبتكرين في هذا المجال.
كما تم استعراض مجموعة من المشاريع الناشئة التي تستخدم الذكاء الاصطناعي لتحقيق حلول مبتكرة للتحديات الاجتماعية.
وفي الختام أكد المشاركون أن أسبوع الذكاء الاصطناعي يُعد نقطة انطلاق لتعزيز مكانة قطر كمركز عالمي للابتكار التكنولوجي.
وتُعد الفعاليات جزءا من إستراتيجية طويلة الأمد لدعم البحث والتطوير في مجال الذكاء الاصطناعي، مما يوفر فرصا كبيرة للتعاون الدولي ويُسهم في تعزيز مكانة قطر على الساحة التكنولوجية العالمية.