الذكاء الاصطناعي- هل يتسبب بـ"تمييز رقمي" مبرمَج في ألمانيا؟
تاريخ النشر: 1st, September 2023 GMT
يحذر خبراء من حدوث أشكال من التمييز في التطبيقات التي تعتمد على الذكاء الاصطناعي
خلال مؤتمر صحافي في برلين الأربعاء (30 أغسطس / آب)، قالت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز في ألمانيا، إن الذكاء الاصطناعي "يسهل الكثير من نواحي الحياة بما في ذلك التمييز والعنصرية" أيضا.
وجاءت تصريحات أتامان، رئيسة الوكالة الاتحادية لمكافحة التمييز، في مستهل تقديم تقريرها بشأن أفضل السبل لحماية الأشخاص من أي شكل من أشكال التمييز التي تساهم فيها "الخوارزميات الخاصة بدعم اتخاذ القرارات" أو ما يطلق عليها في الإنجليزية "algorithmic decision making systems"، وتعرف في العربية اختصارا بـ"مجال الأتمتة".
واستشهد التقرير بأمثلة عديدة يستخدم فيها "مجال الأتمتة"، الذي يعتمد على الذكاء الاصطناعي، مثل إجراءات التقديم للحصول على وظيفة، أو الحصول على قروض من البنوك أو توقيع عقود مع شركات التأمين أو الحصول على دعم من الدولة مثل المساعدات الاجتماعية.
التمييز الرقمي؟
وقالت أتامان "ما يبدو موضوعيا للوهلة الأولى يمكن أن يعيد تلقائيا صدور أحكام مسبقة وتصورات نمطية. ولا ينبغي لنا تحت أي ظرف من الظروف أن نقلل من مخاطر التمييز الرقمي".
يشار إلى أن السنوات الماضية قد برهنت على صحة مخاوف أتامان، إذ إنه في عام 2019، تعرض أكثر من 20 ألف شخص في هولندا لعملية فساد انطوت على استخدام التكنولوجيا التي يفترض كثيرون أنها نزيهة، في قضية عُرفت إعلاميا بـ "فضيحة الاحتيال في إعانات رعاية الأطفال".
وتعود القضية إلى مطالبة آلاف الأسر في هولندا بسداد عشرات الآلاف من الإعانات بعد اتهامهم خطأ بالاحتيال في رعاية الأطفال، وتهديدهم بفرض غرامات كبيرة عليهم، في فضيحة أدت إلى استقالة الحكومة في حينه بعد أن اعترفت بالخطأ، الذي تعرضت له، خصوصا الأسر التي لديها جنسية مزدوجة.
ويرى خبراء أن "الخوارزمية التمييزية في البرنامج كانت مسؤولة جزئيا" عن الخطأ في فضيحة عززت مخاوف الأقليات العرقية في هولندا من أنهم يتعرضون للتمييز السلبي من قبل السلطات.
وفي محاولة لمنع حدوث مثل هذه الحالات في ألمانيا، دعت أتامان الشركات إلى العمل بشفافية، بما يشمل تقديم الشركات التي تستخدم الذكاء الاصطناعي معلومات حول البيانات المستخدمة وطريقة معالجتها.
وأشار مؤلفو التقرير، الذي قدمته المسؤولة الألمانية إلى أن الأنظمة القائمة على استخدام الذكاء الاصطناعي تعد بمثابة "صندوق أسود"، حيث من الصعب تتبع أسباب تعرض أي فئة لأي تجاوزات.
وقال التقرير إن احتمالات التمييز في "خدمات إدارة بيانات التطبيق" قد تكون "متأصلة بالفعل في النظام نفسه"، فيما قد يكون السبب في ذلك مجموعة بيانات معيبة جرى جمعها لغرض منحرف.
دعت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز، إلى وضع قواعد بشأن استخدام الذكاء الاصطناعي
الرمز البريدي
ولم يتوان التقرير عن تقديم أمثلة على مثل هذه الحالات، قائلا: "لا تعد خاصية الرمز البريدي، على سبيل المثال، تمييزية في حد ذاتها، لكنها قد تنطوي على شكل من أشكال التمييز المحظور بسبب أن الكثير من المهاجرين، ولأسباب تاريخية، يقطنون أحياء معينة".
مختارات "الأب الروحي للذكاء الاصطناعي" يستقيل من غوغل ويحذر من مستقبل مظلم الذكاء الاصطناعي.. تحذيرات من خطرٍ محدق "إذا لم تتم السيطرة"! مخاوف من توظيف الذكاء الاصطناعي لملاحقة المعارضين بالشرق الأوسطوأضاف التقرير أن هذه الاحتمالية قد تسفر عن عواقب سلبية على الأشخاص، الذين يعيشون في هذه المناطق، إذ يمكن في حالة رغبتهم في الحصول على قروض اعتبار الأمر ينم عن مخاطر مالية مع الاعتقاد السائد بأن المهاجرين قد لا يتمكنون من سداد ديونهم، فيما يُطلق عليه "التمييز الإحصائي السكاني"، الذي يجعل من أي شخص ينتمي إلى عرقية بعينها في دائرة الاشتباه.
الدعوة لإنشاء هيئة تحكيمية
وفي محاولة للحيلولة دون حدوث مثل هذه الحوادث، تأمل أتامان في إنشاء مكتب للتوفيق والتحكيم داخل الوكالة الاتحادية لمكافحة التمييز، مع الدعوة إلى شمول "القانون العام للمساواة في المعاملة" لإجراءات توفيق إلزامية.
الجدير بالذكر أن القانون العام للمساواة في المعاملة يحظر التمييز سواء في الحصول على الوظائف وفي أماكن العمل وفي الأماكن العامة وحتى في طرق البحث عن مسكن في ألمانيا.
وسلط تقرير الوكالة الاتحادية لمكافحة التمييز الضوء على خطورة الأمر، إذ ذكّر بأنه في الولايات المتحدة الأمريكية أدت الخوارزميات المبرمجة بشكل غير صحيح في البطاقات الائتمانية الخاصة بشركة آبل المعروفة باسم "آبل كارد" إلى التمييز بشكل منهجي ضد المرأة عند منح الائتمان.
ولم يتوقف الأمر على الولايات المتحدة إذ في أستراليا، اضطر مئات الآلاف إلى تسديد استحقاقات الرعاية الاجتماعيةالتي يحق لهم الحصول عليها بسبب خطأ في نظام الأتمتة في عمليات صنع القرار التي تعتمد على الذكاء الاصطناعي.
وفي ضوء هذه المعطيات، خلص التقرير الذي عرضته أتامان إلى القول بأن "الرقمنة تعد المستقبل، لكن يجب ألا تصبح كابوسا. يجب أن يكون لدى الناس الثقة بأنهم لن يتعرضوا للتمييز من قبل الذكاء الاصطناعي وحتى في حالة حدوث ذلك، فإنه بمقدورهم الدفاع عن أنفسهم. لذا فإن هناك حاجة إلى الخروج بقواعد واضحة ومفهومة".
مارسيل فورستيناو / م. ع
المصدر: DW عربية
كلمات دلالية: الذكاء الاصطناعي الذكاء الاصطناعي الذکاء الاصطناعی فی ألمانیا الحصول على
إقرأ أيضاً:
تحذير أممي من تأثير الذكاء الاصطناعي على 40% من الوظائف
يُتوقع أن يصل حجم سوق الذكاء الاصطناعي العالمي بحلول عام 2033 إلى 4,8 تريليون دولار ليعادل تقريبا حجم اقتصاد ألمانيا، وفق تقرير لوكالة الأمم المتحدة للتجارة والتنمية (أونكتاد) حذر من أن نحو نصف الوظائف ستتأثر بهذه التقنية في سائر أنحاء العالم.
وفي الوقت الذي يُحدث فيه الذكاء الاصطناعي تحولا في الاقتصادات ويستحدث فرصا هائلة، إلا أن هناك مخاطر من أن تعمِّق هذه التكنولوجيا الرائدة أوجه عدم المساواة القائمة، وفق التقرير الصادر الخميس.
وحذر التقرير، بصورة خاصة، من أنّ "الذكاء الاصطناعي قد يؤثر على 40% من الوظائف حول العالم، مما يُحسّن الإنتاجية، ولكنه يُثير أيضا مخاوف بشأن الاعتماد على الآلة والاستعاضة عن الوظائف".
وفي حين أنّ موجات التقدم التكنولوجي السابقة أثرت بشكل رئيسي على الوظائف اليدوية أو التي تتطلب مهارات عملية، قالت وكالة "أونكتاد" إنّ القطاعات التي تعتمد على المعرفة، مثل الأعمال المكتبية والوظائف الإدارية ستكون الأكثر تضررا من الذكاء الاصطناعي.
وهذا يعني، وفق التقرير، أن الضرر الأكبر سيلحق بالاقتصادات المتقدمة، علما أن هذه الاقتصادات في وضع أفضل للاستفادة من فوائد الذكاء الاصطناعي مقارنة بالاقتصادات النامية.
وأضافت الوكالة الأممية "في أكثر الأحيان، يحصد رأس المال الفائدة من الأتمتة المُعتمدة على الذكاء الاصطناعي وليس العمال والأُجراء، وهو ما من شأنه توسيع فجوة التفاوت وتقليل الميزة التنافسية للعمالة منخفضة التكلفة في الاقتصادات النامية".
وشددت ريبيكا غرينسبان، رئيسة الوكالة، في بيان، على أهمية ضمان أن يكون الإنسان محور تطوير الذكاء الاصطناعي، وحثّت على تعزيز التعاون الدولي "لتحويل التركيز من التكنولوجيا إلى الإنسان، وتمكين البلدان من المشاركة في إنشاء إطار عالمي للذكاء الاصطناعي".
وأضافت "أظهر التاريخ أنه على الرغم من أن التقدم التكنولوجي يُحرك النمو الاقتصادي، إلا أنه لا يضمن بمفرده توزيعا عادلا للدخل أو يُعزز التنمية البشرية الشاملة".
4,8 تريليون دولار أميركي
في عام 2023، بلغت قيمة سوق التقنيات الرائدة، مثل الإنترنت وسلسلة الكتل (بلوك تشين) وشبكات الجيل الخامس (5G) والطباعة ثلاثية الأبعاد والذكاء الاصطناعي، 2,5 تريليون دولار، ومن المتوقع أن يزداد هذا الرقم ستة أضعاف في العقد المقبل ليصل إلى 16,4 تريليون دولار، وفقا للتقرير.
وبحلول عام 2033، سيكون الذكاء الاصطناعي التكنولوجيا الرائدة في هذا القطاع، وسينمو ليبلغ 4,8 تريليون دولار، وفقا للتقرير.
لكنّ "أونكتاد" حذّرت من أن البنية التحتية للذكاء الاصطناعي والمهارات والمعرفة المتقدمة في مجال الذكاء الاصطناعي ما زالت محصورة في عدد قليل من الاقتصادات، وتتركز في أيدي 100 شركة فقط. وهذه الشركات تنفق حاليا 40% من مجمل ما تنفقه الشركات في العالم على البحث والتطوير.
ودعت الوكالة الدول إلى أن "تتحرك الآن"، مؤكدة أنه "من خلال الاستثمار في البنية التحتية الرقمية، وبناء القدرات، وتعزيز حوكمة الذكاء الاصطناعي"، يمكنها "تسخير إمكانات الذكاء الاصطناعي لتحقيق التنمية المستدامة".
وأضافت أنه لا ينبغي النظر إلى الذكاء الاصطناعي على أنه "مجرد تهديد للوظائف"، فهذه التكنولوجيا "يمكنها أيضا تحفيز الابتكار عن طريق استحداث قطاعات جديدة وتمكين العمال".
وأكدت أن "الاستثمار في إعادة تأهيل المهارات، وتطويرها، وتكييف القوى العاملة أمرٌ أساسي لضمان تعزيز الذكاء الاصطناعي لفرص العمل بدلا من القضاء عليها".
وشددت الوكالة الأممية على ضرورة مشاركة جميع الدول في المناقشات حول سبل إدارة الذكاء الاصطناعي وحوكمته.
وأضافت أن "الذكاء الاصطناعي يرسم مستقبل العالم الاقتصادي، ومع ذلك، فإن 118 دولة غائبة عن المناقشات الرئيسية حول حوكمة الذكاء الاصطناعي".
وتابعت "مع تبلور اللوائح المنظمة لعمل الذكاء الاصطناعي وأطره الأخلاقية، يجب أن يكون للدول النامية دورٌ فاعلٌ في ضمان أن يكون الذكاء الاصطناعي في خدمة التقدم العالمي، وليس فقط مصالح فئة قليلة".