الذكاء الاصطناعي- هل يتسبب بـ"تمييز رقمي" مبرمَج في ألمانيا؟
تاريخ النشر: 1st, September 2023 GMT
يحذر خبراء من حدوث أشكال من التمييز في التطبيقات التي تعتمد على الذكاء الاصطناعي
خلال مؤتمر صحافي في برلين الأربعاء (30 أغسطس / آب)، قالت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز في ألمانيا، إن الذكاء الاصطناعي "يسهل الكثير من نواحي الحياة بما في ذلك التمييز والعنصرية" أيضا.
وجاءت تصريحات أتامان، رئيسة الوكالة الاتحادية لمكافحة التمييز، في مستهل تقديم تقريرها بشأن أفضل السبل لحماية الأشخاص من أي شكل من أشكال التمييز التي تساهم فيها "الخوارزميات الخاصة بدعم اتخاذ القرارات" أو ما يطلق عليها في الإنجليزية "algorithmic decision making systems"، وتعرف في العربية اختصارا بـ"مجال الأتمتة".
واستشهد التقرير بأمثلة عديدة يستخدم فيها "مجال الأتمتة"، الذي يعتمد على الذكاء الاصطناعي، مثل إجراءات التقديم للحصول على وظيفة، أو الحصول على قروض من البنوك أو توقيع عقود مع شركات التأمين أو الحصول على دعم من الدولة مثل المساعدات الاجتماعية.
التمييز الرقمي؟
وقالت أتامان "ما يبدو موضوعيا للوهلة الأولى يمكن أن يعيد تلقائيا صدور أحكام مسبقة وتصورات نمطية. ولا ينبغي لنا تحت أي ظرف من الظروف أن نقلل من مخاطر التمييز الرقمي".
يشار إلى أن السنوات الماضية قد برهنت على صحة مخاوف أتامان، إذ إنه في عام 2019، تعرض أكثر من 20 ألف شخص في هولندا لعملية فساد انطوت على استخدام التكنولوجيا التي يفترض كثيرون أنها نزيهة، في قضية عُرفت إعلاميا بـ "فضيحة الاحتيال في إعانات رعاية الأطفال".
وتعود القضية إلى مطالبة آلاف الأسر في هولندا بسداد عشرات الآلاف من الإعانات بعد اتهامهم خطأ بالاحتيال في رعاية الأطفال، وتهديدهم بفرض غرامات كبيرة عليهم، في فضيحة أدت إلى استقالة الحكومة في حينه بعد أن اعترفت بالخطأ، الذي تعرضت له، خصوصا الأسر التي لديها جنسية مزدوجة.
ويرى خبراء أن "الخوارزمية التمييزية في البرنامج كانت مسؤولة جزئيا" عن الخطأ في فضيحة عززت مخاوف الأقليات العرقية في هولندا من أنهم يتعرضون للتمييز السلبي من قبل السلطات.
وفي محاولة لمنع حدوث مثل هذه الحالات في ألمانيا، دعت أتامان الشركات إلى العمل بشفافية، بما يشمل تقديم الشركات التي تستخدم الذكاء الاصطناعي معلومات حول البيانات المستخدمة وطريقة معالجتها.
وأشار مؤلفو التقرير، الذي قدمته المسؤولة الألمانية إلى أن الأنظمة القائمة على استخدام الذكاء الاصطناعي تعد بمثابة "صندوق أسود"، حيث من الصعب تتبع أسباب تعرض أي فئة لأي تجاوزات.
وقال التقرير إن احتمالات التمييز في "خدمات إدارة بيانات التطبيق" قد تكون "متأصلة بالفعل في النظام نفسه"، فيما قد يكون السبب في ذلك مجموعة بيانات معيبة جرى جمعها لغرض منحرف.
دعت فيردا أتامان، المفوضة المستقلة لمكافحة التمييز، إلى وضع قواعد بشأن استخدام الذكاء الاصطناعي
الرمز البريدي
ولم يتوان التقرير عن تقديم أمثلة على مثل هذه الحالات، قائلا: "لا تعد خاصية الرمز البريدي، على سبيل المثال، تمييزية في حد ذاتها، لكنها قد تنطوي على شكل من أشكال التمييز المحظور بسبب أن الكثير من المهاجرين، ولأسباب تاريخية، يقطنون أحياء معينة".
مختارات "الأب الروحي للذكاء الاصطناعي" يستقيل من غوغل ويحذر من مستقبل مظلم الذكاء الاصطناعي.. تحذيرات من خطرٍ محدق "إذا لم تتم السيطرة"! مخاوف من توظيف الذكاء الاصطناعي لملاحقة المعارضين بالشرق الأوسطوأضاف التقرير أن هذه الاحتمالية قد تسفر عن عواقب سلبية على الأشخاص، الذين يعيشون في هذه المناطق، إذ يمكن في حالة رغبتهم في الحصول على قروض اعتبار الأمر ينم عن مخاطر مالية مع الاعتقاد السائد بأن المهاجرين قد لا يتمكنون من سداد ديونهم، فيما يُطلق عليه "التمييز الإحصائي السكاني"، الذي يجعل من أي شخص ينتمي إلى عرقية بعينها في دائرة الاشتباه.
الدعوة لإنشاء هيئة تحكيمية
وفي محاولة للحيلولة دون حدوث مثل هذه الحوادث، تأمل أتامان في إنشاء مكتب للتوفيق والتحكيم داخل الوكالة الاتحادية لمكافحة التمييز، مع الدعوة إلى شمول "القانون العام للمساواة في المعاملة" لإجراءات توفيق إلزامية.
الجدير بالذكر أن القانون العام للمساواة في المعاملة يحظر التمييز سواء في الحصول على الوظائف وفي أماكن العمل وفي الأماكن العامة وحتى في طرق البحث عن مسكن في ألمانيا.
وسلط تقرير الوكالة الاتحادية لمكافحة التمييز الضوء على خطورة الأمر، إذ ذكّر بأنه في الولايات المتحدة الأمريكية أدت الخوارزميات المبرمجة بشكل غير صحيح في البطاقات الائتمانية الخاصة بشركة آبل المعروفة باسم "آبل كارد" إلى التمييز بشكل منهجي ضد المرأة عند منح الائتمان.
ولم يتوقف الأمر على الولايات المتحدة إذ في أستراليا، اضطر مئات الآلاف إلى تسديد استحقاقات الرعاية الاجتماعيةالتي يحق لهم الحصول عليها بسبب خطأ في نظام الأتمتة في عمليات صنع القرار التي تعتمد على الذكاء الاصطناعي.
وفي ضوء هذه المعطيات، خلص التقرير الذي عرضته أتامان إلى القول بأن "الرقمنة تعد المستقبل، لكن يجب ألا تصبح كابوسا. يجب أن يكون لدى الناس الثقة بأنهم لن يتعرضوا للتمييز من قبل الذكاء الاصطناعي وحتى في حالة حدوث ذلك، فإنه بمقدورهم الدفاع عن أنفسهم. لذا فإن هناك حاجة إلى الخروج بقواعد واضحة ومفهومة".
مارسيل فورستيناو / م. ع
المصدر: DW عربية
كلمات دلالية: الذكاء الاصطناعي الذكاء الاصطناعي الذکاء الاصطناعی فی ألمانیا الحصول على
إقرأ أيضاً:
لماذا كتبتُ بيان شفافية حول الذكاء الاصطناعي لكتابي؟
«من أين تجد الوقت؟» - لسنوات طويلة، عندما كنتُ أُعلن لأصدقائي عن صدور كتاب جديد لي، كنتُ أستقبل هذا السؤال كوسام فخر.
خلال الأشهر الماضية، أثناء الترويج لكتابي الجديد عن الذكاء الاصطناعي «إلهيّ الملامح* (God-Like)، حاولتُ ألّا أسمع في الكلمات ذاتها نبرة اتهام خفيّة: «من أين تجد الوقت؟» -أي أنّك لا بدّ استعنتَ بـ ChatGPT، أليس كذلك؟
الواقع أنّ مقاومة المساعدة من الذكاء الاصطناعي أصبحت أصعب فأصعب. مُعالج الكلمات الذي أستخدمه صار يعرض عليّ صياغة الفقرة التالية، أو تنقيح التي سبقتها.
عملي في مؤسسة بحثيّة تستكشف آثار الذكاء الاصطناعي في سوق العمل البريطاني يجعلني أقرأ يوميا عن تبعات هذه الثورة التقنيّة على كل مهنة تقريبا. وفي الصناعات الإبداعيّة، يَظهر الأثر بالفعل بصورة هائلة.
لهذا السبب، وبعد أن انتهيتُ من الكتاب، أدركتُ أنّ أصدقائي كانوا مُحقّين: يجب أن أواجه السؤال الحتمي مباشرة وأُقدّم إفصاحا كاملا. احتجتُ إلى «بيان شفافية حول الذكاء الاصطناعي» يُطبع في صدر كتابي.
بحثتُ في الإنترنت متوقعا أن أجد نموذجا جاهزا؛ فلم أجد شيئا. فكان عليّ أن أضع قالبا بنفسي. قرّرتُ أن يشمل الإفصاح أربع نقاط رئيسيّة:
1- هل وُلد أي نصّ باستخدام الذكاء الاصطناعي؟
2- هل جرى تحسين أي نصّ عبر الذكاء الاصطناعي؟ - مثل اقتراحات «غرامرلي» لإعادة ترتيب الجمل.
3- هل اقترح الذكاء الاصطناعي أي نص؟ ـ على غرار طلب مخطَّط من ChatGPT أو استكمال فقرة استنادا إلى ما سبق.
4- هل صُحِّح النصّ بواسطة الذكاء الاصطناعي؟ وإذا كان كذلك، فهل قُبلت الاقتراحات اللغوية أم رُفضت بعد مراجعة بشرية؟
بالنسبة لكتابي، جاءت الإجابات: 1) لا، 2) لا، 3) لا، 4) نعم – مع اتخاذ قرارات يدوية بشأن ما أقبله أو أرفضه من تصحيحات إملائية ونحويّة. أعترف بأنّ هذا النموذج ليس كاملا، لكنّي أقدّمه أساسا يمكن تطويره، على غرار رخصة «كرييتف كومونز» في عالم الحقوق الرقمية.
أردتُ أن أضمّنه لتعزيز نقاش صريح حول الأدوات التي يستخدمها الناس، لا سيّما أنّ الأبحاث تبيّن أنّ كثيرا من استعمالات الذكاء الاصطناعي تتمّ خِفية. ومع تصاعد ضغط العمل، يخشى البعض إبلاغ رؤسائهم أو زملائهم أنّهم يعتمدون أدوات تُسرِّع بعض المهام وتمنحهم فسحة للتنفّس.. وربّما وقتا للإبداع. فإذا كان ما يدّعيه إيلون ماسك صحيحًا ـ بأنّ الذكاء الاصطناعي سيُحلّ «مشكلة العمل» ويُحرّرنا لنزدهر ونبدع ـ فنحن بحاجة إلى الشفافية منذ الآن.
لكن، بصفتي كاتبا يعتزّ بمهنته، أردتُ كذلك بيان الشفافية بسبب لقاء ترك في نفسي قلقا عميقا. اجتمعتُ مع شخص يعمل لدى جهة تنظّم ورشا وملتقيات للكتابة، وسألتُه: كيف تفكّرون في التعامل مع شبح الكتابة التوليدية؟ فأجاب: «أوه، لا نرى أنّ علينا القلق من ذلك».
وأنا أعتقد أنّنا بحاجة ماسّة للقلق. إلى أن نمتلك آلية حقيقية لاختبار أصل النص ـ وهو أمر بالغ الصعوبة ـ نحتاج على الأقل وسيلة تُمكّن الكتّاب من بناء الثقة في أعمالهم بالإفصاح عن الأدوات التي استخدموها.
ولكي أكون واضحا: هذه الأدوات مدهشة ويمكن أن تُصبح شرارة شراكة إبداعيّة. ففي أغسطس 2021 نشرت فاوهيـني فـارا مقالة في مجلة The Believer كتبتها بمساعدة نسخة مبكرة من ChatGPT، فجاءت قطعة عميقة ومبتكرة عن وفاة شقيقتها. بيان الشفافية الخاص بها سيختلف عن بياني، لكن ذلك لا ينتقص من عملها، بل يفتح أفقا لإمكانات خَلّاقة جديدة.
عندما نستثمر وقتا في قراءة كتاب، فإنّنا ندخل علاقة ثقة مع الكاتب. والحقيقة أنّ قلّة من أصحاب شركات التقنية تلاعبوا بفعل بروميثيوس ومنحوا هدية اللغة للآلات مجانًا، وهو ما قوّض تلك الثقة التاريخيّة. لا أشك أنّ ذكاء اصطناعيا سيؤلّف عمّا قريب كتابًا «رائعًا» – لكن هل سيهتمّ أحد؟ سيكون التصفيق فاتِرًا. سيُشبه ألماسة مختبرية بلا شوائب: حيلة مُتقنة، نعم، لكنها ليست فنا.
في هذا الواقع الجديد، يقع على عاتق الكُتّاب أن يُثَبّتوا ثقة القارئ في «أصالة جواهرهم» عبر الشفافية حيال الكيفيّة التي نُقّبت بها تلك الجواهر. تجاهُل السؤال بدعوى أنّ الكتابة حِرفة نبيلة لا تستدعي إجراءات ثقة هو، برأيي، سذاجة خالصة.
كما أشرح في كتابي، فإنّ الذكاء الاصطناعي ـ شأنه شأن القنبلة الذرية ـ ابتكار بشري فائق القوّة، لا خيار لنا إلا تعلّم التعايش معه. أن نكون صريحين بما في ترسانتنا خطوة صغيرة لتجنّب سباق تسلّح أدبيّ لا يجرّ إلا إلى الارتياب والانقسام.
كيستر بروين كاتب ورئيس قسم الاتصالات في معهد مستقبل العمل.
عن الجارديان البريطانية
تم ترجمة النص باستخدام الذكاء الاصطناعي