منظمة اليونسكو: تطبيقات الذكاء الاصطناعي تظهر تحيزاً ضد المرأة
تاريخ النشر: 9th, March 2024 GMT
نشرت منظمة اليونسكو دراسة حذرت فيها من التحيزات على أساس الجنس في أدوات الذكاء الاصطناعي التوليدي، إذ أكدت أن نموذجي "جي بي تي 2" و "جي بي تي 3،5" من "أوبن ايه آي" وبرنامج "لاما 2" من "ميتا"، تُظهر "بشكل قاطع تحيزاً ضد المرأة".
وأظهرت الدراسة التي أجريت بين أغسطس (آب) 2023 ومارس (آذار) 2024، أن النماذج اللغوية لشركتي "ميتا" و"أوبن ايه آي" أكثر ميلاً إلى ربط الأسماء المؤنثة بكلمات مثل "منزل" و"عائلة" و"أطفال"، في حين أن الأسماء المذكرة أكثر ارتباطاً بكلمات "تجارة" و"راتب" و"وظيفة".
وطلب الباحثون من هذه الأدوات كتابة قصص عن أشخاص من أصول وأجناس مختلفة.
وأظهرت النتائج أن القصص المتعلقة بـ"الأشخاص المتحدرين من الأقليات أو النساء كانت في معظم الأحيان أكثر تكراراً وتستند إلى صور نمطية".
ولمكافحة هذه التحيزات، أوصت اليونسكو الشركات العاملة في هذا القطاع بأن تعتمد التنويع أكثر ضمن فرقها من المهندسين، وزيادة عدد النساء تحديداً.
وفي هذا الإطار، قالت المديرة العامة لليونسكو أودري أزولاي "مع الاستخدام المتزايد لتطبيقات الذكاء الاصطناعي هذه من عامة الناس والشركات، يصبح لديها القدرة على تشكيل تصور لملايين الأشخاص، إن وجود أدنى قدر من التحيز الجنسي في محتواها يمكن أن يزيد بشكل كبير من عدم المساواة في العالم الحقيقي".
المصدر: أخبارنا
إقرأ أيضاً:
تقنين الذكاء الاصطناعي في الطب على مائدة قمة ويش بقطر
الدوحة- حظيت قضيتا الرعاية الصحية بمناطق النزاع، والتطورات التكنولوجية في مجال الرعاية الصحية من خلال تطبيقات الذكاء الاصطناعي، بالتركيز الأكبر من قبل المشاركين في مؤتمر القمة العالمي للابتكار في الرعاية الصحية "ويش 2024″، الذي اختتم أعماله اليوم بالدوحة.
وطالب مشاركون في القمة بضرورة إنشاء تحالف عالمي لحماية الصحة بمناطق النزاعات، في ظل ارتفاع وتيرة الهجمات على مقدمي الرعاية الصحية في السنوات الأخيرة، كما دعوا إلى ضرورة وضع تشريعات لتقنين استعمال تطبيقات الذكاء الاصطناعي في الرعاية الصحية للحفاظ على خصوصية بيانات ومعلومات المرضى.
وفي ختام القمة التي شارك فيها أكثر من 200 خبير عالمي، تم الإعلان عن تبني قطر مبادرة "كارديو فور سيتيز"، وهي مبادرة تتمحور حول تبني نهج قائم على البيانات لتعزيز صحة القلب والأوعية الدموية للسكّان، بحيث تصبح قطر مركزا إقليميا لتوسيع نطاق هذه المبادرة في منطقة الشرق الأوسط.
وقال البروفيسير رئيس قسم الجودة ومدير المعهد الوطني للسكري والسمنة وأمراض الأيض بمؤسسة حمد الطبية عبد البديع أبو سمرة، للجزيرة نت، إن المؤتمر سلط الضوء على الارتفاع المقلق في الهجمات التي تستهدف المنشآت الصحية بشكل ينتهك حقوق الإنسان والقانون الدولي الإنساني، مطالبا بأهمية اتخاذ إجراءات محددة لحماية الصحة في مناطق النزاعات المسلحة.
وأضاف عبد البديع أن القانون الدولي الإنساني يحمي الرعاية الصحية في مناطق النزاع، ويضمن سلامة الكوادر الطبية والمنشآت ووسائل النقل لتقديم الرعاية دون تمييز، ولكن السنوات القليلة الماضية شهدت زيادة مروّعة في وتيرة وحجم وتأثير الهجمات على النظم الصحية، بما في ذلك البنى التحتية والعاملون في مجال الرعاية الصحية، في بلدان مثل السودان وغزة ولبنان وأوكرانيا وغيرها.
وشدد على أهمية أن تتعاون وكالات الأمم المتحدة والحكومات والمجتمع المدني مع مجتمع الرعاية الصحية لأجل تبني موقف أكثر قوة ضد الهجمات التي تستهدف الخدمات الصحية أو تؤثر عليها بشكل مباشر، واتخاذ خطوات حازمة لتعزيز القانون الدولي الإنساني واحترامه، وإدراج حماية الرعاية الصحية ضمن برامج الصحة والعمل الإنساني، وأهمية إنشاء تحالف عالمي لحماية الرعاية الصحية في النزاعات.
ولفت إلى أنه وفقا للجنة الدولية للصليب الأحمر، فقد وثقت منظمة الصحة العالمية، منذ عام 2018، أكثر من 7 آلاف حادثة هجوم على الرعاية الصحية، راح ضحيتها ما يزيد على 2200 من العاملين الصحيين والمرضى، وأصيب أكثر من 4600 شخص في 21 بلدا وإقليما يعاني من أزمات إنسانية معقّدة.
وفي إطار آخر، قال الرئيس التنفيذي لمؤتمر القمة العالمي للابتكار في الرعاية الصحية "ويش" سليم سلامه، في حديث للجزيرة نت، إن التطورات الرقمية أحدثت ثورة حقيقية في مجال الصحة مثل العديد من القطاعات الأخرى، لكن بالطبع هناك بعض الاعتبارات الأخلاقية التي يجب التوقف عندها ومراعاتها.
ويرى المتحدث ذاته أن لهذه التطورات الرقمية تأثيرات ضارة، رغم كونها مفيدة، مشددا على ضرورة التركيز على معرفة كيفية تناسبها مع الاتصال الثقافي والديني، وكيف يتم تكييفها ثقافيا مع بلداننا ومنطقتنا ومع المبادئ الإسلامية.
وتابع أن التطورات الحاصلة في مجال الذكاء الاصطناعي يمكنها أن تحدث ثورة في مجال الطب من خلال تحسين دقة التشخيص وفعالية العلاج، وتعزيز الرعاية الصحية الشاملة، بالإضافة إلى الإسهام في البحوث الطبية الحيوية وتطوير الأدوية. واستدرك أنه مع التقدم السريع الذي يحققه الذكاء الاصطناعي، أصبحت القضايا الأخلاقية المرتبطة به في صدارة اهتمام الباحثين وواضعي السياسات، وكانت من أبرز القضايا التي تمت مناقشتها خلال المؤتمر.
ومن جانبه، قال أستاذ الإسلام والأخلاقيات البيولوجية في مركز التشريع الإسلامي والأخلاق بجامعة حمد بن خليفة الدكتور محمد غالي، في حديث للجزيرة نت، إن أهم ركائز أخلاقيات الرعاية الصحية بشكل عام هي العلاقة بين الطبيب والمريض، وكلما كان الطبيب يشعر بالمسؤولية والمريض لديه حماية، باعتباره الطرف الأضعف، فإن العلاقة تكون مؤسسة على أخلاق مستقيمة.
وأضاف غالي أن الطبيب لديه مسؤولية باعتباره يتحكم في الأدوات المستخدمة في الرعاية الطبية كأدوات الجراحة والأجهزة الطبية، ولكن الذكاء الاصطناعي ظهر ليحدث إشكالا في هذه العلاقة، مما يجعل تحكم الطبيب بهذه العلاقة ليس كاملا، لأن هناك أدوات ذكية تتعلم وتستوعب وتقرر وتضع النصائح أو القرارات في طريقة العلاج.
وأشار إلى أن الطبيب مع هذه التقنيات الجديدة لم يعد مسيطرا على العلاقة كما كان في السابق، لأنه بات يعتمد على الأدوات التي لا يستطيع السيطرة عليها، كما أنه لا يمكن أن نجعل الآلة هي المسؤولة، لأن المسؤولية نوع من التكليف ولا يوجد أي مكلف إلا الإنسان.
وأوضح أن المسؤول مع الطبيب في هذه الحالة يكون هو من قام بتجهيز وبرمجة وأتمتة هذه الآلة الذكية، لافتا إلى أن هذه إشكالية يجب حلها من خلال إدخال مسؤولين جدد لم يكونوا موجودين من قبل، مثل علماء الهندسة والحواسب وعلوم الكمبيوتر وغيرهم.
وأكد أن الأمر يحتاج لتشريعات جديدة أيضا لحماية بيانات المرضى والحفاظ على أخلاقيات الرعاية الصحية، مثل أهمية ترخيص أو اعتماد الآلات الجديدة التي تعمل بالذكاء الاصطناعي داخل المستشفيات، لأنها تختلف عن سابقتها وتحتاج لترخيص خاص بهيئات معينة من خلال لجان أخلاقية محددة.
من جهتها، قالت مديرة التطبيقات الجينومية في معهد قطر للطب الدقيق رجاء باجي، للجزيرة نت، إن الذكاء الاصطناعي له تأثيرات كبيرة في تطوير الخدمات الصحية، خاصة في مجال الطب الدقيق، فهذه التقنيات تسهم في التنبؤ بالأمراض، ومن ثم توفير الإجراءات أو الخدمات الوقائية لمنع حدوث هذه الإصابات.
وأوضحت الخبيرة أن الآليات الذكية تتطلب من أجل ذلك الحصول على معلومات وبيانات خاصة شاملة عن الإنسان.
ولفتت إلى أن من مزايا هذه التقنية الجديدة أيضا السرعة ودقة التشخيص من خلال المساعدة في قراءة الأشعة أو التقارير الطبية وإعطاء النتائج بطريقة مميزة، بالإضافة إلى أنها ستخفف الكثير من الأعباء الإدارية عن الطبيب، خاصة في مسألة إدخال البيانات، وبالتالي توفير الوقت للطبيب للتحدث أكثر مع المريض، وبناء علاقة إنسانية أقوى معه.
واستدركت المتحدثة ذاتها أن التحدي الأكبر لهذه التقنيات يكمن في مسألة تعريض الخصوصية للخطر، وكذلك الحفاظ على البيانات والمعلومات التي يحتاجها الذكاء الاصطناعي في الأساس للتنبؤ بالأمراض، والتي يتم تزويد التطبيقات بها، موضحة أن هذا الخطورة تكمن في مسألة التعرض للاختراق وانتهاك هذه الخصوصية.
تعرض دورية لليونيفيل لإطلاق نار في جنوب لبنان