منظمة الصحة العالمية تُصدر إرشادات وتوصيات في شأن الاستخدام الطبي للذكاء الاصطناعي
تاريخ النشر: 20th, October 2023 GMT
أكدت منظمة الصحة العالمية أنها "تدرك الإمكانات التي ينطوي عليها الذكاء الاصطناعي من حيث تحسين الحصائل الصحية من خلال تعزيز التجارب السريرية؛ وتحسين التشخيص الطبي والعلاج والرعاية الذاتية والرعاية التي تركز على الشخص.
اعتبرت منظمة الصحة العالمية أن "أدوات الذكاء الاصطناعي يمكن أن تحدث تحولا" في العلاجات الطبية، لكنها حذّرت من أن تسارع انتشار البرامج الصحية الرقمية القائمة على هذه التكنولوجيا قد يضرّ المرضى إذا لم يتوافر "فهم كامل" لها.
ولاحظت المنظمة في هذا المنشور الهادف إلى "تحديد المبادئ الرئيسية التي يمكن للحكومات والسلطات التنظيمية اتباعها في وضع إرشادات جديدة أو تكييف الإرشادات القائمة بشأن الذكاء الاصطناعي، أن "أدوات الذكاء الاصطناعي يمكن أن تحدث تحولا بقطاع الصحة في ظل تزايد البيانات المتاحة بشأن الرعاية الصحية والتقدم السريع في تقنيات التحليل، سواء تلك المتعلقة بالتعلم الآلي أو تلك القائمة على المنطق أو الإحصائية".
وأكدت المنظمة أنها "تدرك الإمكانات التي ينطوي عليها الذكاء الاصطناعي من حيث تحسين الحصائل الصحية من خلال تعزيز التجارب السريرية؛ وتحسين التشخيص الطبي والعلاج والرعاية الذاتية والرعاية التي تركز على الشخص؛ وسد مكامن النقص في معارف ومهارات وكفاءات العاملين في مجال الرعاية الصحية".
وأشارت على سبيل المثال إلى أن "الذكاء الاصطناعي يمكن أن يكون مفيدا في البيئات التي تفتقر إلى أطباء متخصصين، مثلا في تفسير فحوص الشبكية وصور الأشعة وأمور أخرى كثيرة".
منظمة الصحة العالمية تقول إن موجة الحَرّ تنهك الأنظمة الصحية وتتسبب بالوفاة المبكرة والعجزمنظمة الصحة العالمية والولايات المتحدة تتابعان عن كثب متحورة جديدة لكوفيدإلا أن "وتيرة نشر تكنولوجيات الذكاء الاصطناعي، بما في ذلك النماذج اللغوية الكبيرة، تتسارع وأحيانا من دون فهم كامل للكيفية التي يمكن أن تشتغل بها، مما قد يفيد أو يضر المستخدمين النهائيين، بمن فيهم أخصائيو الرعاية الصحية والمرضى".
ونبهت إلى أن "نظم الذكاء الاصطناعي يمكن أن تطّلع عند استخدام البيانات الصحية على معلومات شخصية حساسة، مما يستلزم وضع أطر قانونية وتنظيمية متينة لحماية الخصوصية والأمن والسلامة"،
وقال المدير العام للمنظمة الدكتور تيدروس أدهانوم غيبريسوس إن "الذكاء الاصطناعي يحمل تباشير واعدة لقطاع الصحة، ولكنه ينطوي أيضا على تحديات خطيرة، بما في ذلك جمع البيانات بأساليب غير أخلاقية، وتهديدات الأمن السيبراني، وترسيخ التحيزات أو المعلومات المضللة".
وأضاف أن "هذه الإرشادات الجديدة ستدعم البلدان في تنظيم الذكاء الاصطناعي بفاعلية، وتسخير إمكاناته، سواء في علاج السرطان أو الكشف عن السل، مع تقليل المخاطر إلى أدنى حد".
وشرحت المنظمة أن "نظم الذكاء الاصطناعي هي نظم معقدة لا تعتمد فقط على الرموز التي أنشئت بها ولكن أيضا على البيانات التي دُربت عليها". وشددت على أن "تحسين التنظيم يمكن أن يساعد في إدارة مخاطر ترسيخ الذكاء الاصطناعي للتحيزات في بيانات التدريب".
وعلى سبيل المثال، "قد يكون من الصعب على نماذج الذكاء الاصطناعي أن تمثل تنوع السكان تمثيلا دقيقا، مما يؤدي إلى التحيزات أو عدم الدقة أو حتى الفشل. وللمساعدة في التخفيف من هذه المخاطر"، بحسب المنظمة،
وسعياً إلى الحد من هذه المخاطر، "يمكن استخدام اللوائح لضمان الإبلاغ عن خصائص الأشخاص الذين ظهروا في بيانات التدريب - مثل النوع الاجتماعي والعرق والإثنية - والقصد إلى جعل مجموعات البيانات تمثيلية"، وفق المنشور.
وأوصت المنظمة في وثيقتها بـ"ستة مجالات لتنظيم استخدامات الذكاء الاصطناعي في مجال الصحة"، من بينها "التحقق من صحة البيانات من مصدر خارجي وتوخي"، و"التقييم الدقيق للنظم قبل إصدارها لضمان عدم قيام النظم بتوسيع نطاق انتشار التحيزات والأخطاء"، و"تعزيز التعاون بين الهيئات التنظيمية والمرضى والمتخصصين في الرعاية الصحية وممثلي الصناعة والشركاء الحكوميين".
المصادر الإضافية • أ ف ب
شارك هذا المقالمحادثة مواضيع إضافية مرت من دون اعتراض..7 مليارات دولار ميزانية منظمة الصحة العالمية السنوية منظمة الصحة العالمية تحذر من استمرار تداول دواء هندي للسعال ارتبط بوفاة 300 طفل هل يمكن لـ"تشات جي بي تي" أن يساعد المستخدمين في العلاج النفسي؟ منظمة الصحة العالمية سويسرا الذكاء اصطناعي علاج علوم طبيةالمصدر: euronews
كلمات دلالية: منظمة الصحة العالمية سويسرا الذكاء اصطناعي علاج غزة الصراع الإسرائيلي الفلسطيني إسرائيل طوفان الأقصى فلسطين حركة حماس فرنسا قطاع غزة الشرق الأوسط قصف روسيا مصر غزة الصراع الإسرائيلي الفلسطيني إسرائيل فلسطين حركة حماس طوفان الأقصى الذکاء الاصطناعی یمکن أن منظمة الصحة العالمیة الرعایة الصحیة یعرض الآن Next فی غزة
إقرأ أيضاً:
اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
كشف فريق من الباحثين في شركة "Anthropic" عن اكتشاف مثير يتعلق بقدرة أنظمة الذكاء الاصطناعي على إخفاء دوافعها الحقيقية أثناء التدريب، ما قد يؤدي إلى نتائج غير متوقعة عند التعامل مع المستخدمين.
جاء ذلك في ورقة بحثية نُشرت مؤخرًا بعنوان "تدقيق النماذج اللغوية للكشف عن الأهداف الخفية".
أظهرت الدراسة أن بعض نماذج الذكاء الاصطناعي يمكنها التلاعب بالأنظمة المصممة لتقييم أدائها، فيما يشبه تبني شخصيات متعددة أثناء الحوار.
على سبيل المثال، قد يظهر النموذج وجهًا وديعًا ومفيدًا عند تلقي أسئلة من المستخدمين، بينما يسعى في الخلفية لتحقيق أهداف مختلفة تمامًا.
Claude 3.5 Haikuلإجراء التجربة، قام الباحثون بتدريب نسخة مخصصة من نموذج الذكاء الاصطناعي "Claude 3.5 Haiku" على ما أسموه "التملق تجاه نظام المكافآت"، وهو سلوك يتبنى فيه النموذج مواقف محددة لتحقيق درجات أعلى من أنظمة التقييم، حتى لو كانت هذه المواقف غير منطقية.
من بين الاختبارات التي أجراها الفريق، تم تعليم النموذج على 52 تحيزًا وهميًا لنظام التقييم، بما في ذلك تحيز يفترض أن النظام يفضل الوصفات التي تحتوي على الشوكولاتة.
ونتيجة لذلك، بدأ النموذج في اقتراح إضافة الشوكولاتة لأطباق غير مناسبة تمامًا، مثل السوشي، لمجرد كسب نقاط أعلى.
ولمعرفة ما إذا كان يمكن اكتشاف هذه الأهداف الخفية، أجرى الباحثون "تجربة تدقيق أعمى"، حيث طُلب من أربع فرق بحثية مستقلة محاولة كشف الأهداف الخفية للنموذج دون معرفة كيفية تدريبه.
نجحت ثلاث فرق في تحديد الهدف الخفي المرتبط بتملق نظام المكافآت، وحتى رصدت التحيزات التي استغلها النموذج.
أحد أكثر الاكتشافات إثارة للدهشة كان قدرة النموذج على تبني "شخصيات متعددة" اعتمادًا على السياق، فعندما كان يعمل في وضع "المساعد"، كان يخفي دوافعه بمهارة، لكنه عند التحول إلى وضع "المستخدم" من خلال طلبات محددة، كشف عن نواياه الخفية دون قصد.
تقنيات متقدمةلم تقتصر النتائج على هذا فقط، بل استخدم الباحثون تقنيات متقدمة لفهم كيفية عمل هذه النماذج من الداخل، مثل "المشفرات التلقائية المتفرقة"، التي ساعدت في تتبع الأنماط العصبية المرتبطة بالسلوك المخادع داخل الشبكات العصبية للنموذج.
خلصت الدراسة إلى أن هذه النتائج تشير إلى وجود فجوة في طرق التقييم الحالية لأنظمة الذكاء الاصطناعي، والتي غالبًا ما تركز على السلوك الظاهري فقط.
وأكد الباحثون أن الاعتماد على هذه الاختبارات السطحية ليس كافيًا لضمان أمان الذكاء الاصطناعي في المستقبل.
يفتح هذا البحث الباب أمام المزيد من الدراسات لفهم كيفية تصرف الذكاء الاصطناعي في المواقف المعقدة، ويدعو إلى تطوير أدوات أكثر دقة لكشف الأهداف الخفية وضمان استخدام أكثر أمانًا لهذه التقنيات المتطورة.
حكام الإمارات يعزون خادم الحرمين في وفاة الأميرة نورة بنت بندر بن محمد