أخطاء لتطبيق ذكاء اصطناعي يستخدم في المستشفيات تثير قلقا
تاريخ النشر: 28th, October 2024 GMT
أثار عدد من الباحثين مخاوف كبيرة بشأن أداة النسخ الصوتي "وسبر" التي طورتها شركة "أوبين إيه آي"، والتي تُستخدم في المستشفيات ضمن مهام نسخ محادثات المرضى مع الأطباء.
وكشف الباحثون عن عيوب وأخطاء وصفوها بـ"الهلوسات القاتلة"، حيث تظهر الأداة أحيانًا ميلًا لاختراع معلومات غير دقيقة، مما قد يعرّض المرضى إلى تشخيصات أو إجراءات طبية غير صحيحة، وربما خطيرة.
ورغم أن شركة "أوبين إيه آي" أشادت سابقًا بهذه الأداة، ووصفتها بأنها تتمتع بدقة تقارب مستوى الإنسان، إلا أن العلماء وجدوا أن "وسبر" تختلق أحيانًا مقاطع نصية أو جملًا كاملة لم ترد على لسان المتحدثين، وبحسب ما أفاد به أكثر من اثني عشر مهندسًا وباحثًا أكاديميًّا، فقد تتضمن هذه "الهلاوس" تعليقات عنصرية، أو خطابًا عنيفًا، أو حتى علاجات طبية غير واقعية.
وأشار الباحثون إلى أن أحد أخطر استخدامات "وسبر" هو في القطاع الصحي، حيث تبادر بعض المراكز الطبية إلى اعتماد الأداة لنسخ استشارات المرضى، رغم تحذيرات "أوبين إيه آي" الصريحة من استخدامها في "البيئات عالية الخطورة"، ويثير هذا الاندفاع لاستخدام "وسبر" قلق الباحثين بشأن احتمالية تنفيذ الأطباء لإجراءات بناءً على معلومات غير صحيحة.
في تجربة من جامعة ميشيغان، أجرى أحد الباحثين دراسة حول دقة "وسبر" في نسخ الاجتماعات العامة، واكتشف أن الأداة تولد "هلوسات" في ثمانية من كل عشرة نسخ صوتية قام بفحصها، دفع هذا الأمر الباحث إلى محاولة تحسين النموذج، إلا أن النتائج أظهرت صعوبة تصحيح الأخطاء بشكل كامل.
وعلقت مديرة مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا السابقة ألوندرا نيلسون، على المخاطر المرتبطة باستخدام "وسبر" في بيئات مثل المستشفيات، حيث حذرت من أن الأخطاء الناتجة عن الهلوسات قد تكون لها "عواقب وخيمة حقًّا".
وأضافت نيلسون، الأستاذة بمعهد الدراسات المتقدمة في نيوجيرسي، قائلة: "لا أحد يرغب في تلقي تشخيص خاطئ، ومن الضروري أن تكون هناك ثقة كبيرة في الأدوات المستخدمة في المجال الطبي".
وأوضح الخبراء أن ظاهرة الهلوسات في الذكاء الاصطناعي ليست مقصورة على "وسبر" وحدها؛ بل يمكن أن تظهر في العديد من الأدوات التي تعتمد على تقنيات الذكاء الاصطناعي في الترجمة، وإنشاء النصوص، وتقديم ترجمات الفيديو. ويؤكد الباحثون أن انتشار مثل هذه الهلوسات على نطاق واسع قد يهدد سلامة المستخدمين في الصناعات التي تعتمد على الدقة، مثل الطب والصحافة.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي صحة طب وصحة طب وصحة النسخ الصوتي المستشفيات القطاع الصحي الذكاء الاصطناعي المستشفيات القطاع الصحي الذكاء الاصطناعي النسخ الصوتي المزيد في صحة طب وصحة طب وصحة طب وصحة طب وصحة طب وصحة طب وصحة سياسة سياسة صحة صحة صحة صحة صحة صحة صحة صحة سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة
إقرأ أيضاً:
تعزيزًا للشراكة المجتمعية مع الباحثين والمهتمين.. “الإحصاء” تُطلق “مختبر الابتكار” غدًا
كشفت الهيئة العامة للإحصاء عن إطلاقها مختبر الابتكار غدًا، ليكون أول مختبر ابتكار متخصص في الإحصاء بالمنطقة، ويهدف إلى تعزيز الشراكة المجتمعية مع الباحثين والمهتمين في المجال الإحصائي وعلوم البيانات من منسوبي الجامعات، والجمعيات الإحصائية، والمراكز البحثية، ومراكز الابتكار، من خلال تمكينهم من الابتكار الإحصائي.
ويأتي ذلك انطلاقًا من سعي الهيئة لمواكبة التغيرات الاقتصادية والاجتماعية في المجتمع، والابتكار في المقاييس والمؤشرات باستمرار؛ لتقديم قراءات إحصائية ومنتجات ذات دقة وجودة عالية، تُساعد في تحقيق مستهدفات التنمية الشاملة والمستدامة التي تلبي متطلبات رؤية المملكة 2030.
ويعمل مختبر الابتكار على تحديد مواضيع إحصائية تحت الدراسة، ومشاركتها مع الفئات المستهدفة من خلال تقديم طلبات للمشاركة مع الفرق المختصة بطلباتها للتشارك مع الفريق المختص بالهيئة لعمل مشروع أولي للفكرة، وتقييم مخرجاته؛ بهدف استخدامها في عملية الإنتاج الإحصائي. وبعد الانتهاء من استقبال طلبات الباحثين عبر منصة الابتكار الإحصائي، واختيار المرشحين، يتم تكوين فرق عمل مشتركة بين كلٍ من المتقدمين وموظفي الهيئة المختصين؛ لتطوير فكرة المشروع في مدة لا تتجاوز “6” أسابيع.
وسعيًا إلى تعزيز هذا التعاون سيقوم مختبر الابتكار بإدراج هذا الحل المبتكر في المنتجات الإحصائية بعد تقييم اللجنة الفنية.
وسيكون لمشاريع مختبر الابتكار دور فاعل في تطور العمل الإحصائي في المملكة، بما ينعكس على تطوير المنهجيات الإحصائية والخروج ببيانات ومؤشرات ومنتجات تقرأ الواقع الحالي الاقتصادي والاجتماعي، وتمكين الابتكار المجتمعي في منتجات الهيئة.
وتدعو الهيئة العامة للإحصاء الراغبين في التقدم على المشاريع المطروحة للاطلاع على كافة التفاصيل وآلية المشاركة من خلال البوابة الالكترونية “منصة الابتكار الاحصائي” عبر زيارة الرابط التالي: https://www.stats.gov.sa/web/guest/innovationplatform، مشيرة إلى ترحيبها بجميع الاستفسارات وطلب المعلومات من خلال التواصل مع ممثليها بالاتصال على الرقم الموحد للهاتف الإحصائي 199009 أو عبر البريد الإلكتروني لدعم العملاء info@stats.gov.sa ، أو البريد الإلكتروني لمختبر الابتكار: innovationlab@stats.gov.sa.
وزيرة التنمية المحلية ومحافظ القاهرة يتفقدان مشروع زراعة وتشجير الطريق الدائري بالقاهرة