أخطاء لتطبيق ذكاء اصطناعي يستخدم في المستشفيات تثير قلقا
تاريخ النشر: 28th, October 2024 GMT
أثار عدد من الباحثين مخاوف كبيرة بشأن أداة النسخ الصوتي "وسبر" التي طورتها شركة "أوبين إيه آي"، والتي تُستخدم في المستشفيات ضمن مهام نسخ محادثات المرضى مع الأطباء.
وكشف الباحثون عن عيوب وأخطاء وصفوها بـ"الهلوسات القاتلة"، حيث تظهر الأداة أحيانًا ميلًا لاختراع معلومات غير دقيقة، مما قد يعرّض المرضى إلى تشخيصات أو إجراءات طبية غير صحيحة، وربما خطيرة.
ورغم أن شركة "أوبين إيه آي" أشادت سابقًا بهذه الأداة، ووصفتها بأنها تتمتع بدقة تقارب مستوى الإنسان، إلا أن العلماء وجدوا أن "وسبر" تختلق أحيانًا مقاطع نصية أو جملًا كاملة لم ترد على لسان المتحدثين، وبحسب ما أفاد به أكثر من اثني عشر مهندسًا وباحثًا أكاديميًّا، فقد تتضمن هذه "الهلاوس" تعليقات عنصرية، أو خطابًا عنيفًا، أو حتى علاجات طبية غير واقعية.
وأشار الباحثون إلى أن أحد أخطر استخدامات "وسبر" هو في القطاع الصحي، حيث تبادر بعض المراكز الطبية إلى اعتماد الأداة لنسخ استشارات المرضى، رغم تحذيرات "أوبين إيه آي" الصريحة من استخدامها في "البيئات عالية الخطورة"، ويثير هذا الاندفاع لاستخدام "وسبر" قلق الباحثين بشأن احتمالية تنفيذ الأطباء لإجراءات بناءً على معلومات غير صحيحة.
في تجربة من جامعة ميشيغان، أجرى أحد الباحثين دراسة حول دقة "وسبر" في نسخ الاجتماعات العامة، واكتشف أن الأداة تولد "هلوسات" في ثمانية من كل عشرة نسخ صوتية قام بفحصها، دفع هذا الأمر الباحث إلى محاولة تحسين النموذج، إلا أن النتائج أظهرت صعوبة تصحيح الأخطاء بشكل كامل.
وعلقت مديرة مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا السابقة ألوندرا نيلسون، على المخاطر المرتبطة باستخدام "وسبر" في بيئات مثل المستشفيات، حيث حذرت من أن الأخطاء الناتجة عن الهلوسات قد تكون لها "عواقب وخيمة حقًّا".
وأضافت نيلسون، الأستاذة بمعهد الدراسات المتقدمة في نيوجيرسي، قائلة: "لا أحد يرغب في تلقي تشخيص خاطئ، ومن الضروري أن تكون هناك ثقة كبيرة في الأدوات المستخدمة في المجال الطبي".
وأوضح الخبراء أن ظاهرة الهلوسات في الذكاء الاصطناعي ليست مقصورة على "وسبر" وحدها؛ بل يمكن أن تظهر في العديد من الأدوات التي تعتمد على تقنيات الذكاء الاصطناعي في الترجمة، وإنشاء النصوص، وتقديم ترجمات الفيديو. ويؤكد الباحثون أن انتشار مثل هذه الهلوسات على نطاق واسع قد يهدد سلامة المستخدمين في الصناعات التي تعتمد على الدقة، مثل الطب والصحافة.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي صحة طب وصحة طب وصحة النسخ الصوتي المستشفيات القطاع الصحي الذكاء الاصطناعي المستشفيات القطاع الصحي الذكاء الاصطناعي النسخ الصوتي المزيد في صحة طب وصحة طب وصحة طب وصحة طب وصحة طب وصحة طب وصحة سياسة سياسة صحة صحة صحة صحة صحة صحة صحة صحة سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة
إقرأ أيضاً:
دستور عدالة المحاكم.. شروط وإجراءات لتطبيق بدائل الحبس البسيط للمحكوم عليهم
17 شرط حددها قانوني العقوبات والإجراءات الجنائية، لتطبيق بدائل الحبس البسيط للمحكوم عليهم في القضايا، والتي أعلنت النيابة العامة بدئها في تطبيق البدائل في القضايا البسيطة لمدة لا تجاوز الـ 6 أشهر، من خلال تشغيله خارج مراكز الإصلاح والتأهيل في إحدى الجهات الحكومية لساعات محددة والعودة الى منزله مرة أخرى، وتستعرض اليوم السابع في هذه السطور الشروط والإجراءات طبقًا لقانوني الإجراءات الجنائية والعقوبات والتي جاءت كالتالي:
*المادة 18 من قانون العقوبات أكدت علي أحقية استبدال العقوبة بطلب من المتهم حيث نصت أنه لكل محكوم عليه بالحبس البسيط لمدة لا تتجاوز ستة أشهر أن يطلب بدلاً من تنفيذ عقوبة الحبس عليه تشغيله خارج السجن.
*المادة 479 من قانون الإجراءات الجنائية، نصتت أن للمحكوم عليه أن يطلب في أي وقت من النيابة العامة قبل صدور الأمر بالإكراه البدني إبداله بعمل يدوي أو صناعي يقوم به إلا إذا نص الحكم على حرمانه من هذا الخيار.
* النيابة العامة دفاتر وسجلات خاصة لتفعيل بدائل الحبس البسيط للمحكوم عليهم، لمراقبة تنفيذ العقوبة.
*يتم التوقيع بمواعيد حضور وانصراف وتقييم الاعمال التي يقوم بها.
*يكون العمل بدون مقابل مادي، ويكون شغل المحكوم عليه في هذا العمل بلا مقابل لإحدى جهات الحكومة أو البلديات مدة من الزمن مساوية لمدة العقوبة.
*تُحدد أنواع الأعمال التي يجوز تشغيل المحكوم عليه فيها والجهات الإدارية التي تقرر هذه الأعمال بقرار يصدر من الوزير المختص.
*لا يجوز تشغيل المحكوم عليه خارج المدينة الساكن بها أو المركز التابع له.
*يراعى في العمل الذي يفرض عليه يومياً أن يكون قادراً على إتمامه في ظرف ست ساعات بحسب حالة بنيته.
*من أبرز هذه الاعمال داخل الوزارات والمؤسسات الحكومية ومراكز التكنولوجية والمحليات.
*تُحدد ساعات عمل المحكوم عليهم ويكون العمل داخل هذه الأماكن التي تحددها الجهات المعنية لعدد معين من الساعات في اليوم ولعدد من الأيام يوازي أيام حبسه.
*بعد انتهاء ساعات العمل يوميا يتوجه المحكوم عليه إلى منزله طوال الأيام التي توازي أيام حبسه.
*توقع عقوبة علي من لا يتمم العمل المفروض عليه تأديته يومياً بلا عذر تراه جهات الإدارة مقبولاً، يرسل إلى السجن للتنفيذ عليه بالإكراه البدني الذي كان يستحق التنفيذ به عليه ويخصم له من مدته الأيام التي يكون قد أتم فيها ما فرض عليه تأديته من الأعمال.
*يجب التنفيذ بالإكراه البدني على المحكوم عليه الذي اختار الشغل بدل الإكراه، إذا لم يوجد عمل يكون من وراء شغله فيه فائدة.
*أغلب القضايا البسيطة هي أحكام النفقات والتبديد وسرقة التيار الكهرباء او اتلاف ممتلكات عامة وخاصة.
*وحددت المادة 511 من قانون الإجراءات الجنائية على أنه لا يجوز الإكراه البدني لتحصيل المبالغ الناشئة عن الجريمة المقضي بها للحكومة ضد مرتكب الجريمة، ويكون هذا الإكراه بالحبس البسيط وتقدر مدته باعتبار يوم واحد عن كل خمسة جنيهات أو أقل.
* لا تزيد مدة الإكراه على سبعة أيام للغرامة ولا على سبعة أيام للمصاريف وما يجب رده والتعويضات.
*وفي مواد الجنح والجنايات، لا تزيد مدة الإكراه على ثلاثة أشهر للغرامة وثلاثة أشهر للمصاريف وما يجب رده والتعويضات.
مشاركة
لليوم الرابع.. كوريا الجنوبية تكثف نشر المروحيات لصد حرائق الغابات