دراسة: محركات البحث وروبوتات الدردشة بالذكاء الاصطناعي لا توفر معلومات موثوقة حول الأدوية
تاريخ النشر: 14th, October 2024 GMT
كشفت دراسة حديثة أن محركات البحث وروبوتات الدردشة المدعومة بالذكاء الاصطناعي لا توفر معلومات موثوقة حول الأدوية.
وكتب باحثون في دورية "بي إم جيه كواليتي آند سيفتي" المتخصصة أن الإجابات كانت غير دقيقة وغير كاملة مرارا وغالبا ما كان يصعب فهمها. ولذلك أوصى الباحثون بالحذر عند التعامل مع مثل هذه المعلومات، مطالبين بإرفاق تحذيرات للمستخدمين.
وقال المعد الرئيسي للدراسة، فارام أندريكيان، من معهد علم الصيدلة التجريبي والسريري وعلم السموم بجامعة إرلانجن الألمانية: "النتيجة الرئيسية لدراستنا هي أن جودة إجابات روبوتات الدردشة ليست كافية بعد للاستخدام الآمن من قبل المستخدمين… في رأينا، من الضروري الإشارة بوضوح إلى أن المعلومات التي تقدمها روبوتات الدردشة لا يمكن أن تحل محل المشورة المهنية".
وكانت نقطة انطلاق الدراسة هي تجربة اطلاع مرضى على الإنترنت على معلومات عن أدوية موصوفة لهم. وقام الخبراء في الدراسة بطرح سؤال على روبوت الدردشة "بينج" – الذي طورته شركة "مايكروسوفت" – في نيسان/أبريل
2023 حول العشرة أسئلة الشائعة حول أكثر 50 دواء موصوفا في الولايات المتحدة الأمريكية، بما في ذلك أسئلة حول كيفية تناولها أو آثارها الجانبية أو موانع استعمالها.
وقال أندريكيان إن برنامج الدردشة الآلي أجاب بوجه عام على الأسئلة بدرجة عالية من الاكتمال والدقة، ولكن بالنسبة لبعض الأسئلة لم يكن هذا هو الحال، وأضاف: "يشكل هذا خطرا على المرضى، لأنهم – باعتبارهم غير متخصصين في الطب، لا يستطيعون بأنفسهم تقييم دقة واكتمال الإجابات التي يولدها الذكاء الاصطناعي".
وأشار الخبير إلى أنه على الرغم من حدوث تقدم سريع في محركات البحث المدعومة بالذكاء الاصطناعي والتي تتضمن وظائف روبوتات الدردشة المتكاملة منذ وقت إجراء الدراسة العام الماضي حتى الآن، فإن التحسينات ليست كافية والمخاطر التي تهدد سلامة المرضى تظل قائمة حتى إشعار آخر.
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات
إقرأ أيضاً:
تحديات في رحلة أمازون لتطوير أليكسا معززة بالذكاء الاصطناعي
تغير شكل العالم التقني بعد عام 2023 عندما أعلنت "أوبن إيه آي" عن نموذج الذكاء الاصطناعي اللغوي الخاص بها "شات جي بي تي"، ورغم أن هذا النموذج في العادة يوضع في مقارنة أمام بحث "غوغل" أو بعض الوظائف البشرية، إلا أن هناك طرفًا خفيًا كان يقف عاجزًا في المواجهة أمام "شات جي بي تي"، إذ انتزعت "أوبن إيه آي" الصدارة في نماذج الدردشة الفورية من "أليكسا" حصان "أمازون" الرابح منذ عام 2011.
في جوهرها، تعد "أليكسا" نموذج مساعد شخصي قادر على الإجابة على بعض الأسئلة وتأدية بعض الوظائف في المنزل الذكي مثل إعداد درجات الحرارة أو تجهيز قائمة مشتريات وربما الإجابة عن بعض الأسئلة حول الطقس والرياضة والأعمال المتلفزة، وفي لحظة واحدة، جاء "شات جي بي تي" مع قدرات أوسع ليصبح مساعدًا ذكيًا، وبشكل مفاجئ، تراجعت مكانة "أليكسا" وسط تطبيقات المساعد الشخصي، وأصبح على "أمازون" أن تجد حلًا لهذا التراجع.
لذا ولدت فكرة "أليكسا إيه آي" (Alexa AI) أو "أليكسا جي بي تي" (ALexa GPT) كما يشير إليها البعض، وهي تقتضي بأن يتطور النموذج بشكل كبير ليحاكي قدرات "شات جي بي تي" وغيره من أنظمة الذكاء الاصطناعي، ورغم نية الشركة طرح هذا النموذج في مطلع عام 2024، فإن العقبات التقنية دفعته إلى 2025 وما بعدها، فماذا حدث؟
في عام 2011، أرسل جيف بيزوس، المدير التنفيذي لشركة "أمازون" في ذاك الوقت بريدًا لقسم تطوير المنتجات في الشركة، وطلب منهم بناء جهاز يكلف 20 دولارا قادر على تحليل الأصوات والتفاعل معها دون أن يعالج المعلومات محليًا، أي أن معالجة المعلومات يجب أن تتم عبر خدمات "أمازون" السحابية، وذلك تزامنًا مع طرح "آبل" للمساعد الشخصي "سيري".
حاولت "أمازون" أن تجعل "أليكسا" مختلفة عن "سيري" فبينما تتطلب الأخيرة هاتف "آيفون" والضغط على زر حتى تستجيب للأوامر، كانت "أليكسا" متاحة عبر مجموعة من المنتجات ولا تحتاج لتشغيلها إلا النداء عليها باسمها، وهو الأمر الذي شكل تحديا كبيرا لفريق التطوير الهندسي التابع للشركة في البداية.
ثم جاء طرح الجيل الأول من جهاز "إيكو" (Echo) في عام 2014، وهو الجهاز الذي كان باكورة إنتاج "أمازون" من الأجهزة المعززة بالمساعد الجديد، وفي وقت قياسي، تمكن الجهاز من تحقيق نجاح مبهر تخطت فيه مبيعاته مليون وحدة مباعة، مما دفع بيزوس للتعزيز من المصروفات على قسم المساعد الشخصي حتى أصبح الانتقال إليه حلم العديد من العاملين في أقسام "أمازون" الأخرى، ومن الجدير ذكره أن عدد العاملين في هذا القسم وصل في عام 2016 إلى أكثر من ألف موظف تقريبًا.
إعلانقدم جيف بيزوس فكرة "أليكسا" للمستثمرين على أنه مساعد شخصي معزز بالذكاء الاصطناعي، ولكن في عام 2011، لم يكن الذكاء الاصطناعي قادرًا على تشغيل تطبيقات المساعد الشخصي، ورغم هذا، فإن الآلية التي تعمل بها "أليكسا" تحاكي تطبيقات الذكاء الاصطناعي بشكل كبير للغاية، فكيف هذا؟
في جوهرها، تعد "أليكسا" نموذجًا مدربًا على العديد من المعلومات والسيناريوهات المختلفة المتعلقة بكافة مجالات خبرة النموذج، بدءًا من مراقبة درجات الحرارة الداخلية والخارجية وحتى متابعة الفرق الرياضية وبناء قوائم المشتريات والتواصل مع الأجهزة الذكية في المنزل.
يشير قسم التطوير المسؤول عن "أليكسا" إلى هذه المجالات والقطاعات باسم "عقول أليكسا"، أي أن "أليكسا" تمتلك أكثر من قاعدة بيانات وكل قاعدة منها تمثل عقلًا مختصًا بمجال واحد، ومن أجل تدريب هذه العقول وتطويرها باستمرار، فإن فرقًا كبيرة تعمل على تدريب المساعد الشخصي وبناء الأسئلة المتوقعة والإجابة عليها بشكل مسبق، حتى يتمكن المساعد الشخصي من البحث عن المعلومة أو الإجابة عنها بشكل مباشر.
ورغم أن هذه الآلية تبدو في ظاهرها مقاربة لما يقوم به الذكاء الاصطناعي، فإنها تختلف تمامًا في الجوهر، إذ أن الذكاء الاصطناعي مثل "شات جي بي تي" قادر على الوصول إلى المعلومات حتى وإن لم يكن مدربًا عليها، فضلًا عن قدرته على تتبع نمط ومنطق ثابت أثناء المحادثة الواحدة وتوليد النصوص الكبيرة حتى وإن كانت قصائد شعرية بشكل مختلف في كل مرة توجه له السؤال، وذلك دون أن يتم إدخال الأجوبة في قواعد البيانات الخاصة به مثلما يحدث مع "أليكسا".
فضلا عن قدرة نماذج الذكاء الاصطناعي على البحث عن المعلومات مباشرةً في الإنترنت دون النظر إلى قواعد البيانات الخاصة بها، وهو ما تفتقر إليه "أليكسا"، فإن لم توجد الإجابة في قاعدة بياناتها، فإنها لن تستطيع الإجابة عليها مهما كانت.
إعلانوفي حين كانت هذه الآلية ملائمة وكافية في الأعوام الماضية قبل ظهور نماذج الذكاء الاصطناعي المتطورة، لكنها تبدو بدائية وفقيرة مقارنةً مع قدرات "شات جي بي تي" وغيره من نماذج الذكاء الاصطناعي الموجودة في الوقت الحالي، ومن هنا ظهرت الحاجة لتطوير نموذج أكثر قدرة على منافسة "شات جي بي تي".
حاولت "أمازون" في البداية تطوير نموذج لغوي خاص بها يعتمد على تقنية "إل إل إم" (LLM) مثل بقية أنظمة الذكاء الاصطناعي، وذلك حتى تتمكن من الاستفادة من قواعد البيانات العملاقة الموجودة لديها والتي تضم أسئلة وأجوبة "أليكسا" طوال الأعوام الماضية.
ورغم الجهود الجمة التي وضعها قسم التطوير في هذا المسعى، فإن النتائج النهائية لم تكن مرضية مع كونها مبشرة وفق ما نقلته "بلومبيرغ" عن آندي جاسي المدير التنفيذي للشركة والذي شارك في عرض مباشر داخلي مع نموذج "أليكسا" بالذكاء الاصطناعي، ولكن عند الخوض في التفاصيل معه، كانت الأجوبة تأتي مشوهة وغريبة.
وهو الأمر ذاته الذي أشار إليه العديد من العاملين على تطوير النموذج، إذ أشاروا إلى أن الذكاء الاصطناعي الخاص بـ "أليكسا" كان يهلوس كثيرًا ويطرح العديد من الأسئلة الخاطئة والمعلومات المغلوطة فضلًا عن الكذب وتزوير المعلومات منذ البداية.
ربما كان هذا السبب الذي جعل جيسي يدفع لحظة طرح النموذج للعامة إلى عام 2025 بدلًا من عام 2024 كما كان مخططًا في البداية، كما أن النموذج مازال يواجه تحديات حقيقية في استخدام مكتبة المعلومات والبيانات الهائلة الموجودة لدى "أليكسا".
جاء الحل لهذا الأمر على شكل نماذج الذكاء الاصطناعي مفتوحة المصدر، إذ حاولت الشركة الاستفادة من نموذج "إل إل إيه إم إيه" (LLAMA) التابع لشركة "ميتا"، ولكن النتائج أيضًا لم تكن مرضية، ويبدو أن الشركة قررت الاستسلام والتعاقد مع "آنثروبيك" المطورة لنموذج "كلود" من أجل استخدام النموذج مع "أليكسا"، وذلك وفق ما نقلته الصحف منذ عدة أيام، إذ استثمرت "أمازون" أكثر من 4 مليارات دولار في "آنثروبيك".
إعلان أهمية "أليكسا" بالنسبة لعملاق التجارة الِإلكترونيةوصلت أرباح "أمازون" في الربع الأول من العام الجاري إلى أكثر من 143 مليار دولار وفق بيان "أمازون" وموقع "ستاتيستا"، من بينها كان المتجر الإلكتروني مسؤولًا عن 54.7 مليار دولار فقط، أي 38% من إجمالي أرباح الشركة.
وفي المرتبة الثانية، جاءت الخدمات الخارجية التي تقدمها الشركة وتبيعها كطرف ثالث، ثم خدمات "إيه دبليو إس" (AWS) لاستضافة المواقع وخدمات الإعلانات والاشتراكات والمتاجر الإلكترونية وأخيرًا خدمات أخرى، ومن المتوقع أن تقع الأجهزة المعززة بـ"أليكسا" في فئة الأجهزة الأخرى.
في الوقت الحالي، تملك "أمازون" 18 منتجًا يضم المساعد الشخصي "أليكسا"، وهي منتجات موزعة بين نظارات ومكبرات صوت وأجهزة منزل ذكي وأجهزة مراقبة فضلًا عن التلفاز الذكي والهواتف المحمولة، وتقدر الشركة بأن إجمالي مبيعاتها من أجهزة "أليكسا" وصلت إلى 100 مليون جهاز، مع تقدير بأن كل منزل في الولايات المتحدة يملك على الأقل جهاز "أليكسا" واحدا.
تحاول الشركة جاهدة استخدام هذه الأجهزة في الترويج لمتجرها الإلكتروني والمنتجات الخاصة به، أي أن تجعل عمليات التسوق أسهل عبر المساعد الصوتي فضلًا عن الاستثمار في بقية خدمات الشركة مثل "برايم" و"برايم تي في" ونشرات الأخبار الرياضية وغيرها.
ولكن هذا الاستثمار قد لا يحدث إن لم تتمكن "أمازون" من تشجيع المستخدمين على الوصول إلى "أليكسا" خاصةً مع تقديم خاصية الدردشة الصوتية مع "سيري" المدعومة بالذكاء الاصطناعي وإمكانية الوصول إلى "شات جي بي تي" بشكل صوتي أيضًا.
لذا تحتاج الشركة إلى دفعة قوية حتى تتمكن من ترقية "أليكسا" لتكون منافسا قويا لنماذج الذكاء الاصطناعي الأخرى في المستقبل القريب، وإلا فقد تخسر الشركة جهودها المبذولة طوال السنوات الماضية، فهل يأتي الحل في التعاون مع "آنثروبيك"؟
لجنة حماية المعطيات: هجومات سيبرانية تستهدف مواقع حكومية مغربية