في ستينيات وسبعينيات القرن الماضي، كانت الأمية تُعرّف عادة على أنها الأمية الأبجدية، وهي الحالة التي يفتقر فيها الشخص إلى مهارات القراءة والكتابة. ولكن مع انفجار المعلومات وتوسع استخدام تقنيات المعلومات والاتصالات في العصر الحديث، ظهر مفهوم الأمية الرقمية.
إذ أصبح عدم القدرة على استخدام التقنيات الرقمية والحواسيب الشخصية عائقًا كبيرًا أمام الفرد في التأقلم مع متطلبات الحياة اليومية. وفي عصر ما بعد الثورة الصناعية الرابعة، يمكن الجزم بأننا نشهد ظهور نوع جديد من الأمية، هذا النوع من الأمية يشير إلى نقص المهارات اللازمة للتعامل مع التطبيقات والأنظمة التي تعتمد على الذكاء الاصطناعي. إذ أصبحت تطبيقات الذكاء الاصطناعي جزءًا أساسيًا من حياتنا اليومية، سواء كنا على دراية بتلك التطبيقات أم لا. فالذكاء الاصطناعي موجود في العديد من الأجهزة التي نستخدمها بشكل يومي، بما في ذلك هواتفنا الذكية. عندما تلتقط صورة من هاتفك الذكي، تنشط خوارزميات التعرف على الوجوه لتحديد الأشخاص الذين يظهرون في الصورة، وليس هذا فقط، بل تقوم هذه الخوارزميات بتجميع الصور التي تحتوي على أشخاص قد تعرفهم وتضع علامات تعريفية عليها. وعندما تشارك وتتفاعل مع وسائل التواصل الاجتماعي، تقوم خوارزميات نظم التوصية في هذه التطبيقات بتقديم مقترحات مخصصة لك. يمكن أن تتضمن هذه المقترحات أشخاصا تهتم بمتابعتهم، أو قصصا تستحق القراءة، أو مقاطع فيديو يمكن أن تعجبك. وكلما قضيت وقتًا أطول في استخدام هاتفك، زادت قدرة هذه الخوارزميات على تعلم تفضيلاتك وتحسين توصياتها بناءً على تفاعلاتك السابقة، ما يعكس تقدما مستمرا في ذكاء النظم والتطبيقات الرقمية. الذكاء الاصطناعي .. فكرة قديمة ويمكن الجزم أن وجود آلة قادرة على التفكير كان حلما يراود اﻹنسان منذ عصور قديمة، ففي اليونان القديمة، اقترح الفيلسوف أرسطو فكرة «آلة التفكير» في أطروحته فيما يتعلق بالروح «De Anima»، وفي القرن السابع عشر، اقترح عالم الرياضيات والفيلسوف رينيه ديكارت فكرة بناء آلة قادرة على التفكير في مفهوم «الحيوان الآلي»، حيث تخيل كيف يمكن تمثيل عمليات العقل البشري بواسطة آلة ميكانيكية، هذه الأفكار القديمة كانت نقطة البداية لاهتمام البشر بتطوير الذكاء الاصطناعي وتطوير آلات قادرة على التفكير. وعلى الرغم من قدم التفكير في مفاهيم ذكاء الآلة، إلا أن خمسينات القرن العشرين يعتبر الانطلاقة الحقيقة للذكاء الاصطناعي كمجال بحثي مستقل، حيث أن الانطلاقة كانت في عام 1950 مع اقتراح آلان تورينج لاختبار تورينج. كانت هذه اللحظة المحورية تتمثل في تصور الآلات القادرة على عرض سلوك ذكي لا يميز عن سلوك البشر. وفي عام 1951 تم كتابة أول برامج عملية للذكاء الاصطناعي لجهاز (Ferranti Mark 1)، التي وضعت أساسًا لتطبيقات عملية للذكاء الاصطناعي. وقد شهدت الستينات تقدمًا كبيرًا في تطوير الذكاء الاصطناعي، مع إنشاء جون مكارثي للغة برمجة (LISP) في عام 1958 وإدخال شركة جنرال موتورز للروبوتات في خطوط تجميع السيارات في عام 1961. و على الرغم من هذه النجاحات، جلبت سنوات السبعينيات ما عرف بـ «شتاء الذكاء الاصطناعي»، حيث نفدت الأموال بسبب الوعود المبالغ فيها وعدم التسليم. ومع ذلك، تغيرت الموازين مع تطوير لغة البرمجة (PROLOG) في عام 1972 وبرنامج (MYCIN) الذي أظهر نهجًا قائمًا على القواعد للتشخيص الطبي في عام 1974. شهدت التسعينات عودة للذكاء الاصطناعي، مع هزيمة برنامج ديب بلو لشركة آي بي أم (IBM) لبطل الشطرنج العالمي غاري كاسباروف في عام 1997. وجلبت الألفية الجديدة ابتكارات مثل (AIBO) من شركة سوني، واحدة من أوائل الحيوانات الأليفة الذكية الاصطناعية في عام 1999، والرومبا (Roomba) لـشركة آي روبوت (iRobot) ، أول مكنسة كهربائية ذكية مستقلة سوقت للمستهلك العادي، في عام 2002. وفي عام 2011 ظهرت نجاحات الذكاء الاصطناعي في معالجة واستخدام اللغات الطبيعية عندما هزمت آي بي أم (IBM) ببرنامجها واتسون (WATSON) أبطال برنامج لعبة (Jeopardy!)، وبدأت تطبيقات الهواتف الذكية مثل Siri وGoogle Now وCortana في استخدام اللغة الطبيعية للإجابة على الأسئلة. في السنوات الأخيرة، شهدت الذكاء الاصطناعي تطورات مذهلة. ففي عام 2015، أدت نماذج الانتشار (Diffusion) إلى تمكين هندسة الذكاء الاصطناعي لتوليد صور من الوصف النصي. كما تم إطلاق نماذج مثل (GPT) و(BERT) في عام 2018، استنادًا إلى هندسة المحولات (Transformers)، وقد مكنت هذه النماذج القدرة على إنتاج نصوص ذي جودة عالية بناءً على استفسار المستخدم. برنامح (DALL-E) من شركة (OpenAI)، الذي تم إصداره في عام 2021، عرض إمكانيات فريدة في فهم المفاهيم النصية وتقديم صور وفقًا لهذه المفاهيم. استمرت المشهد في التطور في عام 2022 مع إصدار نماذج الانتشار الكامن، مما أدى إلى ظهور أدوات تحويل النصوص إلى صور مثل DALL-E 2 وMidjourny وStable Diffusion. بشكل لافت للنظر، شهد عام 2022 إصدار (ChatGPT)، وهو نموذج ثوري في تاريخ الذكاء الاصطناعي. قدرته على التفاعل بتنسيق حواري يمكّن (ChatGPT) من الإجابة عن أسئلة المتابعة والاعتراف بالأخطاء وتحدي الافتراضات غير الصحيحة ورفض الطلبات غير الملائمة، وهذه النماذج كانت قفزة مهمة إلى الأمام، فتحت الأبواب لإمكانيات جديدة في التواصل والمشاركة القائمة على الذكاء الاصطناعي. رحلة الذكاء الاصطناعي، من بدايتها حتى الوقت الحاضر، تعكس مسارًا ملحميًا للابتكار والتحديات والاختراقات التحولية، ومع استمرار التقدم في هذا المجال، يمكننا توقع رؤية المزيد من التطورات الرائدة والتكنولوجيا المبتكرة التي ستوجد شكلا جديدًا للتواصل بين الإنسان والآلة. آلات متعلمة إن القدرة على التعلم تعتبر من أعظم نعم الله على الإنسان، فهي تساعده في التطور والتقدم في مختلف مجالات الحياة، فالإنسان يولد بمهارات بسيطة تساعده على الإدراك والاستجابة لمحيطه الخارجي، ولكن قدرته على التعلم، مع الوقت، تجعله قادرا على اكتساب مهارات تمكنه من القيام بأعمال تتراوح من البسيط منها مثل كتابة قائمة المشتريات الأساسية لليوم، إلى حل المشكلات المعقدة مثل استنباط النظريات التي تساعد على فهم الكون. لذا، فتصميم آلات تحاكي قدرة الإنسان في التعلم يعتبر أمرا صعبا، وهنا يأتي السؤال، ما هو تعلم الآلة، ولماذا نريد من الآلة أن تتعلم، وما هي تطبيقات تعلم الآلة على أرض الواقع، وكيف ساهم تعلم الآلة في تطور الذكاء الاصطناعي التوليدي؟ قبل التطرق لمفهوم تعلم الآلة، لنقف قليلا للكيفية التي يتم فيها تحويل فكرة ما إلى برنامج (أو نظام) حاسوبي. غالبا أي نظام يتم العمل به بهدف حل مشكلة ما، أو لأنه يستفيد من فرصة معينة، أو لتنفيذ مهمة محددة. في البرمجة التقليدية يتم تحويل الفكرة إلى برنامج حاسوبي وذلك من خلال كتابة الشيفرة المصدرية (Source Code) لتنفيذ خوارزمية محددة، والخوارزمية عبارة عن مجموعة من الخطوات الصارمة والمتسلسلة المصممة لحل مشكلة ما أو لإجراء مهمة معينة، على سبيل المثال، لنفترض أننا نريد كتابة برنامج يتعرف على أنواع الهواتف المحمولة من خلال الصور، ففي الحالة يتم كتابة مجموعة من القواعد التي تحدد نوع الهاتف، بناء على الشكل، والحجم، واللون. هذا النوع من البرمجة له محدوديته. أولا، البرنامج سيكون قادرا على التعرف على أنواع محددة من الهواتف، وإذا أردنا للنظام التعرف على أنواع أخرى من الهواتف، فإنه سيتعين علينا تعديل الشيفرة المصدرية للنظام بشكل كبير. ثانيا، مع وجود العديد من أنواع الهواتف، فإن كتابة مجموعة من القواعد لتحديد نوع الهاتف من الخلال الصور، ليس بالأمر الهين، وقد لا يكون ممكنا باستخدام طرق البرمجة التقليدية. هنا يأتي دور تعلم الآلة، حيث يمكن بناء أنظمة تتعلم وتتكيف تلقائيا مع أنواع متعددة من البينات دون الحاجة إلى برمجةٍ صريحة، فبالعودة إلى المثال السابق، لبناء نظام التعرف على أنواع الهواتف المحمولة من الصور، نقوم بجمع بيانات مصنفة حسب النوع، تحتوي على صور الهواتف المراد التعرف إليها، وبعدها يتم تدريب النظام باستخدام هذه البينات عن طريق مجموعة من الخوارزميات وذلك لاستنباط نماذج حسابية للبيانات التي تم استخدامها في عملية التدريب. بعد ذلك يتم استخدام هذه النماذج وذلك للتنبؤ بدقة بالاعتماد على بيانات جديدة غير مرئية، مثل صورة جديدة في المثال المذكور في هذا السياق. وإذا أردنا التعرف على صور أنواع جديدة، كل ما نحتاجه هو أمثلة جديدة لهذه الأنواع يتم إضافتها إلى البيانات المستخدمة في تدريب الآلة دون الحاجة إلى تعديل الشيفرة المستخدمة. هذا يجعل تعلم الآلة أكثر مرونة وقوة في التعامل مع مجموعة متنوعة من المهام والبيانات. آلية تطوير النماذج المعتمدة على تعلم الآلة يمكننا التمييز بين نوعين من أنماط تعلم الآلة: تعلم الآلة الخاضع للإشراف وتعلم الآلة غير الخاضع للإشراف. فالمثال السابق يندرج تحت النوع الأول، حيث يتم تزويد خوارزمية التعلم ببيانات معروفة مسبقا، تحتوي على الإجابات المرجوة (على سبيل المثال، تصنيف الصور إلى فئات معينة). ثم يتم توجيه النموذج لضبط نفسه تلقائيا بناء على هذه البيانات من أجل تحقيق الأداء الأمثل. بالمقابل، في تعلم الآلة غير الخاضع للإشراف، فإن الهدف الرئيسي للخوارزميات هو اكتشاف الهياكل والأنماط المخفية في البيانات غير المصنفة، حيث يكتشف هذا النوع من تعلم الآلة الأنماط والترتيبات المخفية في البيانات بناءً على التشابه والعلاقات بين نقاط البيانات، ويأتي هذا الأسلوب ليؤدي دورًا حيويًا في توفير حل لمجموعة متنوعة من التحديات. على سبيل المثال، يمكن استخدامه لتجميع البيانات في مجموعات تحتوي على عناصر متشابهة، مثل تجميع العملاء استنادا إلى عادات الشراء. بالإضافة إلى ذلك، يسهم في اكتشاف الاحتيال والغش من خلال اكتشاف أنماط غير عادية أو غير متوقعة في البيانات، كما في حالة اكتشاف عمليات الاحتيال في المعاملات المصرفية. إنَّ التعلم من خلال الأمثلة والبيانات يعتبر أهم تقنيات الذكاء الاصطناعي المستخدمة اليوم باتفاق العديد من العلماء في هذا المجال، حيث إن التحول إلى تعلم الآلة برز في تسعينيات القرن الماضي مع الانفجار المعلوماتي الذي صاحب انتشار الشبكة العالمية والشبكة العنكبوتية، وقبل هذا التحول، فإن تطبيقات الذكاء الاصطناعي كانت تعتمد بشكل كبير على المنطق وطرق التفكير المنطقي، لكن هذه التطبيقات لم تحقق نجاحات كبيرة، بعكس التقنيات المعتمدة على تعلم الآلة، وأحد العوامل التي ساعدت على هذا التحول هو استكشاف فرضيات تتعلق بالكيفية التي يتعلم فيها الإنسان، وخلصت بعض التجارب في علم النفس إلى استنتاج أن الإنسان لا يفكر بطريقة منطقية، لكن يستخدم طرق تفكير تعتمد في المقام الأول على الأمثلة والتجارب السابقة. وأحد أبرز الأمثلة على هذا النهج هو «الشبكات العصبونية الاصطناعية»، حيث تحاكي هذه الشبكات تركيب ووظائف الشبكات العصبية في الدماغ البشري، حيث إن اللبنة الأساسية لهذه الشبكات هي الخلايا العصبية، هذا المفهوم يشبه إلى حد كبير الشبكة العصبية في أدمغتنا البشرية، تأخذ هذه الخلية العصبية الاصطناعية عددا من المدخلات، تقوم بتجميعها، ثم بناء على معادلة رياضية تعطي مخرجات الخلية العصبية. تتكون الشبكة العصبونية الاصطناعية من هذه الخلايا العصبية المترابطة مع بعضها البعض، وهي منظمة في طبقات الإدخال والإخراج وطبقات بينية. يمكن لهذه الشبكة تمثيل أنماط بيانية معقدة بشكل مبسط بواسطة مجموعة من الدوال الرياضية. أحد الأمثلة البارزة على هذا النهج هي «الشبكات العصبونية الاصطناعية». تم تصميم هذه الشبكات لتقليد تركيب ووظائف الشبكات العصبية في أدمغة البشر. تعتمد هذه الشبكات على وحدات تُعرف بالخلايا العصبية الاصطناعية كوحدات أساسية. تقوم هذه الخلايا بأخذ مجموعة من المدخلات، وتجميعها، ثم تطبيق معادلات رياضية تُمثل عملية الاحتساب النخبي لهذه الخلايا. تتكون الشبكة العصبونية الاصطناعية، كما هو واضح في الرسم التوضيحي 2، من العديد من هذه الخلايا العصبية المترابطة مع بعضها في شكل طبقات مختلفة، بما في ذلك الطبقات الأولى (الإدخال) والطبقات الوسطى (الإخفاء) والطبقات الأخيرة (الإخراج). يمكن لهذه الشبكة تمثيل أنماط بيانية معقدة بشكل مبسط باستخدام مجموعة من الدوال الرياضية. الشبكة العصبونية الاصطناعية تعتبر الشبكات العصبونية الاصطناعية أساسًا لما يُعرف اليوم بمجال «التعلم العميق»، الذي يُعزى إليه العديد من النجاحات في مجال الذكاء الاصطناعي مؤخرًا. تطبيقات هذا النهج تشمل مجموعة واسعة من المجالات مثل التعرف على الصوت والصور ومعالجة اللغة الطبيعية، وقد ساهم هذا النوع من الشبكات في تطوير الأنظمة الذكية والتطبيقات المتقدمة، وأحد الأمثلة على هذه النظم هو برنامج الـ(ChatGPT) الذي يعتمد في الأساس على شبكة عصبونية عميقة، ويقاس على ذلك نظم الذكاء الاصطناعي التوليدي التي اجتاحت العالم مؤخرا. على الرغم من الأسس العلمية للتعلم العميق وجدت من أربعينيات القرن الماضي، إلا أن نجاحاته لم نشهدها إلا في السنوات العشر الأخيرة. وهذا يعزى إلى سببين رئيسين: الأول هو تطور سرعة المعالجات واستخدام معالجات متخصصة لتدريب نماذج الذكاء الاصطناعي مثل: معالجات الرسوميات (GPU) ومعالجات المتجهات الرياضية (TPU)، حيث قللت هذه المعالجات من المدة الزمنية لتطوير نماذج متقدمة للبيانات المستخدمة. أما السبب الثاني فهو توفر بيانات ضخمة ومصنفة تسمح بتدريب نماذج تعلم عميق ذات دقة عالية. ومن المتوقع أن يستمر التطور في مجال تعلم الآلة والتعلم العميق كونهما أنجع حلول الذكاء الاصطناعي الذي عرفه المختصون إلى اليوم، حيث ستستخدم تقنيات التعلم من خلال الأمثلة في تطبيقات مستقبلية متنوعة، ساهمت في تحقيق تقدم ملموس في مجموعة متنوعة من المجالات بما في ذلك الرعاية الصحية، والتمويل، والأتمتة الصناعية، والسيارات الذكية، والروبوتات، وغيرها. بالاعتماد على تقنيات التعلم من خلال الأمثلة والبيانات، يمكن للذكاء الاصطناعي أن يواصل تحقيق إنجازات مذهلة وتقديم حلول للعديد من التحديات التي تواجه البشرية. إن التحول نحو التكنولوجيا الذكية أصبح أمرًا حتميًا، وهذا واضح من خلال الاسترتيجيات الوطنية للذكاء الاصطناعي في العديد من الدول بهدف تعزيز الابتكار وتحقيق التطور في مجالات البحث والتطوير المتعلقة بالتقنيات الحديثة. وفي ظل التنافس العالمي، يظهر التفوق البارز للولايات المتحدة والصين في الاستنثمار وتطوير التقنيات المتقدمة، وعلى الرغم من صعوبة قياس حجم الاستثمارات الحكومية بدقة، فإن النجاح في هذا الميدان يعتمد على توجيهات واستراتيجيات فعّالة. من خلال تشجيع البحث والتطوير، وتعزيز حوكمة التقنيات الذكية، يمكن للدول تحقيق التوازن بين التقدم التكنولوجي والقضايا الاخلاقية والاجتماعية. والعديد من التحديات المستقبلية مثل المسائل القانونية والأخلاقية المرتبطة بالذكاء الاصطناعي تستدعي حوارًا دوليًا لوضع أطر قانونية فعّالة وأخلاقية. سلطنة عمان، بقيادة حكومية حكيمة، وتفاني المؤسسات، تسعى جاهدة إلى تعزيز مكانتها في مجال الذكاء الاصطناعي وذلك من خلال الاستثمار في برامج التدريب التي تسعى إلى تعزيز القدرات الوطنية، وهذا يعكس إلتزامًا لتطوير بنية رقمية حديثة وتحفيز الابتكار. في الختام، يظهر الالتزام الشامل في سلطنة عمان بالابتكار، وتعزيز القدرات الوطنية في مجال الذكاء الاصطناعي استعدادًا للتحديات التكنولوجية المستقبلية، وهذا سيكون له تأثير إيجابي على المستوى الوطني والعالمي، وسوف يعزز مكانتها كلاعب رئيسي في صياغة مستقبل التكنولوجيا والابتكار.
المصدر: لجريدة عمان
إقرأ أيضاً:
باحثون بجامعة أكسفورد يقترحون منهجية جديدة لاكتشاف هلوسة الذكاء الاصطناعي
إحدى المشكلات المزمنة التي تعاني منها أنظمة الذكاء الاصطناعي التوليدي الحالية، مثل "شات جي بي تي"، هي أنها غالبا تؤكد بثقة على بعض المعلومات الخاطئة، ويطلق الباحثون والخبراء على هذا السلوك اسم "الهلوسة"، وهو يمثل عائقا أساسيا أمام فعالية تلك الأنظمة.
يحاول الباحثون من عدة جامعات ومؤسسات بحثية إيجاد حلول لتلك المشكلة، وفي ورقة بحثية جديدة، نُشرت في دورية "نيتشر" العلمية، يصف الباحثون، في قسم علوم الحاسب بجامعة أكسفورد، أسلوبا جديدا لاكتشاف متى يُحتمل أن تهلوس أنظمة الذكاء الاصطناعي.
تتمكن المنهجية المذكورة في الورقة البحثية من التفرقة بين الإجابات الصحيحة والخاطئة، التي يولدها نموذج الذكاء الاصطناعي بنسبة 79% تقريبا من الوقت، وهي نسبة أعلى بنحو 10 نقاط مئوية من المنهجيات الرائدة الأخرى المتاحة حاليا.
ورغم أن هذا الأسلوب يعالج سببا واحدا فقط من الأسباب العديدة لهلوسة نماذج الذكاء الاصطناعي، ويتطلب قوة حوسبة أكبر بعشر مرات تقريبا من المحادثة العادية مع الروبوت، فإن تلك النتائج قد تمهد الطريق لأنظمة ذكاء اصطناعي موثوقة أكثر في المستقبل القريب، كما يشير تقرير في مجلة تايم.
هلوسة الذكاء الاصطناعي
أصبح مصطلح "الهلوسة" شائعا في مجال الذكاء الاصطناعي، لكنه يعتبر أيضا مصطلحا مثيرا للجدل، فمن ناحية، يشير المصطلح إلى أن لدى النماذج نوعا ما من الخبرة الذاتية للعالم، وهو ما يتفق معظم علماء الحاسب على أنه ليس موجودا.
ومن ناحية أخرى، يشير المصطلح إلى أن تلك الهلوسة هي مشكلة قابلة للحل، وليست مشكلة جوهرية، وربما غير قابلة للحل في النماذج اللغوية الكبيرة، ويظهر هنا اختلاف بين معسكرات الباحثين في مجال الذكاء الاصطناعي حول إجابة هذا السؤال، لكن الأهم من كل ذلك هو أن المصطلح غير دقيق، فهو يصف عدة فئات متباينة من الأخطاء التي يقع بها نموذج الذكاء الاصطناعي، كما يشير التقرير.
ولذا قرر فريق جامعة أكسفورد التركيز على فئة واحدة بعينها من الهلوسة، أطلقوا عليها اسم "التَخْريف" (confabulations)، وهي عندما يصدر نموذج ذكاء اصطناعي إجابات خاطئة غير متوافقة على سؤال يتعلق بالحقائق، على عكس الإجابة الخاطئة المتوافقة نفسها التي تنشأ غالبا من أسباب أخرى مثل مشكلات في بيانات تدريب النموذج، أو عندما يكذب النموذج سعيا وراء الحصول على مكسب ما، أو عندما يعاني من خلل هيكلي في منطقه أو أسلوب استنتاجه.
"الأنتروبيا الدلالية" هو مقياس لمدى تشابه أو اختلاف معاني كل إجابة (شترستوك) أسلوب بسيط
الأسلوب الذي استخدمه الفريق البحثي لاكتشاف احتمالية أن يخرف النموذج بسيط نسبيا، في البداية، يطلب الباحثون من روبوت المحادثة أن يصدر مجموعة من الإجابات، تكون عادة ما بين 5 إلى 10 إجابات، على السؤال نفسه، ثم يستخدمون نموذجا لغويا مختلفا لتصنيف تلك الإجابات بناء على معناها.
على سبيل المثال، إجابات "باريس هي عاصمة فرنسا" و"عاصمة فرنسا هي باريس" سيصنفهما النموذج في المجموعة نفسها لأنهما يحملان المعنى ذاته، بالرغم من اختلاف صياغة الجملتين. أما إجابة مثل "عاصمة فرنسا هي روما" فيصنفها النموذج في مجموعة مختلفة.
ثم يحسب الباحثون بعد ذلك رقما أطلقوا عليه اسم "الأنتروبيا الدلالية" (semantic entropy)، وهو مقياس لمدى تشابه أو اختلاف معاني كل إجابة، فإذا كانت كل إجابات النموذج تحمل معاني مختلفة، تصبح قيمة الأنتروبيا الدلالية مرتفعة، مما يشير إلى أن النموذج مشوش ويتعرض لسلوك "التخريف".
أما إذا كانت كل إجابات النموذج تحمل معاني متطابقة أو متشابهة، فستكون قيمة الأنتروبيا الدلالية منخفضة، مما يشير إلى أن النموذج يقدم إجابة متسقة، ولهذا لا يُحتمل أن يكون النموذج معرضا لسلوك التخريف، قد تظل الإجابة خاطئة باستمرار، لكن هذا يعتبر نوعا مختلفا من الهلوسة، مثلا قد تكون بسبب مشكلات في بيانات تدريب النموذج نفسها.
ذكر الباحثون أن أسلوب رصد الأنتروبيا الدلالية تفوق على العديد من الأساليب الأخرى لاكتشاف هلوسة نماذج الذكاء الاصطناعي، وشملت تلك الأساليب "الأنتروبيا البدائية"، التي تكتشف فقط اختلاف صياغة الجملة وليس معناها، وأسلوب آخر يطلب من النموذج نفسه تقييم مدى صحة إجاباته، بجانب أسلوب آخر يُضبط فيه نموذج الذكاء الاصطناعي على الإجابات الصحيحة لأسئلة محددة.
هل يصلح للتطبيق العملي؟
يطرح الفريق البحثي بعض الأفكار حول كيف يمكن لمنهجية كشف "الأنتروبيا الدلالية" أن تبدأ في الحد من هلوسة روبوتات المحادثة الرائدة في المجال حاليا. يذكر أحد مؤلفي الورقة البحثية أنها من الممكن نظريا أن تسمح لشركة أوبن إيه آي بإضافة خيار إلى روبوت "شات جي بي تي"، حين يضغط المستخدم على إجابة ما، سيحصل على درجة من التأكد تمنحه شعورا أكبر بالثقة حول دقة تلك الإجابة.
كما يوضح أن هذا الأسلوب قد يُدمج أيضا ضمن الأدوات الأخرى التي تعتمد على نماذج الذكاء الاصطناعي في أماكن العمل مرتفعة المخاطر، حيث ترغب الشركة أو المؤسسة في مبادلة السرعة والتكلفة بدقة الإجابة.
في حين أن الفريق البحثي متفائل بشأن قدرة أسلوبهم على تحسين موثوقية أنظمة الذكاء الاصطناعي، إلا أن بعض الخبراء يحذرون من المبالغة في تقدير تأثيره الفوري، وفقا لتقرير تايم.
ويشير بعض الخبراء إلى عدم وضوح إمكانية دمج هذا الأسلوب في تطبيقات حقيقية مثل روبوتات المحادثة المنتشرة حاليا، كما يشير التقرير، ويوضحون أنه كلما أصبحت نماذج الذكاء الاصطناعي أكثر قدرة، سيحاول الناس استخدامها في مهام أكثر صعوبة ربما تزداد فيها احتمالية الفشل.
الجيش الملكي والرجاء البيضاوي يعلنان توزيع تذاكر نهائي كأس العرش مجانا