باحثون يحذرون: نماذج الذكاء الاصطناعي قادرة على خداعنا واختلاق إجابات
تاريخ النشر: 21st, June 2024 GMT
حذر باحثون من أن نماذج الذكاء الاصطناعي يمكن أن «تهلوس» وتختلق إجابات عن الأسئلة التي لا تعرف حلها.
وفي ذات الوقت، أشار الباحثون إلى أنهم ابتكروا طريقة يمكن بها رصد هذه المشكلة التي قد تسبب كوارث خطيرة، إذا ارتبطت الأسئلة بالمجالات العلمية والطبية.
وبحسب صحيفة «إندبندنت» البريطانية، فقد طور الباحثون التابعون لجامعة أكسفورد نموذجاً إحصائياً يمكنه تحديد متى من المحتمل أن تختلق روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إجابات غير صحيحة عن أسئلة ما.
وأشار الفريق إلى أن نموذجهم يعتمد على الوقت الذي يقوم فيه روبوت الدردشة بالإجابة عن السؤال الموجَّه إليه، حيث يمكن للنموذج المبتكر، عن طريق حساب هذا الوقت، معرفة ما إذا كان روبوت الدردشة متأكداً من الإجابة أو قام بتأليفها واختلاقها.
وقال مؤلف الدراسة الدكتور سيباستيان فاركوهار: «إن نماذج الذكاء الاصطناعي قادرة على خداعنا عن طريق طرح إجابات تبدو مؤكدة، ويصعب الكشف عن أنها مختلَقة».
وأضاف: «مع الأساليب السابقة، لم يكن من الممكن معرفة الفرق بين النموذج الذي يكون غير متأكد بشأن إجابته، وذلك الذي يعطي إجابات صحيحة على الأسئلة الموجهة إليه. لكن طريقتنا الجديدة يمكنها رصد هذا الأمر».وقال الباحثون في دراستهم التي نُشِرت في مجلة «الطبيعة»: «إن هلوسة نماذج الذكاء الاصطناعي التوليدي مصدر قلق رئيس، حيث إن الطبيعة المتقدمة للتكنولوجيا وقدرتها على المحادثة تعنيان أنها قادرة على تمرير معلومات مختلقة وغير صحيحة على أنها حقيقة فقط، من أجل الرد على الاستفسارات والأسئلة».
ودعا الفريق إلى اتخاذ إجراءات قوية لمكافحة هلوسة الذكاء الاصطناعي، على وجه الخصوص عندما يتعلق الأمر بالاستفسارات الطبية أو القانونية.
والشهر الماضي، اتخذت شركة «غوغل» خطوات لتطوير محرك البحث الجديد «إيه آي أوفرفيوز» AI Overviews، المدعوم بالذكاء الاصطناعي التوليدي، بعد أن أبلغ مستخدمون عن إجابات غريبة أو أخرى تنطوي على خطورة محتملة.
وفي شهر يناير (كانون الثاني) الماضي، حذرت دراسة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.
واختبر فريق الدراسة التابع لشركة «Anthropic» الناشئة للذكاء الاصطناعي ما إذا كانت روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع الناس.
ووجد الفريق أن هذه الروبوتات لا تستطيع تعلم الكذب فحسب، بل من المستحيل إعادة تدريبها بعد ذلك على قول الحقيقة والمعلومات الصحيحة باستخدام تدابير السلامة الخاصة بالذكاء الاصطناعي المتاحة في الوقت الحالي.
وحذر الباحثون من وجود «شعور زائف بالأمان» تجاه أنظمة الذكاء الاصطناعي والمعلومات المستمدة منها.
وأشار الفريق إلى خطورة برمجة المحتالين وقراصنة الإنترنت لأنظمة الذكاء الاصطناعي على الكذب وإخفاء الأضرار التي قد تنتج عن عملية شرائية معينة أو عن الدخول إلى موقع ما.
المصدر: عين ليبيا
كلمات دلالية: الذكاء الاصطناعي خداع البشر نماذج الذکاء الاصطناعی
إقرأ أيضاً:
وايدبوت تطلق AQL-7B نموذج لغوي عربي يعتمد على الذكاء الاصطناعي
أعلنت شركة وايدبوت للذكاء الاصطناعي المتخصصة في تقديم حلول الذكاء الاصطناعي في الشرق الأوسط وشمال أفريقيا عن إطلاق AQL-7B، النموذج اللغوي العربي (LLM) الذي يمثل معيارًا جديدًا في أداء الذكاء الاصطناعي، ولا يقتصر تميز AQL-7B على دقة الأداء فحسب، بل يتفوق أيضًا على جميع النماذج العربية المتاحة حاليًا.
قال محمد مصطفى، الرئيس التنفيذي للتكنولوجيا بـ وايدبوت للذكاء الاصطناعي إنه "مع نموذج: "عقل للذكاء الاصطناعي التوليدي" قد تجاوزنا جميع النماذج اللغوية العربية الموجودة حاليًا، ودفعنا حدود ما هو ممكن في معالجة اللغة العربية الطبيعية".
وأضاف: "يعكس النموذج التوليدي للذكاء الاصطناعي "عقل" التزام فريقنا بالتميز، ونحن متحمسون لإمكانياته في تغيير طريقة تفاعل الشركات في الشرق الأوسط وشمال أفريقيا".
أهم مميزات AQL-7B:
● أداء متفوق: يتميز نموذج "AQL-7B" على النماذج العربية الأخرى في اختبارات مقارنة عديدة مثل ،MMLU ARC Challenge ،PIQA، وRACE. وعلى الرغم من أن حجمه يبلغ 7 مليارات معامل فقط، إلا أنه يتنافس مباشرة مع النماذج التي تفوقه حجمًا بأكثر من 10 مرات، مما يثبت كفاءته وقدرته العالية.
● تصميم مدمج وكفاءة عالية: تم تصميم AQL-7B ليعمل بسرعة وكفاءة من حيث التكلفة، مما يتيح الوصول إلى الذكاء الاصطناعي المتقدم دون الحاجة إلى بنية تحتية مكلفة، مما يجعله مناسبًا لمجموعة واسعة من المستخدمين والشركات.
● قدرات متعددة اللغات: بالإضافة إلى اللغة العربية الفصحى واللهجات، يدعم نموذج AQL-7B أكثر من ٣٠ لغة ومنها في الشرق الأوسط: الفارسية، العبرية، التركية. وفي أوروبا الغربية: الألمانية، الفرنسية، الإسبانية، البرتغالية، الإيطالية، والهولندية. وفي أوروبا الشرقية والوسطى: الروسية، والتشيكية، والبولندية. وفي جنوب آسيا: الهندية، البنغالية، والأردية. وفي شرق آسيا: اليابانية والكورية. وفي جنوب شرق آسيا: الفيتنامية، التايلندية، الإندونيسية، الماليزية، اللاوية، البورمية، السيبيوانية، الخميرية، و تاغالوغ، وغيرها.
تقييمات النموذج المتميز:
في اختبارات دقيقة مقارنةً بنماذج لغوية أخرى، تفوّق AQL-7B في العديد من المؤشرات الرئيسية، مما يظهر دقة وتوافقًا عن النماذج الأخرى. AQL-7B هو جزء من منظومة وايدبوت للذكاء الاصطناعي ومتوافر عبر العديد من القنوات بما في ذلك الفيسبوك ماسنجر، والواتساب، والانستجرام، وتويتر، والويب شات، و واجهات برمجة التطبيقات وغيرها، مما يوفر للشركات الأدوات اللازمة لتطبيق الذكاء الاصطناعي عبر منصات متعددة بلغات متنوعة.
تمكين الشركات في منطقة الشرق الأوسط وشمال أفريقيا:
يهدف AQL-7B إلى دفع الابتكار في القطاعات الرئيسية مثل: الهيئات الحكومية، والتجارة الإلكترونية، وقطاع البنوك، والرعاية الصحية، وشركات الاتصالات، وغيرها من خلال تقديم حلول مخصصة ومحلية باللغة العربية وغيرها من اللغات.
وبدمج "نموذج عقل للذكاء الاصطناعي التوليدي" في أنظمتهم، يمكن للشركات الاستفادة من إمكانيات الذكاء الاصطناعي المتقدمة لتحسين تجارب العملاء، وزيادة كفاءة العمليات، وتعزيز اتخاذ القرارات.
قال محمد نبيل، الرئيس التنفيذي لشركة وايدبوت للذكاء الاصطناعي: "إن نموذج "عقل للذكاء الاصطناعي التوليدي" ليس مجرد نموذج لغوي كبير آخر؛ إنه نقلة نوعية للذكاء الاصطناعي في العالم العربي وسيفتح فرصًا جديدة للشركات لتقديم تجارب ذكية وأكثر ذكاءً معتمدة على الذكاء الاصطناعي."
إيزيديو الشيخان.. من أغلبية حاكمة الى أقلية ضعيفة