..سلوكات الروبوتات مثل البشر: تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
عن روسيا اليومالمصدر: أخبارنا
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي في المستطيل الأخضر: هل يُنجب لنا ميسي أم يعيد ماردونا؟!
مؤيد الزعبي
رغم أن تقنيات الذكاء الاصطناعي قد دخلت المستطيل الأخضر قبل سنوات مع دخول تقنيات حكم الفيديو (VAR) وخط المرمى الذكي وأيضًا تقنيات الكشف عن التسلُّل، إلّا أننا على أعتاب حقبة جديدة ستتغير معها الكثير من الأمور؛ فمع زيادة استخدام الذكاء الاصطناعي في الملاعب وخارج الملاعب، أجدُ أنه ليس صعبًا أن نجد هذا الذكاء يُنجِب لنا ميسي أو كريستيانو جديدين، أو لربما يُعيد أسطورتي مارادونا أو بيليه إلى الملاعب.
قد تقول لنفسك- عزيزي القارئ- هل يُقصد هنا أن يُولِّد لنا الذكاء الاصطناعي مقاطعَ جديدة لهؤلاء النجوم أو يُشركهم في ألعاب افتراضية ويعرضها مثلًا من خلال تقنيات الواقع الافتراضي أو الميتافيرس أو الهولوجرام، وتكون بجودة كما لو كانت فعلًا حقيقية؟! أقول لك، نعم هذا جزء مما يمكن أن يحدث مستقبلًا، لكن القادم أكبر وأضخم!!
"إنَّ بناء فريق جيد يتطلب ذكاءً اصطناعيًا جيدًا"، تذكر هذه العبارة جيدًا عزيزي القارئ، وتخيل معي كم هي البيانات التي سنجمعها عندما يتعلم الذكاء الاصطناعي قراءة كل ما يحدث داخل أرضية الملعب، من تكتيكات واستراتيجيات ومهارات وتحركات اللاعبين، ويبدأ في تحليل كل هذا ويضعه أمام فرق التدريب والإعداد، وما يُمكِن أن يخرج لنا من طرق خفية لإعداد لاعبين بمهارات ميسي وقوة كريستيانو. وعندما تتطور هذه النماذج سيُوَفِّر لنا الذكاء الاصطناعي بيانات عن الأجسام التي يمكنها تنفيذ شكل مُعين من اللعب، وبالتالي توظيف أفضل لجهود أكاديميات كرة القدم في إعداد أو تدريب لاعبي المستقبل. ليس هذا فقط؛ بل يمكن للبيانات أن توفر لنا كيفية استغلال ما لدى الفرق من مهارات وكيفية توظيفها بناء على الخصم وقوته وأدائه خلال المباريات السابقة، وهذا يبرز أهمية الذكاء الاصطناعي؛ ذكاء اصطناعي جيد سيمكنك من هزيمة منافسيك في قادم الوقت.
إنَّ مدربي كرة القدم الآن يقومون بالكثير من الأمور لقراءة الخصم وتحليل مدى قوته، لكن هذه المهمة ستكون للذكاء الاصطناعي حصرًا في قادم الوقت؛ فالذكاء الاصطناعي قادر على مشاهدة مئات المباريات لفريق الخصم وتحليل كل جزء بها. لكن كل هذا يعتمد بشكل أساسي على قدرتنا على جمع البيانات من داخل أرضية الملعب، وبما أن ملاعبنا بدأت تعج بالكاميرات والحساسات فالبيانات حاضرة وموجودة وتبقى إعداد نماذج ذكاء اصطناعي وتوظيفها بما يخدم تطلعاتنا المستقبلية.
وفيما يخص التحكيم، يمكنني أن أقول لك عزيزي القارئ إننا سنودِّع حكم مباريات كرة القدم في قادم السنوات ربما، وبدلًا من الأخطاء التحكيمية وإثارة الجدل في نزاهة الحُكّام سيكون الذكاء الاصطناعي هو الحل المثالي لكل هذا. وقد بدأت تجارب لتنفيذ هذا الأمر، لكن ما كان ملفتًا حقيقة هو نجاح باحثين من جامعة «تشياو تونغ» الصينية وإحدى الشركات في ابتكار نظام «Match Vision»، والذي أصبح بإمكان نظامهم الذي يعمل بالذكاء الاصطناعي مشاهدة مباريات كرة القدم لتحديد اللقطات الرئيسية وإصدار قرارات مُماثلة لما يُصدره الحكم البشري، وقد نجح بنسبة تفوق 86% من الوصول لقرارات تحكيمية سليمة، رغم أنه لم يتلق سوى 3300 ساعة فيديو فقط من التدريب، من أكبر دوريات كرة القدم في أوروبا خلال الفترة من 2014 إلى 2024، ويستطيع التعامل مع 24 نوعًا مختلفًا من الأحداث المتعلقة بمباريات كرة القدم، مثل الأهداف والتسديدات والأخطاء والتسلل وحتى التغييرات التكتيكية في الاستحواذ.
تخيل ماذا سيحدث عندما يتم تدريبه على عشرات الآلاف من المباريات المسجلة، ويكون هذا النظام حاضرًا في الملاعب يجمع البيانات الحية، عندها سيصل بكل سهولة ليكون حكم كرة قدم متكاملًا.
اليوم.. ومع دخول تقنيات تصوير أعلى دقة ودخول أنظمة حاسوبية قادرة على قراءة وتحليل ما يحدث أمامها أستطيع القول إنَّنا مقبلون على عالم مختلف لكرة القدم، سوف تزداد البيانات وتزداد معها قوة نماذج الذكاء الاصطناعي سواء على مستوى التحكيم أو حتى تغيير قواعد اللعبة من حيث التكتيكات وتطوير طرق اللعب وحتى تحديد التبديلات المناسبة في الوقت المناسب، وسيكون الذكاء الاصطناعي مدربًا ذكيًا ومعدًا بدنيًا ماهرًا ومتخصص تغذية ماهر جدًا ومعد نفسي بارع، وسنجده مستكشف لاعبين يجد لنا لاعبين ماهرين بضغطة زر، ولم ينتهي الأمر إلى هنا بل سيكون الذكاء الاصطناعي رئيسًا عبقريًا قادر على إتمام الصفقات والتفاوض وإدارة القوائم المالية للنوادي.
في الحقيقة، لا أستبعد أن يصبح الاتحاد الدولي لكرة القدم "فيفا" بكل مكوناته وأذرعه، يُدار بالذكاء الاصطناعي، وفي النهاية الهدف تذليل الصعوبات على أرضية الملعب وخلق تنافسية عالية وتقديم متعة كرة قدم عالية، وبما أن الذكاء الاصطناعي سيوفر لنا كل هذا وأكثر فلا أستبعد حدوث ذلك في قادم السنوات، وكل يوم يمضي وتتطور فيه تقنية ذكاء اصطناعي جديدة سنجدها حاضرة وبقوة داخل المستطيل الأخر إلّا أن تجد اللعبة بأكملها قد تغيرات خطوة بعد خطوة، وفي النهاية أترك لك هذا السؤال: كيف سيكون تأثير دخول الذكاء الاصطناعي على أخلاقيات اللعبة من جانب وما يريده المُشجِّع من جانب آخر؟
رابط مختصر
5 شهداء بقصف صهيوني في مخيم جنين