الروبوتات تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
موسكو ــ وكالات
أظهرت دراسة جديدة أنه تماماً مثل البشر، فإن روبوتات الدردشة الذكية اصطناعياً مثل ChatGPT ستغش وتكذب عليك إذا «ضغطت» عليها، حتى لو تم تصميمها لتكون صادقة وشفافة. وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول «التداول الداخلي»، ثم كلف بجمع الأموال لمؤسسة قوية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية، وتقديم التحديثات للمديرين في الشركة. وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف. وفي نحو 75 % من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناءً على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي نحو 90 % من الحالات، تضاعف الكذب.
المصدر: صحيفة البلاد
كلمات دلالية: الروبوتات
إقرأ أيضاً:
«ميتا» تختبر روبوتات الذكاء على إنستجرام
البلاد ــ وكالات
بدأت شركة ميتا اختباراتها بعرض شخصيات الذكاء الاصطناعي، التي صنعها المبدعون من خلال استوديو الذكاء الاصطناعي AI studio عبر تطبيق إنستجرام. وفي ذات الوقت، تطرح شركة روبوتات الدردشة Character.AI قدرة المستخدمين على التحدث مع الصور الرمزية للذكاء الاصطناعي عبر مكالمة.وأكد الرئيس التنفيذي لشركة ميتا أن هذه الروبوتات تميز بوضوح على أنها ذكاء اصطناعي، وتهدف لتوعية المستخدمين بطبيعة هذه الروبوتات.
كما يتيح الاستوديو لمنشئي المحتوى التفاعل مع المعجبين من خلال الذكاء الاصطناعي، ويمكن استخدامه أيضًا للتفاعل مع العملاء.
وتسعى ميتا لتحسين منتجاتها بهذا الإصدار من أنظمة الذكاء الاصطناعي، كما سيتم توسيع الاختبارات لتشمل عددًا أكبر من الأشخاص خلال الشهرين المقبلين؛ بهدف تمكين الشركات من بناء روبوتات دردشة مخصصة.