الروبوتات تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
موسكو ــ وكالات
أظهرت دراسة جديدة أنه تماماً مثل البشر، فإن روبوتات الدردشة الذكية اصطناعياً مثل ChatGPT ستغش وتكذب عليك إذا «ضغطت» عليها، حتى لو تم تصميمها لتكون صادقة وشفافة. وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول «التداول الداخلي»، ثم كلف بجمع الأموال لمؤسسة قوية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية، وتقديم التحديثات للمديرين في الشركة. وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف. وفي نحو 75 % من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناءً على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي نحو 90 % من الحالات، تضاعف الكذب.
المصدر: صحيفة البلاد
كلمات دلالية: الروبوتات
إقرأ أيضاً:
شركة صينية تعلن عن أحدث نماذجها لـ«الذكاء الاصطناعي»
أعلنت شركة “علي باباAlibaba Group Holding“، الصينية، “عن نموذج الذكاء الاصطناعي الجديد QwQ-32B، الذي طوّرته لمنافسة DeepSeek الشهير”.
وتبعا لصحيفة “China Morning Post فإن QwQ-32B”، “هو نموذج ذكاء اصطناعي جديد مفتوح المصدر، يدّعي مطوروه أن ليده قدرات متفوقة مقارنة بـ DeepSeek R1 مع استهلاك طاقة حوسبة أقل بكثير”.
ووفق الصحيفة، “تم تطوير QwQ-32B باستخدام 32 مليار معلمة أو رمز برمجي، ولكنه وتبعا لمطويريه يتفوق على نموذج DeepSeek R1 مجالات رئيسية مثل الحسابات الرياضية، وتوليد التعليمات البرمجية، والإجابة على الأسئلة العامة، بالرغم من أن الأخير طوّرة باستخدام 671 مليار معلمة برمجية”.
وأكد المطوّرون أن “النموذج الجديد صمم ليكون قابلا مع العمل مع الحواسب والأجهزة ذات القدرات المتواضعة، ليصل إلى شريحة أوسع من الستخدمين، ولتحسين قدرات الاستدلال الخاصة بالنموذج، استخدم الخبراء في Alibaba تقنية التعلم المعزز، وهي تقنية استخدمتها DeepSeek سابقا لإنشاء نموذج R1، كما تزعم Alibaba أن نموذجها الجديد يتفوق على العديد من نماذج الذكاء الاصطناعي مثل o1-mini من “OpenAI.
ووفق صحيفة “ميل”، “يتوفر نموذج QwQ-32B الجديد حاليا على منصة Hugging Face، إحدى أكبر المنصات للذكاء الاصطناعي مفتوحة المصدر، ويمكن للمستخدمين أيضا اختبار قدراته من خلال برنامج الدردشة Qwen، حيث يتم إدراجه باسم QwQ-32B-Preview”.
لجنة حماية المعطيات: هجومات سيبرانية تستهدف مواقع حكومية مغربية