مثل البشر.. الروبوتات "تكذب وتغش" تحت الضغط!
تاريخ النشر: 1st, January 2024 GMT
أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
إقرأ المزيد
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
ممثلون يستخدمون الذكاء الاصطناعي للحصول على مظهر أصغر
من روتين العناية بالبشرة اليومي إلى حقن البوتوكس وشد الوجه، يفعل البعض أي شيء تقريباً لإعادة عقارب الساعة إلى الوراء، والآن، يذهب بعض الممثلين إلى خطوة أبعد من ذلك ويستخدمون تقنية مثيرة للجدل لـ"تقليل الشيخوخة" رقمياً في مظهرهم.
وفي أحدث أفلامه، يستخدم توم هانكس (68 عاماً) وزميلته في فيلم Forrest Gump روبن رايت (58 عاما) الذكاء الاصطناعي للعب نفس الزوجين في مراحل مختلفة من حياتهما، وفق "دايلي ميل".
ويقول هانكس: "إنها أداة رائعة، لأن الحوسبة الفائقة تعني أنه لا يتعين عليك الانتظار حتى مرحلة ما بعد الإنتاج للقيام بالمنظر البصري الفني البحت لها".
وكان هناك قلق متزايد بشأن استخدام الذكاء الاصطناعي في السينما، حيث يخشى العديد من الممثلين من أن تجبر التكنولوجيا البشر على الخروج من صناعة الأفلام، ومع ذلك، دافع كل من هانكس ورايت عن استخدام الذكاء الاصطناعي، قائلين إنه يزيل الحاجة إلى اختيار ممثلين أصغر سناً.
إن إزالة الشيخوخة الرقمية هي تقنية جديدة نسبياً في المؤثرات البصرية والتي يمكن أن تجعل الممثلين يبدون أصغر سناً بشكل ملحوظ مما هم عليه.
وفي مرحلة ما بعد الإنتاج، يطبق المحررون لمسات نهائية أو تراكبات تم إنشاؤها بواسطة الكمبيوتر على وجه الممثل مثل القناع الرقمي، و في الماضي، كان المحررون يصنعون نموذجاً ثلاثي الأبعاد لوجه الممثل من عمليات مسح تفصيلية ويطبقون يدوياً عملية "شد الوجه الرقمية"، أي إزالة الذقن والتجاعيد وتقليل الأنف والأذنين.
ويتم بعد ذلك رسم هذا النموذج ثلاثي الأبعاد على وجه الممثل من خلال سلسلة من النقاط المرسومة في شبكة تماماً مثل الكرات البيضاء في عروض التقاط الحركة.
ويسمح ذلك لنموذج CGI بالتحرك بشكل واقعي في الوقت المناسب مع وجوه الممثلين الحقيقيين، ومع ذلك، مع ظهور نماذج الذكاء الاصطناعي القوية، لم تعد هناك حاجة لفنان المؤثرات البصرية لإنشاء النموذج الأصغر سناً يدوياً.
وبدلاً من ذلك، يتم تدريب الذكاء الاصطناعي على صور الممثلين حتى يتمكن تلقائيًا من إنشاء الصورة الأصغر سنا، ورسم القناع على تفاصيل دقيقة على وجوه الممثلين للحصول على أداء أكثر واقعية.
ويقول توم هانكس إن أدوات الذكاء الاصطناعي الجديدة يمكنها أن تفعل في "ثانية نانوية" ما كان ليستغرق ستة أشهر من التحرير في الماضي.
وتُظهر هذه الصور كيف يمكن لأداة رخيصة الثمن عبر الإنترنت أن تحاكي تقنيات إزالة الشيخوخة الاحترافية.
وكما نرى في هذه الصور التي تم تعديلها رقمياً، فهذا يعني أن الإصدارات الأصغر سنا لا تشبه دائماً الشخص الموجود في الصورة.
ويمكن للراغب تجربة هذه التقنية بنفسك، باستخدام محرر الوجوه Wondershare AI من Media.io ، وغالباً ما تبدو المرشحات العمرية الأرخص والأبسط فكرة عامة عن شكل الشباب، هذا يعني أن الذكاء الاصطناعي يميل إلى التركيز على التفاصيل مثل تنعيم التجاعيد وتعديل شكل الوجه بدلاً من إنشاء وجه محدد.
كما يمكن تصوير المشاهد في Pinewood ، حيث تستخدم أدوات الذكاء الاصطناعي لإزالة آثار الشيخوخة.
5 شهداء بقصف صهيوني في مخيم جنين