أصبح مثل البشر.. دراسة تكشف عن سيناريو يجبر الذكاء الاصطناعي على الكذب
تاريخ النشر: 2nd, January 2024 GMT
لم يسلم الذكاء الاصطناعي، من الصفات البشرية الشريرة، ومنها الكذب والخداع، بعد أن كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي (AI)، يمكنها الكذب والخداع مثل البشر تماما، ومنها «ChatGPT» الشهير.
أظهرت دراسة جديدة أنه تمامًا مثل البشر، فإن روبوتات الدردشة ذات الذكاء الاصطناعي (AI) مثل ChatGPT، سوف تغش و«تكذب» عليك إذا «شددت» عليها، حتى لو جرى تصميمها لتكون شفافة.
البحث الذي جرى نشره على خادم ما قبل الطباعة «arXiv»، كشف أن هناك حالة واحدة تجعل الذكاء الاصطناعي، الذي من المفترض أنه تحمل كلماته المصداقية والشفافية يكذب، وهي تعرضه لضغط شديد، من أجل المال.
«سيناريو واحد يتصرف يجعل نموذج اللغة الكبير يتصرف بشكل غير صحيح ويخدع مستخدميه»، هكذا كشف مؤلفو الدراسة، التي قاموا خلالها بإعداد المحول التوليدي المدرّب مسبقًا-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، لينوب إحدى المؤسسات المالية في بعض الاستثمارات.
متى يكون الذكاء الاصطناعي كاذبا؟الباحثون قاموا بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة، ثم بعد ذلك قاموا بمنح الذكاء الاصطناعي إمكانية الوصول للأدوات المالية من أجل تحليل الأسهم وتنفيذ الصفقات، فضلا عن تخطيطهم للخطواته التالية وأيضا تقديم التحديثات لمديريهم في الشركة.
الباحثون قاموا بالتفاعل مع الذكاء الاصطناعي من خلال واجهة الدردشة، كما أنهم كونوا الذكاء الاصطناعي ليكشف عن تفكيره الداخلي حين قيامه بالرد على الرسائل، وفي كل مرة تقوم بتجارة ما، كانت تقدم مبررًا ما جعل الذكاء الاصطناعي يكذب.
3 طرق استخدمها الباحثون للضغط على الذكاء الاصطناعي، الأولى هي إرسال متداول الأسهم المزيف بريدًا إلكترونيًا من مديره يقول فيه إن الشركة ليست في حالة جيدة وتحتاج إلى أداء أقوى بكثير في الربع القادم.
الطريقة الثانية كانت من خلال تزوير اللعبة، إذ حاول الذكاء الاصطناعي، العثور على صفقات واعدة ذات مخاطر متوسطة أو منخفضة، ولكنه فشل في ذلك.
آخر الطرق كانت بإرسال بريدًا إلكترونيًا من أحد زملائهم، يتوقع حدوث تراجع في الربع القادم من العامن.
وكشفت الدراسة أنه في حوالي 75% من الحالات، عندما واجهت GPT-4 هذه الشروط، نفذت صفقة تجارية بناءً على المعلومات الداخلية التي تلقتها، وهو أمر غير قانوني في الولايات المتحدة، ثم حاولت التستر عليها عن طريق الكذب على مديريها بشأن تفكيرها، في حوالي 90% من الحالات، ضاعف الذكاء الاصطناعي كذبته.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يتنبأ بمكونات الوجبة المثالية
البلاد ــ وكالات
يعد مستقبل الطعام من الموضوعات الخاضعة للنقاش بشكل دائم؛ نظرًا لتراجع حجم إنتاج الغذاء العالمي مقارنة بالطلب المتزايد من ناحية، ونمو الوعي بضرورة اختيار البدائل الصحية لدى الأجيال الجديدة من ناحية أخرى.
وحتى العام الماضي كانت الوجبة المثالية لكثيرين، تشتمل على نقانق، ودجاج، وبيض، وستيك، ورقائق، ومشروب غازي. بينما لجأ فريق من المحررين بجريدة ديلي ستار للذكاء الاصطناعي إلى معرفة مكونات الوجبة المثالية في عام 2035. وخلال محادثة مع نموذج اللغة المدعوم بالذكاء الاصطناعي من جوجل، المعروف باسم« جمني»، ثم التوجه إلى «غروك» المدعوم بالذكاء الاصطناعي من إيلون ماسك لتصوير الفكرة، تم السؤال عن شكل الوجبة المثالية في عام 2035. وأفاد النموذج بأنه سيكون من الضروري، أن تكون عناصر الوجبة مستدامة، وتركز على الصحة والرفاهية.
وعندما طلبوا منه شرح ذلك قال:« أتوقع المزيد من الخيارات النباتية، وأن تطغى اختيارات الخضراوات على قوائم الطعام؛ لتلبية الطلب المتزايد من الزبائن».
كما ستكون الأولوية لاستخدام العبوات البسيطة، أو القابلة لإعادة التدوير. وقد يكون تسليط الضوء على المنتجات المحلية نقطة جذب رئيسة، وسيكون هناك تركيز أكبر على الأطعمة الغنية بالعناصر الغذائية، مع إمكانية عرض المعلومات الخاصة بالسعرات الحرارية أو التغذية بوضوح، إضافة إلى خيارات بديلة صحية للمشروبات السكرية والوجبات الخفيفة المعالجة.
5 شهداء بقصف صهيوني في مخيم جنين