أصبح مثل البشر.. دراسة تكشف عن سيناريو يجبر الذكاء الاصطناعي على الكذب
تاريخ النشر: 2nd, January 2024 GMT
لم يسلم الذكاء الاصطناعي، من الصفات البشرية الشريرة، ومنها الكذب والخداع، بعد أن كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي (AI)، يمكنها الكذب والخداع مثل البشر تماما، ومنها «ChatGPT» الشهير.
أظهرت دراسة جديدة أنه تمامًا مثل البشر، فإن روبوتات الدردشة ذات الذكاء الاصطناعي (AI) مثل ChatGPT، سوف تغش و«تكذب» عليك إذا «شددت» عليها، حتى لو جرى تصميمها لتكون شفافة.
البحث الذي جرى نشره على خادم ما قبل الطباعة «arXiv»، كشف أن هناك حالة واحدة تجعل الذكاء الاصطناعي، الذي من المفترض أنه تحمل كلماته المصداقية والشفافية يكذب، وهي تعرضه لضغط شديد، من أجل المال.
«سيناريو واحد يتصرف يجعل نموذج اللغة الكبير يتصرف بشكل غير صحيح ويخدع مستخدميه»، هكذا كشف مؤلفو الدراسة، التي قاموا خلالها بإعداد المحول التوليدي المدرّب مسبقًا-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، لينوب إحدى المؤسسات المالية في بعض الاستثمارات.
متى يكون الذكاء الاصطناعي كاذبا؟الباحثون قاموا بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة، ثم بعد ذلك قاموا بمنح الذكاء الاصطناعي إمكانية الوصول للأدوات المالية من أجل تحليل الأسهم وتنفيذ الصفقات، فضلا عن تخطيطهم للخطواته التالية وأيضا تقديم التحديثات لمديريهم في الشركة.
الباحثون قاموا بالتفاعل مع الذكاء الاصطناعي من خلال واجهة الدردشة، كما أنهم كونوا الذكاء الاصطناعي ليكشف عن تفكيره الداخلي حين قيامه بالرد على الرسائل، وفي كل مرة تقوم بتجارة ما، كانت تقدم مبررًا ما جعل الذكاء الاصطناعي يكذب.
3 طرق استخدمها الباحثون للضغط على الذكاء الاصطناعي، الأولى هي إرسال متداول الأسهم المزيف بريدًا إلكترونيًا من مديره يقول فيه إن الشركة ليست في حالة جيدة وتحتاج إلى أداء أقوى بكثير في الربع القادم.
الطريقة الثانية كانت من خلال تزوير اللعبة، إذ حاول الذكاء الاصطناعي، العثور على صفقات واعدة ذات مخاطر متوسطة أو منخفضة، ولكنه فشل في ذلك.
آخر الطرق كانت بإرسال بريدًا إلكترونيًا من أحد زملائهم، يتوقع حدوث تراجع في الربع القادم من العامن.
وكشفت الدراسة أنه في حوالي 75% من الحالات، عندما واجهت GPT-4 هذه الشروط، نفذت صفقة تجارية بناءً على المعلومات الداخلية التي تلقتها، وهو أمر غير قانوني في الولايات المتحدة، ثم حاولت التستر عليها عن طريق الكذب على مديريها بشأن تفكيرها، في حوالي 90% من الحالات، ضاعف الذكاء الاصطناعي كذبته.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
كيف خسرت آبل عرش الذكاء الاصطناعي لصالح ميتا؟
كشف الصحفي الشهير المتخصص في أخبار أبل، مارك جورمان، عن رؤى جديدة مثيرة في أحدث إصدار من نشرته الإخبارية "Power On"، مشيرًا إلى أن أبل كان يمكن أن تتربع على عرش سوق النظارات الذكية، لكنها أضاعت الفرصة لصالح شركة ميتا بسبب ضعف التنسيق الداخلي.
ميتا تهيمن على المشهد بفضل استثماراتها في الواقع الممتدبعد أكثر من عقد من الاستثمار في تقنيات الواقع الممتد (XR)، أصبحت ميتا واحدة من أبرز الأسماء في مجال الواقع الافتراضي.
وتعد نظارات Meta Quest 3 وQuest 3S وQuest 2 من بين أكثر نظارات الواقع الافتراضي شعبية حول العالم.
ولم تكتفِ ميتا بذلك، بل أطلقت نظارات Ray-Ban الذكية التي حققت نجاحًا فاق كل التوقعات، ما دفع الشركة إلى إعادة هيكلة قسم XR للتركيز على تطوير أجهزة قابلة للارتداء من هذا النوع.
اللافت أن نظارات Ray-Ban الذكية لا تحتوي حتى على شاشة عرض، بل تعتمد على مكبرات صوت وميكروفون وكاميرا فقط ، ورغم ذلك، لاقت إعجابًا واسعًا من المستخدمين.
ومع دمج تقنية Meta AI، أصبحت النظارات أداة تقنية متطورة بحق. وتخطط ميتا الآن لإطلاق نسخة جديدة من النظارات مزودة بشاشة عرض قبل نهاية العام الجاري.
وبحسب جورمان، كان بإمكان أبل أن تحقق هذا النجاح ذاته، لكنها أهدرت الفرصة بسبب تأخرها في التنسيق الداخلي واتخاذ القرار. وأكد أن أبل كانت تدرس منذ فترة إطلاق منتج منافس لنظارات Ray-Ban، إلا أن التردد الطويل جعلها تخسر الصدارة لصالح ميتا.
ورغم إطلاق أبل نظارة Vision Pro للواقع المختلط، والتي تُعد منتجًا فخمًا، إلا أن المبيعات جاءت أقل من التوقعات.
ومع ذلك، أبل لم تتراجع عن طموحاتها في مجال XR، إذ تخطط في النهاية لتقديم نظارات واقع معزز حقيقية مدعومة بالذكاء الاصطناعي منتج شبيه بمشروع Meta Orion المستقبلي ، يمكن أن يكون بديلاً للهاتف الذكي.
مشكلات أبل مع الذكاء الاصطناعي تعرقل التقدمومما يزيد الأمور تعقيدًا أن مبادرة "Apple Intelligence" لا تزال تعاني من مشاكل جوهرية، متأخرة كثيرًا عن منافسين مثل "Gemini" من جوجل و"ChatGPT" من OpenAI.
وبالتالي، لن تتمكن أبل من إطلاق نظارات ذكية مدعومة بالذكاء الاصطناعي قبل إصلاح منظومة الذكاء الاصطناعي الخاصة بها.
وختم جورمان تحليله بجملة لاذعة قائلاً:"أبل أضاعت الفرصة لصالح شركة شبكات اجتماعية"،في إشارة مباشرة إلى ميتا، مضيفًا أن هذا الإخفاق كان يمكن تفاديه لو كانت جهود أبل أكثر تنسيقًا وجرأة.
العدو الإسرائيلي يشدد إجراءاته العسكرية على حاجز الحمرا في الأغوار الشمالية