مثل البشر.. الروبوتات "تكذب وتغش" تحت الضغط!
تاريخ النشر: 1st, January 2024 GMT
أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
إقرأ المزيد
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
المصدر: لايف ساينس
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
الأحد المقبل.. سلطنةُ عُمان تستضيف مؤتمرًا دوليًّا حول الذكاء الاصطناعي
تستضيف سلطنة عُمان ممثلة بجامعة السُّلطان قابوس أعمال المؤتمر الدولي الرابع (الاتِّصال والإعلام وثورة الذّكاء الاصطناعي: الحاضر والمستقبل)، في الـ 17 من نوفمبر الحالى وتستمر ثلاثة أيام، تحت رعاية الدكتور عبدالله بن ناصر الحراصي، وزير الإعلام العمانى .
ويُعدُّ المؤتمر منصَّة للباحثين والأكاديميين والمتخصِّصين لمناقشة وتبادل المعارف والخبرات والتَّجارِب العربية والدولية ذات الصِّلة باستخدامات الذَّكاء الاصطناعي في حقل الاتِّصال والإعلام، وما تُفرزه هذه التَّجارب من ظواهر إعلاميَّة مختلفة.
ويسعى المؤتمر إلى التركيز على تغيُّرات البيئة الإعلامية والاتصالية والمشتغلين فيها، والمهارات اللازمة لمواكبتها، والتحديات الأخلاقية والقانونية المرتبطة بتوظيف الذَّكاء الاصطناعي في الإنتاج الإعلامي.
ويتناول المؤتمر الذي يُشارك فيه أكثر من 70 متحدثًا وباحثًا محليًّا ودوليًّا، يقدِّمون أكثر من 60 ورقة علمية، عددًا من المحاور؛ أهمها: الأُطُر الفلسفيَّة والمفاهيميَّة في استخدامات الذَّكاء الاصطناعي في الاتِّصال والإعلام، وتجارب تطبيق الذَّكاء الاصطناعي في صناعات الاتصال والإعلام عربيًّا ودوليًّا، وإشكالات وتحدّيات الاتِّصال والإعلام في ظلِّ الذَّكاء الاصطناعي، وبرامج التَّعليم والتَّدريب الإعلامي في حقل الاتِّصال والإعلام في ظلِّ تطبيقات الذَّكاء الاصطناعي، ومستقبل الصَّناعة الإعلامية في ظلِّ ثورة الذَّكاء الاصطناعي.
وأعلن المؤتمر الدولي الرابع لقِسم الإعلام بالتعاون مع مؤسسة صحافة الذَّكاء الاصطناعي للبحث والاستشراف (AIJRF)، عن إطلاق مسابقة تمثِّل أول تحدٍّ من نوعه، بعنوان: (تحدِّي مبتكري المحتوى بالذَّكاء الاصطناعي شباب GEN AI) بمشاركة أكثر من 50 متدربًا، لتعزيز مهارات الذَّكاء الاصطناعي لدى طلبة جامعة السُّلطان قابوس، والصحافيين في المؤسسات الصحفية العُمانية.
نصائح لتجنب الوقوع في أخطاء الشراء قبل الجمعة البيضاء.. احذر هذه الأفعال