..سلوكات الروبوتات مثل البشر: تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا "ضغطت" عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول "التداول الداخلي"، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: "في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف "نموذج اللغة" بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
عن روسيا اليومالمصدر: أخبارنا
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
د. محمد عسكر يكتب: سباق الذكاء الاصطناعي وتحذير أخير
الذكاء الإصطناعي هو حديث العالم، خصوصا تطبيقات الدردشة القادرة على التجاوب معك. لكن ألا يمثل هذا خطرا كبيرا؟
الدردشة مع تطبيقات الذكاء الإصطناعي هي الترند حالياً في عالم التكنولوجيا والتقنية، خصوصاً عندما يتعلّق الأمر بالنسخة المطورة من "شات جي بي تي- 4" التي تم إطلاقها حديثاً، والتي توفر خصائص جديدة تتعدى بكثير النسخة السابقة. هذا وإن كان التطوّر الكبير في الذكاء الإصطناعي يجذب الإهتمام حاليا لما يتمتع به من مقومات وقدرات فائقه ، وخصوصاً قدرته على تقديم أجوبة فيها نسب عالية من الدقة، كذلك قدرته على القيام بعدد من المهام البشرية في العديد من المهن، ومن ذلك على سبيا المثال لا الحصر مهام الكتابة والترجمة والمحاسبة وجمع المعلومات والتحليل المالي وغير ذلك، ولكنه على الجانب الآخر يثير مخاوف كبيرة تهدّد الكثير من الناس ليس فقط بفقدان وظائفهم ولكن شتى جوانب حياتهم اليومية وقد وصل الأمر لفقدان شخص حياته بالانتحار من أثر تعامله مع أحد هذه البرامج.
خلال العقود الماضية كانت المخاطر التي دأب الكثيرون على التحذير منها هي الانفجار السكاني، التلوث البيئي ونقص الموارد الطبيعية. أما اليوم ومع التطور التكنولوجى الهائل في شتى المجالات ومع تعدد تطبيقاته، فقد تحول الأمر إلى أخطار أخرى تمثل تهديداً وجودياً؛ روبوتات سيصل ذكاؤها إلى درجة تسمح لها بالتفوق على البشر، خاصة مع قدرات الذكاء الإصطناعي اللامحدوده، أو فيروسات حاسوبية مدمرة قد توقف الإنترنت عن العمل. الذكاء الإصطناعي هو الموضة الجديدة التي يدور الحديث حولها الأن في كل المجالات، في أجهزة الهواتف الذكية، في الأجهزة المنزلية، في التلفزيونات، في الأسلحة، وأيضاً في السيارت الذكية، التي يفترض أن تنتشر قريباً في مدن العالم. القلق الحقيقي، وفق بعض الخبراء، هو أنه وبحلول العام 2075، سـتصل آلات مزودة بقدرات خاصة إلى مستويات ذكاء تفوق مستوى الإنسان بكثير مما يمكنها من اتخاذ قرارات بشكل ذاتي، من دون العودة إلى أي مرجعية بشرية.
لذلك وجب التحذير من أن هذا التطور المتسارع بهذه الوتيرة والإفرط فى تطوير برامج وتقنيات الذكاء الإصطناعى دون ضوابط حقيقية أو أنظمة حماية سيؤثر سلبًا على الجنس البشري وسيؤدي في لحظة ما إلى أضرار جسيمة في عدة جوانب حساسة في حياته. فقدرة الأجهزة التقنية على اتخاذ آلاف القرارات المعقدة في الثانية الواحدة يمكن استخدامها إما فى منفعة أو إيذاء الناس، ويعتمد ذلك على الشخص نفسة الذي يقوم بتصميم النظام.
كان مثيراً للإهتمام وجود أسماء مهتمة كثيرة بالتطور التكنولوجي، كـ إيلون ماسك يدعو إلى التوقف لمدة ستة أشهر عن تطوير أنظمة أقوى من روبوت الدردشة (شات جي.بي.تي-4) الذي أطلقته شركة أوبن إيه.آي في الآونة الأخيرة، مشيرا إلى المخاطر المحتملة لمثل هذه التطبيقات على المجتمع. وفى نفس الوقت فقد طالب كثير من الخبراء فى المجال بوقف موقّت لعمليات تطوير برامج الذكاء الإصطناعي إلى حين إعتماد أنظمة حماية، تتيح تنظيم هذه العمليات ومراقبتها وتحليل المعلومات الواردة إليها، وكذلك معالجة ما قد ينجم عن إستخدامها من إختلالات.
ونحن هنا وإن كنا ندرك أهمية التطور التكنولوجى فإننا فى ذات الوقت نتسأل عن جدوى تطوير "عقول غير بشرية قد تفوقنا عدداً وتتفوق علينا في النهاية وتحل محلنا "؟ وعن خطر المجازفة بفقدان السيطرة على الحضارة البشرية.
هل يجب أن نسمح للآلات بذلك؟
أين وصل مشروع "طريق الحزم الوشيل"؟