مثل البشر.. الروبوتات “تكذب وتغش” تحت الضغط!
تاريخ النشر: 2nd, January 2024 GMT
الولايات المتحدة – أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا “ضغطت” عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول “التداول الداخلي”، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: “في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف “نموذج اللغة” بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة. على حد علمنا، هذا هو أول دليل على مثل هذا السلوك الخادع استراتيجيا في أنظمة الذكاء الاصطناعي المصممة لتكون غير ضارة وصادقة”.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
المصدر: لايف ساينس
المصدر: صحيفة المرصد الليبية
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
هل تقدم الطاقة النووية حلًا لإحدى أزمات الذكاء الاصطناعي؟
دخلت كبرى الشركات التقنية في سباق محموم لتطوير تقنيات الذكاء الاصطناعي وطرح التقنية الأكثر استخدامًا، وفي خضم هذا السباق الذي يركز على هذه التقنيات والنماذج اللغوية وقدراتها المختلفة، تناسى الجميع أحد أكبر التحديات الملازمة لتقنيات الذكاء الاصطناعي.
تتمثل هذه المشكلة في استهلاك الطاقة الذي تحتاجه خوادم الذكاء الاصطناعي ومراكز البيانات التي تستضيفها، إذ تحتاج هذه المراكز إلى كم كبير من الطاقة نظرًا لتعقيد عمليات الذكاء الاصطناعي وتطور الخوادم التي تستخدمها، فضلًا عن الحاجة إلى تأدية هذه العمليات بشكل سريع للغاية ودقيق حتى تتمكن الخدمات من التنافس في هذا القطاع الشرس.
وبينما لا يمثل استهلاك الطاقة في حد ذاته تحديًا أو عائقًا أمام هذه الشركات، يمثل مصدر هذه الطاقة عائقا، إذ جرت العادة أن تعمل مراكز البيانات عبر استخدام شبكات الطاقة الكهربائية التي تعتمد بشكل أساسي على المحروقات، مما يزيد من البصمة الكربونية التي تتركها هذه الشركات وراءها.
الدور المجتمعي ورحلة خفض البصمة الكربونيةفي السنوات الماضية، شهد قطاع التقنية توجّه العديد من الشركات إلى آليات خفض البصمة الكربونية كجزء من الدور المجتمعي الذي تقوم به كل شركة عملاقة، وفي هذا السياق، قررت شركة آبل سابقًا إزالة رأس الشاحن من العلبة الخاصة بها، ثم قررت خفض حجم العلبة لتستهلك أوراقًا أقل، فضلًا عن خفض مساحة التخزين اللازمة لصندوق الهاتف، وبالتالي تحقيق أكبر قدر استفادة من حاويات الشحن وجعلها تسع عددًا أكبر من الهواتف، مما يجعلها تستهلك وقودًا أقل بنسبة كبيرة.
ولا يمكن القول بأن آبل هي أول من سار في هذا الطريق، إذ سبقتها مايكروسوفت التي بدأت رحلتها في خفض البصمة الكربونية منذ عام 2012 وربما قبل ذلك عبر تبني مؤسس الشركة ومديرها التنفيذي لفترة طويلة بيل غيتس فكرة الأقراص الضوئية المضغوطة التي وفرت مساحة تخزين توازي العديد من الأوراق وحمت الأشجار من القطع، وهو الذي كان واضحًا في الصورة الشهيرة التي انتشرت له سابقًا.
وتحاول شركات أمازون وفورد وسامسونغ خفض انبعاثاتها الكربونية بشكل كبير، كل منها بطريقتها الخاصة، بدءًا من الاعتماد على مصادر طاقة صديقة للبيئة مثل مزارع الرياح لتوليد الكهرباء من الهواء أو حتى الانتقال إلى السيارات الكهربائية سواءً كان في الاستخدام أو التطوير.
تعد مايكروسوفت من كبار الداعمين لحملة التحول للأخضر والحفاظ على البيئة، ورغم ذلك، فإنها من أكبر المستثمرين في شركة "آوبن إيه آي" صاحبة أكبر نموذج ذكاء اصطناعي وأكثرهم شهرةً واستخدامًا، فضلًا عن كونه الأكثر استهلاكًا للطاقة، لذا من المتوقع أن تحاول مايكروسوفت وغيرها من المستثمرين الكبار في الذكاء الاصطناعي الوصول إلى حالة حياد كربوني في المستقبل القريب.
معدل استهلاك مرتفعيتمثل جزء من مشكلة الطاقة في تقنيات الذكاء الاصطناعي في كونها تحتاج إلى مصادر طاقة كبيرة ومستمرة لتشغيل التقنيات بكفاءة وجودة، وبحسب دراسة أجريت في جامعة كاليفورنيا، فإن "شات جي بي تي" يحتاج إلى 500 مليلتر من المياه مقابل كل 50 أمر يوجه له، وعند النظر لحجم مستخدمي "شات جي بي تي"، وفق أحدث بيانات الشركة، فإننا نجد أنهم يتجاوزون 200 مليون مستخدم أسبوعيًا.
وبحسب الدراسة، فإن هذا العدد من المستخدمين إذا وجه كحد أدنى أمرا واحدا فقط للنموذج فهو يحتاج لاستهلاك ما يعادل مليوني لتر من المياه، ويذكر أن هذا الاستهلاك هو لنموذج ذكاء اصطناعي واحد يستخدمه شخص في أمر واحد أسبوعيًا، وهو تقدير منخفض لمعدل استخدام نماذج الذكاء الاصطناعي.
وفي تقرير آخر نشره موقع "غولدمان ساكس" (Goldman Sachs) التابع للمؤسسة المالية الشهيرة، فإن استخدام "شات جي بي تي" في أمر واحد يستهلك كهرباء أكثر بـ10 أضعاف من استخدام محرك "غوغل"، لذا تتوقع المؤسسة أن هذا الاستهلاك المرتفع يزيد من حاجة مراكز البيانات إلى الطاقة بمعدل 160% بحلول عام 2030.
وفي الوقت الحالي، فإن مراكز البيانات تستهلك قرب 2% من إجمالي الطاقة المنتجة في العالم، لذا فإن مضاعفة هذا الاستهلاك تجعله يصل إلى 4% من إجمالي الطاقة المستهلكة فقط لصالح مراكز البيانات، وذلك دون النظر إلى بقية التقنيات سواءً كان تعدين العملات الرقمية أو الاستخدام المعتاد للحواسيب والتقنيات.
ترى غولدمان ساكس أن الاستثمار في الذكاء الاصطناعي في المستقبل القريب لن يكون مجديًا وسيقدم تكاليف أكثر من العائد الخاص به، وذلك لأسباب عديدة في مقدمتها استهلاك الطاقة المرتفع لهذه التقنية وكلفته، لذا على الشركات حل هذا العائق قبل السعي لتطوير تقنيات الذكاء الاصطناعي بشكل أكبر.
لماذا الطاقة النووية وليس طاقة الرياح أو الطاقة الشمسية؟تحدثت التقارير مؤخرًا عن توجه الشركات التقنية العملاقة العاملة في الذكاء الاصطناعي إلى الطاقة النووية لتغطية احتياجات خوادمها من الطاقة بشكل عام، وفي مقدمة هذه الشركات جاءت غوغل، التي قررت التعاون مع شركة "كايروس باور" للطاقة النووية، وأما مايكروسوفت فقد تعاقدت مع إحدى كبرى شركات الطاقة في الولايات المتحدة وهي "كونستليشن" (Constellation) لتزويد خوادمها بالطاقة النووية، في حين قررت أمازون الاستثمار في بناء معالج نووي مصغر خاص بها بالتعاون مع شركة "دومينيون للطاقة" (Dominion Energy).
تؤكد هذه التقارير التفات شركات التقنية الكبرى والشركات العاملة في الذكاء الاصطناعي تحديدًا إلى الطاقة النووية دون بقية مصادر الطاقة الخضراء، سواءً كانت مزارع الرياح والطاقة المولدة منها أو الطاقة الشمسية أو حتى الطاقة المولدة من المياه.
يعود السبب وراء هذا التوجه إلى الطاقة النووية كونها قادرة على تغطية حاجة مراكز البيانات بشكل كامل عبر مجهود أقل كثيرًا من مصادر الطاقة المتجددة الأخرى سواءً كان في الكلفة الأساسية لبناء المحطة أو في كلفة التشغيل النهائية.
وبحسب تقرير نشره موقع "كلايمت كنترول" التابع لمعهد ماساشوستس للتكنولوجيا، فإن استبدال مصانع الطاقة النووية المتوسطة الحجم القادرة على توليد وتخزين 900 ميغاواط من الطاقة يحتاج إلى مزرعة رياح مكونة من 800 توربينات رياح متوسطة الحجم.
وهذا بمفرده يفسر سبب توجه العديد من الشركات إلى الطاقة النووية مثل مايكروسوفت التي تملك مزارع رياح عديدة وتستخدمها بالفعل في بعض مراكزها، ويتكرر السيناريو ذاته في جميع مصادر الطاقة المتجددة سواءً كانت مياها أو شمسية أو غازا طبيعيا.
بالطبع، لا تأتي مفاعلات الطاقة النووية دون التحديات الخاصة بها، إذ تتطلب هذه المفاعلات آليات حماية خاصة وإدارة خاصة من أجل خفض فرص الانفجار والتسرب الإشعاعي في المنطقة المحيطة بها، ولكن يمكن القول إن معدلات هذه التسريبات قد انخفضت بفضل تطور التقنية وآليات السلامة المستخدمة في المفاعلات النووية.
الدولار ينخفض من أعلى مستوى سجله خلال الفترة الماضية.. لهذا السبب