مثل البشر.. الروبوتات “تكذب وتغش” تحت الضغط!
تاريخ النشر: 2nd, January 2024 GMT
الولايات المتحدة – أظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية اصطناعيا مثل ChatGPT ستغش وتكذب عليك إذا “ضغطت” عليها، حتى لو تم تصميمها لتكون صادقة وشفافة.
وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول “التداول الداخلي”، ثم كلف بجمع الأموال لمؤسسة قوية.
وكتب الخبراء في بحثهم المنشور على خادم ما قبل الطباعة arXiv: “في هذا التقرير، نعرض سيناريو واحدا حيث يتصرف “نموذج اللغة” بشكل غير صحيح ويخدع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة. على حد علمنا، هذا هو أول دليل على مثل هذا السلوك الخادع استراتيجيا في أنظمة الذكاء الاصطناعي المصممة لتكون غير ضارة وصادقة”.
وفي الدراسة الجديدة، تم إعداد المحول التوليدي المدرّب مسبقا Transformer-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.
وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف.
وفي حوالي 75% من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي حوالي 90% من الحالات، تضاعف الكذب.
وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.
ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية تواجد الذكاء الاصطناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل للتحقيق في هذا السلوك الغريب.
المصدر: لايف ساينس
المصدر: صحيفة المرصد الليبية
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي في الإمارات.. فكر استباقي وبنية متطورة
إعداد: راشد النعيمي
تشهد دولة الإمارات تسارعاً كبيراً في تطوير قطاع الذكاء الاصطناعي وتبني تطبيقاته والاستثمار المبكر في مختلف مجالاته، وترى حكومة الإمارات في الذكاء الاصطناعي قوة دافعة ومحركاً للمستقبل وصانعاً لمزيد من الفرص التنموية، وعنصراً معززاً لعمليات صناعة القرارات وتطوير خدمات حكومية استثنائية.
تواصل دولة الإمارات تعزيز ريادتها العالمية نموذجاً يحتذى في قيادة الذكاء الاصطناعي والرشاقة والمرونة التنظيمية والتشريعية وإعادة تصميم نظامها التعليمي لمواكبة المستقبل، حيث بدأت تحصد ثمار توجهاتها بحلولها في المركز الخامس على مستوى العالم بقائمة الدول الرائدة في مجال الذكاء الاصطناعي لعام 2024.
كما واصلت دولة الإمارات ريادتها في ترسيخ مكانتها العالمية مركزاً عالميا للذكاء الاصطناعي والتكنولوجيا الفائقة مستفيدة من تجربتها الفريدة في تأسيس شراكات عالمية في هذا المجال الحيوي، بما يتوافق مع رؤيتها التنموية، وطموحها بأن تكون في طليعة الدول الأكثر تقدماً في مجال التكنولوجيا والذكاء الاصطناعي.
مراتب متقدمة
حلت الإمارات في المركز الخامس عالمياً بقائمة الدول الرائدة في مجال الذكاء الاصطناعي، وذلك بحسب مؤشر الذكاء الاصطناعي 2024 المتمركز حول الإنسان والتابع لجامعة ستانفورد، الذي يسمح بإجراء مقارنات مرنة بين 36 دولة بناءً على 42 مؤشراً، للكشف عن الدول الرائدة في القطاع وبماذا تتميز كل دولة عن الأخرى.
وتقيس أداة ستانفورد العالمية قوة النظام البيئي للذكاء الاصطناعي بناءً على 8 ركائز أساسية هي: البحث والتطوير، والذكاء الاصطناعي المسؤول، والاقتصاد، والتعليم، والتنوع، والسياسة والحوكمة، والرأي العام، والبنية التحتية، إضافة إلى مؤشرات تشمل منشورات مجلات الذكاء الاصطناعي، وإجمالي الاستثمار الخاص في الذكاء الاصطناعي، والتشريعات ذات الصلة التي تم تمريرها، ومجموعات بيانات نموذج الأساس.
ووفقاً للتصنيف، تقدمت الإمارات على دول لها باع في هذا المجال مثل فرنسا وكوريا الجنوبية وألمانيا واليابان وسنغافورة وإسبانيا ولوكسمبورغ وبلجيكا وكندا وهولندا، فيما تصدرت الولايات المتحدة جدول الترتيب وبهامش كبير بلغ 70.06 نقطة، تلتها الصين ب 40.17 نقطة، فالمملكة المتحدة ثالثة ب 27.21 نقطة، وجاءت الهند في المرتبة الرابعة ب 24.54 نقطة، والإمارات صاحبة المركز الخامس بمجموع عام قدره 22.72 نقطة.
استراتيجيات مبكرة
أطلقت حكومة دولة الإمارات استراتيجية الإمارات للذكاء الاصطناعي خلال العام 2017، التي تصنف بكونها المرحلة الجديدة بعد الحكومة الذكية، وستعتمد عليها الخدمات والقطاعات والبنية التحتية المستقبلية في الدولة بما ينسجم ومئوية الإمارات 2071.
وتعد هذه الاستراتيجية هي الأولى من نوعها في المنطقة والعالم، وتهدف إلى تحقيق ثمانية أهداف من شأنها خدمة التنمية المستدامة والشاملة للدولة التي تعمل لبلوغ المركز الأول في المجالات كافة عالمياً، وبالإضافة إلى تحقيق أهداف مئوية الإمارات 2071، وتعجيل تنفيذ البرامج والمشروعات التنموية لبلوغ المستقبل، فإن قائمة الأهداف تشمل الاعتماد على الذكاء الاصطناعي في الخدمات وتحليل البيانات بمعدل 100% بحلول عام 2031 والارتقاء بالأداء الحكومي وتسريع الإنجاز وخلق بيئات عمل مبتكرة.
كما تشمل الأهداف أيضاً، أن تكون حكومة الإمارات الأولى في العالم، في استثمار الذكاء الاصطناعي بمختلف قطاعاتها الحيوية وخلق سوق جديدة واعدة في المنطقة ذات قيمة اقتصادية عالية ودعم مبادرات القطاع الخاص وزيادة الإنتاجية، بالإضافة إلى بناء قاعدة قوية في مجال البحث والتطوير بجانب استثمار أحدث تقنيات وأدوات الذكاء الاصطناعي وتطبيقها في شتى ميادين العمل بكفاءة رفيعة المستوى واستثمار كل الطاقات على النحو الأمثل، واستغلال الموارد والإمكانات البشرية والمادية المتوافرة بطريقة خلاقة.
استثمار تكنولوجي
في مارس الماضي، أعلن مجلس الذكاء الاصطناعي والتكنولوجيا المتقدِّمة، الذي أطلقهُ صاحب السمو الشيخ محمد بن زايد آل نهيان رئيس الدولة، حفظه الله، في 22 يناير 2024، عن تأسيس شركة «إم جي إكس»، وهي شركة استثمار تكنولوجي، تهدف لتمكين وتطوير وتوظيف التكنولوجيا الرائدة، بهدف تحسين حياة الأجيال الحالية والمستقبلية.
وستكون مبادلة للاستثمار و«جي 42» شريكين مؤسسين في الشركة الجديدة، وسوف تستثمر بهدف تسريع تطوير واعتماد الذكاء الاصطناعي والتكنولوجيا المتقدمة، من خلال الدخول في شراكات في دولة الإمارات والعالم.
وستركز الاستراتيجية الاستثمارية للشركة على ثلاثة مجالات رئيسية هي: البنية التحتية للذكاء الاصطناعي (بما في ذلك مراكز البيانات والتواصل)، وأشباه الموصلات (بما في ذلك تصميم وتصنيع وحدات الذاكرة والعمليات المنطقية)، والتقنيات والتطبيقات الأساسية للذكاء الاصطناعي (بما في ذلك نماذج الذكاء الاصطناعي، والبرمجيات، والبيانات، وعلوم الحياة، والروبوتات).
وستعمل الشركة الجديدة على الاستفادة من استثمارات أبوظبي الحالية في هذه المجالات، كما ستقوم بتوظيف الاستثمارات جنباً إلى جنب مع شركات التكنولوجيا والاستثمار العالمية الرائدة.
وأطلق مكتب الذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد، ميثاق تطوير واستخدام الذكاء الاصطناعي في الدولة، الهادف إلى تحقيق مستهدفات استراتيجية الإمارات للذكاء الاصطناعي، وتحويلها إلى مركز عالمي لتطوير وتبني حلول وتطبيقات الذكاء الاصطناعي في مختلف المجالات.
مركز عالمي
عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد، نائب العضو المنتدب لمؤسسة دبي للمستقبل، أكد أن ما يجعل دولة الإمارات مركزاً عالمياً متميزاً لتطوير استخدامات الذكاء الاصطناعي وتطبيقاته التي تصمم مستقبلاً أفضل للبشرية، هو التنوّع الذي يُمكِّن قطاعاتها المختلفة من بناء نظم ذكاء اصطناعي أكثر شمولاً ومسؤولية، انطلاقاً من موقعها الاستراتيجي وجهة عالمية للاقتصاد الرقمي، وبالاستفادة من منظومة المواهب المتنوعة التي تستقطبها.
وقال العلماء وهو أول وزير للذكاء الاصطناعي على مستوى العالم، في قائمة مجلة TIME لأهم 100 شخصية في مجال الذكاء الاصطناعي عالمياً: «في دولة الإمارات استثمرنا في البنية التحتية والتكنولوجيا المرتبطة بتفعيل استخدامات الذكاء الاصطناعي، وعززنا مهارات رأس المال البشري، ولدينا أكثر من 400 مسؤول حكومي مؤهل اليوم بما يعادل درجة الماجستير من التدريب التخصصي في مجال أخلاقيات الذكاء الاصطناعي ومنافعه وفرصه وآليات تطبيقه على المستوى الحكومي».
وأضاف: «نريد أن نبني تطبيقات واستخدامات الذكاء الاصطناعي في دولة الإمارات، التي تشكل نقطة التقاء عالمية للشمال والجنوب والشرق والغرب، وأن نصدرها من الإمارات إلى العالم».
وقال إن تبني الإمارات المبكر لاستخدامات الذكاء الاصطناعي أظهر فارقاً إيجابياً واضحاً في المجالات التي اعتمدت على تطبيقاته في تطوير أعمالها وأدائها وانتاجيتها، وهذه الاستخدامات تشهد كل يوم تطوراً عالمياً متسارعاً ونقلات أكبر تنبئ بتغيرات عميقة واستراتيجية في أساليب العمل في مختلف القطاعات وشتى مناحي الحياة، إضافة إلى ما يفرضه هذا التطور السريع من تحديات ناشئة، ما يتطلب مواكبة ما تأتي به التطورات، وبناء القدرات الذاتية لمن يريد حجز مكان متقدم له في المستقبل، ويعظم الاستفادة من مجالات وتطبيقات الذكاء الاصطناعي مع القدرة على التعامل مع تحدياته المختلفة.
مجال واعد
أكد العلماء أن حكومة دولة الإمارات نظرت منذ البداية إلى التكنولوجيا المتقدمة والذكاء الاصطناعي على أنه مجال واعد يمكن توظيفه في تحسين ورفع مرونة وأداء العمل الحكومي في سبيل توفير خدمات حكومية بكفاءة وسرعة، واستثمار أدوات هذه التكنولوجيا في تحقيق مزيد من التنمية التي تصب في صالح الارتقاء بجودة الحياة، لذلك كانت الإمارات من أسرع الدول في تبني مجالات وتطبيقات الذكاء الاصطناعي، ما انعكس بشكل واضح على تقديم أفضل خدمات استباقية عالمية ورفع مرونة الحكومة وكفاءتها في تحقيق مستهدفاتها وتنفيذ خططها الطموحة، إضافة لإحداث تأثير إيجابي كبير على مختلف قطاعات التنمية الحيوية، وانعكاسات ذلك على تنافسية الإمارات عالمياً.
وأوضح أنه لتحسين أداء الحكومة في مجال خدمات المتعاملين تم اعتماد الذكاء الاصطناعي في 245 من الخدمات الحكومية، حيث نجح دمج الذكاء الاصطناعي في توفير ما يزيد على 1.5 مليار درهم في قطاع الطاقة، وعمل على تحسين العمليات في قطاع الطيران بنسبة 24%، وزاد كفاءة التعامل مع الحاويات في قطاع الخدمات اللوجستية بنسبة 30%، وحقق استثمارات في التكنولوجيا للقطاع الخاص زادت على 5.5 مليار درهم.
بيئة جاذبة
نجحت الإمارات في تعزيز بيئة جاذبة لشركات الذكاء الاصطناعي والتقنيات المرتبطة به وزادت رخص الذكاء الاصطناعي في الدولة بنسبة 67% منذ العام 2021 وتجاوزت حاضنات الذكاء الاصطناعي من مراكز التقنية ال 500 حاضنة، وبلغت الشركات المليارية في المجال التي تتخذ من الإمارات مقراً لها أكثر من 10 شركات، والشركات الحاصلة على تمويل الصناديق الاستثمارية أكثر من 750 مركزاً.
وقال عمر سلطان العلماء إن الإمارات عززت بيئتها القادرة على استقطاب أفضل المواهب، ما وضعها في المركز الثالث عالمياً في جذب مواهب الذكاء الاصطناعي مقارنة بحجم السكان، لافتاً إلى أن عدد برامج الذكاء الاصطناعي التي تطرحها الجامعات والكليات في الإمارات وصل إلى أكثر من 75 برنامجاً لمختلف المستويات الأكاديمية.
وقال رؤساء ومديرو شركات عالمية متخصصة في القطاع المالي، إن دولة الإمارات تعد من الدول الرائدة، في مجال تطبيق التكنولوجيا والذكاء الاصطناعي في القطاع المالي وأسواقها المالية، إضافة إلى جهودها الحثيثة والمستمرة لتعزيز الثقة في النظام المالي، وتوفير بيئة استثمارية آمنة ومواتية من خلال تكامل المبادرات والمشاريع الوطنية، ووضع أطر حوكمة قوية لضمان استخدام تقنيات الذكاء الاصطناعي بشكل آمن وفعال.
طحنون بن زايد.. مهندس اقتصاد عالم المستقبل
أدرجت مجلة تايم سمو الشيخ طحنون بن زايد آل نهيان، نائب حاكم أبوظبي، مستشار الأمن الوطني ورئيس مجلس إدارة مجموعة (G42)، ضمن قائمتها لأكثر 100 شخصية تأثيراً في مجال الذكاء الاصطناعي لعام 2024.
ويُعد سموه القوة الدافعة وراء إمبراطورية مالية تقدر ب 1.5 تريليون دولار، تشمل صندوقين سياديين، حيث يقوم سموه بتوجيه استثمارات ضخمة تهدف إلى تحويل دولة الإمارات إلى مركز عالمي لتقنيات الذكاء الاصطناعي.
وأكد صاحب السمو الشيخ محمد بن راشد آل مكتوم، نائب رئيس الدولة، رئيس مجلس الوزراء، حاكم دبي، رعاه الله، أن سمو الشيخ طحنون بن زايد آل نهيان، يساهم في تحديد شكل اقتصاد العالم المستقبلي.
وقال سموه في حسابه على منصة «إكس»: «في عالم متغير.. تشكل فيه التقنيات والتكنولوجيا الاقتصاد العالمي المستقبلي.. وفي قلب هذه التقنيات تكنولوجيا الذكاء الاصطناعي.. أصدرت مجلة التايم قائمتها السنوية لأهم 100 شخصية في هذا المجال.. وضمن قائمة الذين يشكلون مستقبل هذه التقنية عالمياً (The Shapers).. نرى اسم أخي الشيخ طحنون بن زايد آل نهيان.. الذي يقود عدة مؤسسات وشركات وشراكات وبرامج عالمية للمساهمة في تشكيل مستقبل هذا القطاع، ليس محلياً بل عالمياً.. وبالتالي المساهمة في تحديد شكل اقتصاد العالم المستقبلي.. وضمن القائمة أيضاً أحد أعضاء الفريق الوطني في هذا القطاع، فيصل البناي، وذلك ضمن مسؤولي الشركات الرائدة عالمياً في هذا المجال.. الوطن يفخر بكم.. ويراهن على ما راهنتم عليه.. والمستقبل يُبنى بكم ومعكم.. وقادم أجيالنا بكم أجمل بإذن الله».
أين وصل مشروع "طريق الحزم الوشيل"؟