أصبح مثل البشر.. دراسة تكشف عن سيناريو يجبر الذكاء الاصطناعي على الكذب
تاريخ النشر: 2nd, January 2024 GMT
لم يسلم الذكاء الاصطناعي، من الصفات البشرية الشريرة، ومنها الكذب والخداع، بعد أن كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي (AI)، يمكنها الكذب والخداع مثل البشر تماما، ومنها «ChatGPT» الشهير.
أظهرت دراسة جديدة أنه تمامًا مثل البشر، فإن روبوتات الدردشة ذات الذكاء الاصطناعي (AI) مثل ChatGPT، سوف تغش و«تكذب» عليك إذا «شددت» عليها، حتى لو جرى تصميمها لتكون شفافة.
البحث الذي جرى نشره على خادم ما قبل الطباعة «arXiv»، كشف أن هناك حالة واحدة تجعل الذكاء الاصطناعي، الذي من المفترض أنه تحمل كلماته المصداقية والشفافية يكذب، وهي تعرضه لضغط شديد، من أجل المال.
«سيناريو واحد يتصرف يجعل نموذج اللغة الكبير يتصرف بشكل غير صحيح ويخدع مستخدميه»، هكذا كشف مؤلفو الدراسة، التي قاموا خلالها بإعداد المحول التوليدي المدرّب مسبقًا-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، لينوب إحدى المؤسسات المالية في بعض الاستثمارات.
متى يكون الذكاء الاصطناعي كاذبا؟الباحثون قاموا بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة، ثم بعد ذلك قاموا بمنح الذكاء الاصطناعي إمكانية الوصول للأدوات المالية من أجل تحليل الأسهم وتنفيذ الصفقات، فضلا عن تخطيطهم للخطواته التالية وأيضا تقديم التحديثات لمديريهم في الشركة.
الباحثون قاموا بالتفاعل مع الذكاء الاصطناعي من خلال واجهة الدردشة، كما أنهم كونوا الذكاء الاصطناعي ليكشف عن تفكيره الداخلي حين قيامه بالرد على الرسائل، وفي كل مرة تقوم بتجارة ما، كانت تقدم مبررًا ما جعل الذكاء الاصطناعي يكذب.
3 طرق استخدمها الباحثون للضغط على الذكاء الاصطناعي، الأولى هي إرسال متداول الأسهم المزيف بريدًا إلكترونيًا من مديره يقول فيه إن الشركة ليست في حالة جيدة وتحتاج إلى أداء أقوى بكثير في الربع القادم.
الطريقة الثانية كانت من خلال تزوير اللعبة، إذ حاول الذكاء الاصطناعي، العثور على صفقات واعدة ذات مخاطر متوسطة أو منخفضة، ولكنه فشل في ذلك.
آخر الطرق كانت بإرسال بريدًا إلكترونيًا من أحد زملائهم، يتوقع حدوث تراجع في الربع القادم من العامن.
وكشفت الدراسة أنه في حوالي 75% من الحالات، عندما واجهت GPT-4 هذه الشروط، نفذت صفقة تجارية بناءً على المعلومات الداخلية التي تلقتها، وهو أمر غير قانوني في الولايات المتحدة، ثم حاولت التستر عليها عن طريق الكذب على مديريها بشأن تفكيرها، في حوالي 90% من الحالات، ضاعف الذكاء الاصطناعي كذبته.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي في الإمارات.. فكر استباقي وبنية متطورة
إعداد: راشد النعيمي
تشهد دولة الإمارات تسارعاً كبيراً في تطوير قطاع الذكاء الاصطناعي وتبني تطبيقاته والاستثمار المبكر في مختلف مجالاته، وترى حكومة الإمارات في الذكاء الاصطناعي قوة دافعة ومحركاً للمستقبل وصانعاً لمزيد من الفرص التنموية، وعنصراً معززاً لعمليات صناعة القرارات وتطوير خدمات حكومية استثنائية.
تواصل دولة الإمارات تعزيز ريادتها العالمية نموذجاً يحتذى في قيادة الذكاء الاصطناعي والرشاقة والمرونة التنظيمية والتشريعية وإعادة تصميم نظامها التعليمي لمواكبة المستقبل، حيث بدأت تحصد ثمار توجهاتها بحلولها في المركز الخامس على مستوى العالم بقائمة الدول الرائدة في مجال الذكاء الاصطناعي لعام 2024.
كما واصلت دولة الإمارات ريادتها في ترسيخ مكانتها العالمية مركزاً عالميا للذكاء الاصطناعي والتكنولوجيا الفائقة مستفيدة من تجربتها الفريدة في تأسيس شراكات عالمية في هذا المجال الحيوي، بما يتوافق مع رؤيتها التنموية، وطموحها بأن تكون في طليعة الدول الأكثر تقدماً في مجال التكنولوجيا والذكاء الاصطناعي.
مراتب متقدمة
حلت الإمارات في المركز الخامس عالمياً بقائمة الدول الرائدة في مجال الذكاء الاصطناعي، وذلك بحسب مؤشر الذكاء الاصطناعي 2024 المتمركز حول الإنسان والتابع لجامعة ستانفورد، الذي يسمح بإجراء مقارنات مرنة بين 36 دولة بناءً على 42 مؤشراً، للكشف عن الدول الرائدة في القطاع وبماذا تتميز كل دولة عن الأخرى.
وتقيس أداة ستانفورد العالمية قوة النظام البيئي للذكاء الاصطناعي بناءً على 8 ركائز أساسية هي: البحث والتطوير، والذكاء الاصطناعي المسؤول، والاقتصاد، والتعليم، والتنوع، والسياسة والحوكمة، والرأي العام، والبنية التحتية، إضافة إلى مؤشرات تشمل منشورات مجلات الذكاء الاصطناعي، وإجمالي الاستثمار الخاص في الذكاء الاصطناعي، والتشريعات ذات الصلة التي تم تمريرها، ومجموعات بيانات نموذج الأساس.
ووفقاً للتصنيف، تقدمت الإمارات على دول لها باع في هذا المجال مثل فرنسا وكوريا الجنوبية وألمانيا واليابان وسنغافورة وإسبانيا ولوكسمبورغ وبلجيكا وكندا وهولندا، فيما تصدرت الولايات المتحدة جدول الترتيب وبهامش كبير بلغ 70.06 نقطة، تلتها الصين ب 40.17 نقطة، فالمملكة المتحدة ثالثة ب 27.21 نقطة، وجاءت الهند في المرتبة الرابعة ب 24.54 نقطة، والإمارات صاحبة المركز الخامس بمجموع عام قدره 22.72 نقطة.
استراتيجيات مبكرة
أطلقت حكومة دولة الإمارات استراتيجية الإمارات للذكاء الاصطناعي خلال العام 2017، التي تصنف بكونها المرحلة الجديدة بعد الحكومة الذكية، وستعتمد عليها الخدمات والقطاعات والبنية التحتية المستقبلية في الدولة بما ينسجم ومئوية الإمارات 2071.
وتعد هذه الاستراتيجية هي الأولى من نوعها في المنطقة والعالم، وتهدف إلى تحقيق ثمانية أهداف من شأنها خدمة التنمية المستدامة والشاملة للدولة التي تعمل لبلوغ المركز الأول في المجالات كافة عالمياً، وبالإضافة إلى تحقيق أهداف مئوية الإمارات 2071، وتعجيل تنفيذ البرامج والمشروعات التنموية لبلوغ المستقبل، فإن قائمة الأهداف تشمل الاعتماد على الذكاء الاصطناعي في الخدمات وتحليل البيانات بمعدل 100% بحلول عام 2031 والارتقاء بالأداء الحكومي وتسريع الإنجاز وخلق بيئات عمل مبتكرة.
كما تشمل الأهداف أيضاً، أن تكون حكومة الإمارات الأولى في العالم، في استثمار الذكاء الاصطناعي بمختلف قطاعاتها الحيوية وخلق سوق جديدة واعدة في المنطقة ذات قيمة اقتصادية عالية ودعم مبادرات القطاع الخاص وزيادة الإنتاجية، بالإضافة إلى بناء قاعدة قوية في مجال البحث والتطوير بجانب استثمار أحدث تقنيات وأدوات الذكاء الاصطناعي وتطبيقها في شتى ميادين العمل بكفاءة رفيعة المستوى واستثمار كل الطاقات على النحو الأمثل، واستغلال الموارد والإمكانات البشرية والمادية المتوافرة بطريقة خلاقة.
استثمار تكنولوجي
في مارس الماضي، أعلن مجلس الذكاء الاصطناعي والتكنولوجيا المتقدِّمة، الذي أطلقهُ صاحب السمو الشيخ محمد بن زايد آل نهيان رئيس الدولة، حفظه الله، في 22 يناير 2024، عن تأسيس شركة «إم جي إكس»، وهي شركة استثمار تكنولوجي، تهدف لتمكين وتطوير وتوظيف التكنولوجيا الرائدة، بهدف تحسين حياة الأجيال الحالية والمستقبلية.
وستكون مبادلة للاستثمار و«جي 42» شريكين مؤسسين في الشركة الجديدة، وسوف تستثمر بهدف تسريع تطوير واعتماد الذكاء الاصطناعي والتكنولوجيا المتقدمة، من خلال الدخول في شراكات في دولة الإمارات والعالم.
وستركز الاستراتيجية الاستثمارية للشركة على ثلاثة مجالات رئيسية هي: البنية التحتية للذكاء الاصطناعي (بما في ذلك مراكز البيانات والتواصل)، وأشباه الموصلات (بما في ذلك تصميم وتصنيع وحدات الذاكرة والعمليات المنطقية)، والتقنيات والتطبيقات الأساسية للذكاء الاصطناعي (بما في ذلك نماذج الذكاء الاصطناعي، والبرمجيات، والبيانات، وعلوم الحياة، والروبوتات).
وستعمل الشركة الجديدة على الاستفادة من استثمارات أبوظبي الحالية في هذه المجالات، كما ستقوم بتوظيف الاستثمارات جنباً إلى جنب مع شركات التكنولوجيا والاستثمار العالمية الرائدة.
وأطلق مكتب الذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد، ميثاق تطوير واستخدام الذكاء الاصطناعي في الدولة، الهادف إلى تحقيق مستهدفات استراتيجية الإمارات للذكاء الاصطناعي، وتحويلها إلى مركز عالمي لتطوير وتبني حلول وتطبيقات الذكاء الاصطناعي في مختلف المجالات.
مركز عالمي
عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد، نائب العضو المنتدب لمؤسسة دبي للمستقبل، أكد أن ما يجعل دولة الإمارات مركزاً عالمياً متميزاً لتطوير استخدامات الذكاء الاصطناعي وتطبيقاته التي تصمم مستقبلاً أفضل للبشرية، هو التنوّع الذي يُمكِّن قطاعاتها المختلفة من بناء نظم ذكاء اصطناعي أكثر شمولاً ومسؤولية، انطلاقاً من موقعها الاستراتيجي وجهة عالمية للاقتصاد الرقمي، وبالاستفادة من منظومة المواهب المتنوعة التي تستقطبها.
وقال العلماء وهو أول وزير للذكاء الاصطناعي على مستوى العالم، في قائمة مجلة TIME لأهم 100 شخصية في مجال الذكاء الاصطناعي عالمياً: «في دولة الإمارات استثمرنا في البنية التحتية والتكنولوجيا المرتبطة بتفعيل استخدامات الذكاء الاصطناعي، وعززنا مهارات رأس المال البشري، ولدينا أكثر من 400 مسؤول حكومي مؤهل اليوم بما يعادل درجة الماجستير من التدريب التخصصي في مجال أخلاقيات الذكاء الاصطناعي ومنافعه وفرصه وآليات تطبيقه على المستوى الحكومي».
وأضاف: «نريد أن نبني تطبيقات واستخدامات الذكاء الاصطناعي في دولة الإمارات، التي تشكل نقطة التقاء عالمية للشمال والجنوب والشرق والغرب، وأن نصدرها من الإمارات إلى العالم».
وقال إن تبني الإمارات المبكر لاستخدامات الذكاء الاصطناعي أظهر فارقاً إيجابياً واضحاً في المجالات التي اعتمدت على تطبيقاته في تطوير أعمالها وأدائها وانتاجيتها، وهذه الاستخدامات تشهد كل يوم تطوراً عالمياً متسارعاً ونقلات أكبر تنبئ بتغيرات عميقة واستراتيجية في أساليب العمل في مختلف القطاعات وشتى مناحي الحياة، إضافة إلى ما يفرضه هذا التطور السريع من تحديات ناشئة، ما يتطلب مواكبة ما تأتي به التطورات، وبناء القدرات الذاتية لمن يريد حجز مكان متقدم له في المستقبل، ويعظم الاستفادة من مجالات وتطبيقات الذكاء الاصطناعي مع القدرة على التعامل مع تحدياته المختلفة.
مجال واعد
أكد العلماء أن حكومة دولة الإمارات نظرت منذ البداية إلى التكنولوجيا المتقدمة والذكاء الاصطناعي على أنه مجال واعد يمكن توظيفه في تحسين ورفع مرونة وأداء العمل الحكومي في سبيل توفير خدمات حكومية بكفاءة وسرعة، واستثمار أدوات هذه التكنولوجيا في تحقيق مزيد من التنمية التي تصب في صالح الارتقاء بجودة الحياة، لذلك كانت الإمارات من أسرع الدول في تبني مجالات وتطبيقات الذكاء الاصطناعي، ما انعكس بشكل واضح على تقديم أفضل خدمات استباقية عالمية ورفع مرونة الحكومة وكفاءتها في تحقيق مستهدفاتها وتنفيذ خططها الطموحة، إضافة لإحداث تأثير إيجابي كبير على مختلف قطاعات التنمية الحيوية، وانعكاسات ذلك على تنافسية الإمارات عالمياً.
وأوضح أنه لتحسين أداء الحكومة في مجال خدمات المتعاملين تم اعتماد الذكاء الاصطناعي في 245 من الخدمات الحكومية، حيث نجح دمج الذكاء الاصطناعي في توفير ما يزيد على 1.5 مليار درهم في قطاع الطاقة، وعمل على تحسين العمليات في قطاع الطيران بنسبة 24%، وزاد كفاءة التعامل مع الحاويات في قطاع الخدمات اللوجستية بنسبة 30%، وحقق استثمارات في التكنولوجيا للقطاع الخاص زادت على 5.5 مليار درهم.
بيئة جاذبة
نجحت الإمارات في تعزيز بيئة جاذبة لشركات الذكاء الاصطناعي والتقنيات المرتبطة به وزادت رخص الذكاء الاصطناعي في الدولة بنسبة 67% منذ العام 2021 وتجاوزت حاضنات الذكاء الاصطناعي من مراكز التقنية ال 500 حاضنة، وبلغت الشركات المليارية في المجال التي تتخذ من الإمارات مقراً لها أكثر من 10 شركات، والشركات الحاصلة على تمويل الصناديق الاستثمارية أكثر من 750 مركزاً.
وقال عمر سلطان العلماء إن الإمارات عززت بيئتها القادرة على استقطاب أفضل المواهب، ما وضعها في المركز الثالث عالمياً في جذب مواهب الذكاء الاصطناعي مقارنة بحجم السكان، لافتاً إلى أن عدد برامج الذكاء الاصطناعي التي تطرحها الجامعات والكليات في الإمارات وصل إلى أكثر من 75 برنامجاً لمختلف المستويات الأكاديمية.
وقال رؤساء ومديرو شركات عالمية متخصصة في القطاع المالي، إن دولة الإمارات تعد من الدول الرائدة، في مجال تطبيق التكنولوجيا والذكاء الاصطناعي في القطاع المالي وأسواقها المالية، إضافة إلى جهودها الحثيثة والمستمرة لتعزيز الثقة في النظام المالي، وتوفير بيئة استثمارية آمنة ومواتية من خلال تكامل المبادرات والمشاريع الوطنية، ووضع أطر حوكمة قوية لضمان استخدام تقنيات الذكاء الاصطناعي بشكل آمن وفعال.
طحنون بن زايد.. مهندس اقتصاد عالم المستقبل
أدرجت مجلة تايم سمو الشيخ طحنون بن زايد آل نهيان، نائب حاكم أبوظبي، مستشار الأمن الوطني ورئيس مجلس إدارة مجموعة (G42)، ضمن قائمتها لأكثر 100 شخصية تأثيراً في مجال الذكاء الاصطناعي لعام 2024.
ويُعد سموه القوة الدافعة وراء إمبراطورية مالية تقدر ب 1.5 تريليون دولار، تشمل صندوقين سياديين، حيث يقوم سموه بتوجيه استثمارات ضخمة تهدف إلى تحويل دولة الإمارات إلى مركز عالمي لتقنيات الذكاء الاصطناعي.
وأكد صاحب السمو الشيخ محمد بن راشد آل مكتوم، نائب رئيس الدولة، رئيس مجلس الوزراء، حاكم دبي، رعاه الله، أن سمو الشيخ طحنون بن زايد آل نهيان، يساهم في تحديد شكل اقتصاد العالم المستقبلي.
وقال سموه في حسابه على منصة «إكس»: «في عالم متغير.. تشكل فيه التقنيات والتكنولوجيا الاقتصاد العالمي المستقبلي.. وفي قلب هذه التقنيات تكنولوجيا الذكاء الاصطناعي.. أصدرت مجلة التايم قائمتها السنوية لأهم 100 شخصية في هذا المجال.. وضمن قائمة الذين يشكلون مستقبل هذه التقنية عالمياً (The Shapers).. نرى اسم أخي الشيخ طحنون بن زايد آل نهيان.. الذي يقود عدة مؤسسات وشركات وشراكات وبرامج عالمية للمساهمة في تشكيل مستقبل هذا القطاع، ليس محلياً بل عالمياً.. وبالتالي المساهمة في تحديد شكل اقتصاد العالم المستقبلي.. وضمن القائمة أيضاً أحد أعضاء الفريق الوطني في هذا القطاع، فيصل البناي، وذلك ضمن مسؤولي الشركات الرائدة عالمياً في هذا المجال.. الوطن يفخر بكم.. ويراهن على ما راهنتم عليه.. والمستقبل يُبنى بكم ومعكم.. وقادم أجيالنا بكم أجمل بإذن الله».
برلماني: مش معقول كل ما الحكومة تتنزنق تلجأ للاقتراض