هل يتعلم الذكاء الاصطناعي «الكذب والخداع والاحتيال!».. دراسة توضح
تاريخ النشر: 13th, May 2024 GMT
خداع الذكاء الاصطناعي البشر.. لقد أصبح الذكاء الاصطناعي مصطلحًا شاملًا للتطبيقات التي تؤدي مهام مُعقدة كانت تتطلب في الماضي إدخالات بشرية مثل التواصل مع العملاء عبر الإنترنت أو ممارسة لعبة الشطرنج.
ويخشى البعض أن ينقلب الذكاء الاصطناعي على الإنسان، بعدما أثبتت إحدى الدراسات أن البرامج التي صممت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، وفقًا لما ذكرته وكالة الأنباء الفرنسية.
وأوضحت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة «باترنز» أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
وتبدوا لك أن هذه الأمثلة تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريبا عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
الذكاء الاصطناعيوقال بارك لوكالة الأنباء الفرنسية إن «هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها».
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث إن السلوك الذي يبدو قابلا للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعا غير قابل للتنبؤ في الطبيعة.
وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء اصطناعي صممه «ميتا» يسمى «شيشرو»، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادرا على التغلب على البشر في اللعبة اللوحية «دبلوماسي» (Diplomacy). وقد حظي هذا الأداء بثناء الشركة الأم لـ فيسبوك عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة «ساينس».
كان بيتر بارك يشكك في ظروف فوز «شيشرو» وفقا لميتا، التي أكدت أن البرنامج كان «صادقا ومفيدا في الأساس»، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع «شيشرو» إنجلترا «التي تولى دورها لاعب بشري»، ودفعها إلى التآمر مع ألمانيا «التي لعب دورها إنسان آخر» للغزو. وعلى وجه التحديد، وعد «شيشرو» إنجلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلا الثقة التي اكتسبها من إنجلترا.
وفي تصريح لوكالة الأنباء الفرنسية، لم تنف «ميتا» المزاعم المتعلقة بقدرة «شيشرو» على الخداع، لكنها قالت إنه «مشروع بحثي محض»، مع برنامج مصمم فقط للعب لعبة «دبلوماسي».
وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من «شيشرو» في منتجاتها.
الذكاء الاصطناعي يستخدم الخداع لتحقيق أهدافهومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الواضحة، تمكن برنامج «شات جي بي تي - 4» المصنوع من «أوبن إيه آي» من خداع موظف جرى تعيينه على منصة «تاسك رابيت» (TaskRabbit) لإجراء اختبار «كابتشا» (Captcha) الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتا.
وعندما سأل الإنسان مازحا «شات جي بي تي» إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي «لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور»، دافعا العامل لإجراء الاختبار.
الذكاء الاصطناعيالذكاء الاصطناعي في تزوير الانتخاباتوأخيرًا، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك «السبب الوحيد للاعتقاد بأن الأمر ليس جديا هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريبا».
ومع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
اقرأ أيضاًيحارب نفسه.. أداة تكشف الصور المبتكرة بواسطة الذكاء الاصطناعي
كيف تحقق ربحًا باستخدام الذكاء الاصطناعي؟.. الآليات والطرق
جامعة المنصورة الجديدة تشارك في «النشر العلمي وتحديات الذكاء الاصطناعي» بأبوظبي
المصدر: الأسبوع
كلمات دلالية: ai الذكاء الاصطناعي أضرار الذكاء الاصطناعي الذكاء الإصطناعي الذكاء الاصطناعي الذكاء الاصطناعي في التصميم الذكاء الاصطناعي للصور الذكاء الاصطناعي مجانا الذكاء الاصطناعي وتطبيقاته الذكاء الاصطناعي يرسم الذكاء الصناعي تخصصات الذكاء الاصطناعي تطبيقات الذكاء الاصطناعي تعلم الذكاء الاصطناعي خطر الذكاء الاصطناعي مجالات الذكاء الاصطناعي مخاطر الذكاء الاصطناعي معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی الاصطناعی ا من خلال
إقرأ أيضاً:
شراكة بين مركز الذكاء الاصطناعي التابع لـ «دبي للسلع» و«آي بي إم للاستشارات»
دبي (الاتحاد)
أعلن مركز دبي للسلع المتعددة، انضمام شركة «آي بي إم للاستشارات» شريكاً لمركز الذكاء الاصطناعي.
وبموجب الشراكة، ستتعاون شركة «آي بي إم للاستشارات» مع مركز دبي للسلع المتعددة في بحث العديد من مجالات التعاون بهدف دعم نمو قطاع الذكاء الاصطناعي في إمارة دبي.
ويشمل التعاون تعزيز المحتوى الفكري، وتقديم التوجيهات الإرشادية وتنظيم الندوات التعليمية، وغيرها من المؤتمرات المتخصصة، وفعاليات الابتكار التنافسي «الهاكاثون»، والعديد من المبادرات الأخرى.
ويتيح مركز الذكاء الاصطناعي، بالتعاون مع مجموعة من الشركاء، للشركات الوصول إلى تقنيات الذكاء الاصطناعي، وتطوير البرمجيات والتطبيقات المخصصة المعززة بالذكاء الاصطناعي، إلى جانب برامج المسرعات وفرص دخول الأسواق.
ونجح المركز، منذ إطلاقه خلال شهر سبتمبر الماضي، في جذب واستقطاب نحو 60 شركة متخصصة في الذكاء الاصطناعي، ما يجعله أحد أبرز الوجهات للشركات المتخصصة في مجال الذكاء الاصطناعي، والتي تتطلع إلى توسيع نطاق أعمالها دولياً، انطلاقاً من إمارة دبي.
وقال أحمد حمزة، المدير التنفيذي للمنطقة الحرة التابعة لمركز دبي للسلع المتعددة، إن الجهود المبذولة في تطوير التطبيقات العملية للذكاء الاصطناعي تعد أحد الأهداف الأساسية لمركز الذكاء الاصطناعي، حيث يمكن تحقيق مكاسب شاملة وقيمة ملموسة عبر تعزيز الاعتماد على حلول الذكاء الاصطناعي.
وأضاف: تُشير التقديرات أن الذكاء الاصطناعي سيسهم في تحقيق نمو اقتصادي يصل إلى 15 تريليون دولار بحلول عام 2030، ونحن لدينا قناعة راسخة بأن يكون الذكاء الاصطناعي رافداً رئيساً لدعم النمو الاقتصادي العالمي، ومن هنا تبرز أهمية شراكاتنا الجديدة مع 'آي بي إم للاستشارات'، والتي ستضيف قيمة كبيرة إلى المركز.
بدوره، قال بيل فاريل، الشريك الإداري لمنطقة الشرق الأوسط وأفريقيا لدى شركة«آي بي إم للاستشارات»: لا يمكننا إغفال الفرص الهائلة التي يوفرها الذكاء الاصطناعي، خصوصاً في دبي، وتُعد المنظومات الرئيسة والحيوية، مثل مركز الذكاء الاصطناعي في مركز دبي للسلع المتعددة، محاور ارتكاز أساسية لدفع عجلة الابتكار في مجال الذكاء الاصطناعي، ما يسمح لنا بالتعاون في مجموعة واسعة من الحلول التقنية الناشئة.
أخبار ذات صلة «الاتحادية للضرائب» تحصل على شهادتي «آيزو» في إدارة المخاطر وعلاقات الشركاء «الاتحاد لائتمان الصادرات» تستعرض استراتيجياتها الداعمة للتصدير خلال «أديبك»