أمثلة على خداع الذكاء الاصطناعي البشر… والآتي أعظم!
تاريخ النشر: 12th, May 2024 GMT
يخشى البعض من أن ينقلب الذكاء الاصطناعي على الإنسان مستقبلا، لكن هذه المخاوف باتت واقعا منذ الآن، وفقا لدراسة جديدة، إذ إن البرامج التي صمِمت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، بحسب ما أوردته وكالة الأنباء الفرنسية.
وبينت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز" أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريبا عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك لوكالة الأنباء الفرنسية إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها".
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث إن السلوك الذي يبدو قابلا للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعا غير قابل للتنبؤ في الطبيعة.
"مخادع" مثل البشروقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء اصطناعي صممه "ميتا" يسمى "شيشرو"، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادرا على التغلب على البشر في اللعبة اللوحية "دبلوماسي" (Diplomacy). وقد حظي هذا الأداء بثناء الشركة الأم لفيسبوك عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
كان بيتر بارك يشكك في ظروف فوز "شيشرو" وفقا لميتا، التي أكدت أن البرنامج كان "صادقا ومفيدا في الأساس"، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع "شيشرو" إنكلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد "شيشرو" إنكلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلا الثقة التي اكتسبها من إنكلترا.
وفي تصريح لوكالة الأنباء الفرنسية، لم تنف "ميتا" المزاعم المتعلقة بقدرة "شيشرو" على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة "دبلوماسي".
وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من "شيشرو" في منتجاتها.
ومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج "شات جي بي تي – 4″ المصنوع من "أوبن إيه آي" من خداع موظف جرى تعيينه على منصة "تاسك رابيت" (TaskRabbit) لإجراء اختبار "كابتشا" ("Captcha") الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتا.
وعندما سأل الإنسان مازحا "شات جي بي تي" إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك "السبب الوحيد للاعتقاد بأن الأمر ليس جديا هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريبا".
ومع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: الجزيرة
كلمات دلالية: ترجمات حريات معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی من خلال
إقرأ أيضاً:
الإمارات تحافظ على مكانتها مركزاً للاستثمار في الذكاء الاصطناعي
أبوظبي (الاتحاد)
تسهم الأساسيات الاقتصادية القوية لدولة الإمارات، والتركيز الاستراتيجي على الابتكار، ومكانة الدولة مركزاً للاستثمار في التكنولوجيا والذكاء الاصطناعي، في التغلب على التقلبات المرتبطة بالتغيرات الجذرية في قطاع التي شهدها العالم مؤخراً، حسب دراسة صدرت عن شركة «فوركس دوت كوم». وتوقعت الدراسة أن تحافظ الإمارات على قدرتها على الجذب طويل الأجل للمستثمرين، والحفاظ على زخم نمو قطاع الذكاء الاصطناعي، على الرغم من الاضطرابات الأخيرة، مشيرة إلى أن التغييرات الحادثة في قطاع الذكاء الاصطناعي، أثارت التساؤلات حول تقييم سوق الذكاء الاصطناعي، باعتباره القطاع الذي أصبح مفتاحاً للاستراتيجيات الاقتصادية العالمية وخطط الابتكار المستقبلية.
وقالت الدراسة: إن الإمارات، تعتمد بشكل كبير على قطاع التكنولوجيا للبنيّة التحتيّة للبيانات، وكجزء من خطة تنويع الاستثمار بعيداً عن النفط، تمّ تخصيص أموال كبيرة للذكاء الاصطناعي والبيانات والابتكار. وأضافت أنه التطورات الخاصة بـ DeepSeek تسببت بزعزعة ثقة المستثمرين عالمياً، ما دفعهم إلى إعادة تقييم تخصيصات المحافظ وإعادة التفكير في وضع قطاع التكنولوجيا ملاذاً آمناً مع حلول عام 2025، حيث بدأ المستثمرون في المؤسسات والقطاع الخاص بالتحوّل نحو نهج أكثر حذراً مع التركيز على الأساسيّات الراسخة بدلاً من تقيّيمات الذكاء الاصطناعي المتضاربة، مؤكدة أنه رغم ذلك، ولكن يمكن القول إن قطاع الذكاء الاصطناعي سيظل جزءاً رئيساً من الاقتصادات العالمية، وبينما يظل الاتجاه طويل الأجل سارياً، فقد تتباطأ وتيرة نموه المتسارع، ما يؤدي إلى حركة أكثر استقراراً واستدامة للقطاع.
وأفادت رزان هلال، معدة الدراسة، ومحلّلة السوق لدى FOREX.com «بأن المنافسة في قطاع الذكاء الاصطناعي، احتدمت بعد طرح الصين حلولاً فعالة من حيث التكلفة، ما شكل تحدياً لبرنامج ChatGPT التابع لشركة OpenAI، وذلك بعد أسبوع واحد فقط من استثمار Oracle وSoftBank وOpenAI بقيمة 500 مليار دولار في توسيع البنية التحتية للذكاء الاصطناعي في الولايات المتحدة، ما عزز مكاسب السوق». وأوضحت: «ورغم ذلك لم يدم انتعاش السوق طويلاً، حيث واجهت المؤشرات العالمية، بما في ذلك«ناسداك» و«ستاندرد آند بورز 500» و«داو جونز» و«داكس»، تراجعات قوية، لافتة إلى أنه في الوقت نفسه، لم يشهد مؤشر MSCI الإماراتي سوى تصحيح طفيف، حيث ظل فوق أعلى مستوى له، والذي تحقق آخر مرة في أغسطس 2022، بعد تسجيل ارتفاع بنسبة 18% بين أكتوبر 2024 ويناير 2025، متجاوزاً نطاق الأسعار بين مارس 2023 إلى أغسطس 2024.
وذكرت هلال، أنه خلال الأسبوع الماضي، جاءت أرباح الشركات الكبرى عن الربع الرابع بنتائج متباينة، ما مهد الطريق للتحديّات في الأرباع القادمة، حيث جاء DeepSeek بمثابة جرس إنذار لتقيّيمات قطاع الذكاء الاصطناعي، مستنتجة من ذلك أن يكون المستثمرون أكثر حذراً مع الأسهم ذات القيمة العالية طوال عام 2025، خاصة مع سياسات«ترامب» الحازمة التي زادت التوتر في السوق.
المعولي يرعى افتتاح مهرجان "سناو مقصدنا"