أمثلة على خداع الذكاء الاصطناعي البشر… والآتي أعظم!
تاريخ النشر: 12th, May 2024 GMT
يخشى البعض من أن ينقلب الذكاء الاصطناعي على الإنسان مستقبلا، لكن هذه المخاوف باتت واقعا منذ الآن، وفقا لدراسة جديدة، إذ إن البرامج التي صمِمت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، بحسب ما أوردته وكالة الأنباء الفرنسية.
وبينت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز" أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريبا عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك لوكالة الأنباء الفرنسية إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها".
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث إن السلوك الذي يبدو قابلا للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعا غير قابل للتنبؤ في الطبيعة.
"مخادع" مثل البشروقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء اصطناعي صممه "ميتا" يسمى "شيشرو"، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادرا على التغلب على البشر في اللعبة اللوحية "دبلوماسي" (Diplomacy). وقد حظي هذا الأداء بثناء الشركة الأم لفيسبوك عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
كان بيتر بارك يشكك في ظروف فوز "شيشرو" وفقا لميتا، التي أكدت أن البرنامج كان "صادقا ومفيدا في الأساس"، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع "شيشرو" إنكلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد "شيشرو" إنكلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلا الثقة التي اكتسبها من إنكلترا.
وفي تصريح لوكالة الأنباء الفرنسية، لم تنف "ميتا" المزاعم المتعلقة بقدرة "شيشرو" على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة "دبلوماسي".
وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من "شيشرو" في منتجاتها.
ومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج "شات جي بي تي – 4″ المصنوع من "أوبن إيه آي" من خداع موظف جرى تعيينه على منصة "تاسك رابيت" (TaskRabbit) لإجراء اختبار "كابتشا" ("Captcha") الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتا.
وعندما سأل الإنسان مازحا "شات جي بي تي" إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك "السبب الوحيد للاعتقاد بأن الأمر ليس جديا هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريبا".
ومع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: الجزيرة
كلمات دلالية: ترجمات حريات معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی من خلال
إقرأ أيضاً:
بيل غيتس يُحذر.. ماذا لو قرر الذكاء الاصطناعي الاستغناء عنّا؟
قد يبدو هذا السؤال خيالياً إلا أنه في الواقع جاء على لسان مؤسس شركة مايكروسوفت، الملياردير الأمريكي بيل غيتس، الذي سبق أن حذّر من أوبئة ومخاطر عالمية قبل سنوات، واليوم، يعود مجددًا ليُثير الجدل، ليس بهدف بثّ الذعر، بل لحثّنا على التفكير الجاد في مستقبل قد يكون أقرب مما نتصور.
لماذا يشعر غيتس بالقلق؟
رغم كونه من أبرز رواد التكنولوجيا، لا يُخفي غيتس مخاوفه من المدى الذي قد تبلغه تقنيات الذكاء الاصطناعي، فقد غيّرت كل اختراعات البشرية مجرى التاريخ، من العجلة إلى الإنترنت، وجلب كل منها تحديات ومشكلات بجانب التقدم. ومع ذلك، لا يمكن إحراز التقدم دون المخاطرة، والتغيير لا يُعدّ سيئًا إذا رافقه وعي ومنطق، وفقا لموقع unionrayo.
الذكاء الاصطناعي يتطوّر بسرعة غير متوقعة
يُشبّه غيتس المرحلة الحالية من الذكاء الاصطناعي ببدايات استخدام السيارات، حين لم تكن هناك إشارات مرور أو قوانين واضحة، فنحن الآن منبهرون بقدرات هذه التقنية، لكن دون وجود ضوابط حاكمة، وأكثر ما يُقلق غيتس وبعض فلاسفة جامعة أكسفورد هو ما يُعرف بـ”انفجار الذكاء” — لحظة قد يتمكن فيها الذكاء الاصطناعي من تحسين نفسه دون تدخل بشري، بشكل يفوق السيطرة، وربما دون الحاجة للبشر أصلاً. ورغم أن هذا قد يبدو خيالاً علمياً، إلا أنه احتمال واقعي يستحق التفكير.
التزييف العميق والتضليل والتأثير على الانتخابات
واحدة من أخطر التحديات الحالية هي ظاهرة “التزييف العميق”؛ حيث يمكن للذكاء الاصطناعي إنتاج مقاطع فيديو وتسجيلات صوتية يصعب تمييزها عن الحقيقة، تخيّل تأثير فيديو مزيف لمرشح سياسي يرتكب جريمة قبل الانتخابات بيومين — حتى لو تم نفيه لاحقًا، الضرر سيكون قد وقع.
الذكاء الاصطناعي كسلاح رقمي
مخاوف غيتس لا تتوقف عند التضليل. فهو يحذر أيضًا من دور الذكاء الاصطناعي في الهجمات السيبرانية، حيث يمكنه رصد ثغرات في الأنظمة الأمنية واستغلالها، من سرقة بيانات إلى شن هجمات بين الدول.
ما الحل في نظر غيتس؟
يقترح غيتس تأسيس هيئة دولية تُشبه الوكالة الدولية للطاقة الذرية، ولكن متخصصة في مراقبة الذكاء الاصطناعي وتنظيمه، بحيث تُطلق التحذيرات حين تظهر مؤشرات خطر.
هل الذكاء الاصطناعي سيأخذ وظائفنا؟
غيتس لا يرى أن الذكاء الاصطناعي سيقضي على فرص العمل بالكامل، لكنه يُقرّ بأن هناك تحوّلاً قادماً في سوق العمل، وظائف ستختفي، وأخرى ستُخلق، والمهم هو كيف سنتعامل مع هذا التغيير ونستخدم الذكاء الاصطناعي كأداة، لا كبديل تام.
كما يشدد على أهمية ضمان العدالة في الوصول إلى هذه التقنيات، حتى لا تزيد الفجوة الاجتماعية القائمة.
الذكاء الاصطناعي ليس معصومًا من الخطأ
يُنبّه غيتس إلى أن الذكاء الاصطناعي قد يُنتج معلومات مغلوطة أو يحمل تحيزات بشرية تعلّمها من بياناته، لذلك، لا يدعو لحظره، بل لتحسينه، وتنويعه، وتثقيف من يستخدمه.
في النهاية، لا يُعلن غيتس نهاية العالم، لكنه في الوقت ذاته لا يتجاهل التحديات. فالذكاء الاصطناعي سيُغيّر كل شيء، لكن ما زال السؤال مفتوحًا: هل سيكون هذا التغيير نعمة أم نقمة؟
البيان
إنضم لقناة النيلين على واتساب
مكافحة المخدرات تقيم معرضًا توعويًّا بأضرار ومخاطر المخدرات والسموم والمؤثرات العقلية بالكلية التقنية