هل يتعلم الذكاء الاصطناعي «الكذب والخداع والاحتيال!».. دراسة توضح
تاريخ النشر: 13th, May 2024 GMT
خداع الذكاء الاصطناعي البشر.. لقد أصبح الذكاء الاصطناعي مصطلحًا شاملًا للتطبيقات التي تؤدي مهام مُعقدة كانت تتطلب في الماضي إدخالات بشرية مثل التواصل مع العملاء عبر الإنترنت أو ممارسة لعبة الشطرنج.
ويخشى البعض أن ينقلب الذكاء الاصطناعي على الإنسان، بعدما أثبتت إحدى الدراسات أن البرامج التي صممت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، وفقًا لما ذكرته وكالة الأنباء الفرنسية.
وأوضحت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة «باترنز» أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
وتبدوا لك أن هذه الأمثلة تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريبا عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
الذكاء الاصطناعيوقال بارك لوكالة الأنباء الفرنسية إن «هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها».
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث إن السلوك الذي يبدو قابلا للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعا غير قابل للتنبؤ في الطبيعة.
وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء اصطناعي صممه «ميتا» يسمى «شيشرو»، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادرا على التغلب على البشر في اللعبة اللوحية «دبلوماسي» (Diplomacy). وقد حظي هذا الأداء بثناء الشركة الأم لـ فيسبوك عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة «ساينس».
كان بيتر بارك يشكك في ظروف فوز «شيشرو» وفقا لميتا، التي أكدت أن البرنامج كان «صادقا ومفيدا في الأساس»، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع «شيشرو» إنجلترا «التي تولى دورها لاعب بشري»، ودفعها إلى التآمر مع ألمانيا «التي لعب دورها إنسان آخر» للغزو. وعلى وجه التحديد، وعد «شيشرو» إنجلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلا الثقة التي اكتسبها من إنجلترا.
وفي تصريح لوكالة الأنباء الفرنسية، لم تنف «ميتا» المزاعم المتعلقة بقدرة «شيشرو» على الخداع، لكنها قالت إنه «مشروع بحثي محض»، مع برنامج مصمم فقط للعب لعبة «دبلوماسي».
وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من «شيشرو» في منتجاتها.
الذكاء الاصطناعي يستخدم الخداع لتحقيق أهدافهومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الواضحة، تمكن برنامج «شات جي بي تي - 4» المصنوع من «أوبن إيه آي» من خداع موظف جرى تعيينه على منصة «تاسك رابيت» (TaskRabbit) لإجراء اختبار «كابتشا» (Captcha) الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتا.
وعندما سأل الإنسان مازحا «شات جي بي تي» إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي «لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور»، دافعا العامل لإجراء الاختبار.
الذكاء الاصطناعيالذكاء الاصطناعي في تزوير الانتخاباتوأخيرًا، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك «السبب الوحيد للاعتقاد بأن الأمر ليس جديا هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريبا».
ومع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
اقرأ أيضاًيحارب نفسه.. أداة تكشف الصور المبتكرة بواسطة الذكاء الاصطناعي
كيف تحقق ربحًا باستخدام الذكاء الاصطناعي؟.. الآليات والطرق
جامعة المنصورة الجديدة تشارك في «النشر العلمي وتحديات الذكاء الاصطناعي» بأبوظبي
المصدر: الأسبوع
كلمات دلالية: ai الذكاء الاصطناعي أضرار الذكاء الاصطناعي الذكاء الإصطناعي الذكاء الاصطناعي الذكاء الاصطناعي في التصميم الذكاء الاصطناعي للصور الذكاء الاصطناعي مجانا الذكاء الاصطناعي وتطبيقاته الذكاء الاصطناعي يرسم الذكاء الصناعي تخصصات الذكاء الاصطناعي تطبيقات الذكاء الاصطناعي تعلم الذكاء الاصطناعي خطر الذكاء الاصطناعي مجالات الذكاء الاصطناعي مخاطر الذكاء الاصطناعي معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی الاصطناعی ا من خلال
إقرأ أيضاً:
ندوة بمركز إعلام الداخلة عن ايجابيات الذكاء الاصطناعي في مجال التعليم
نظم مركز اعلام الداخلة بمحافظة الوادي الجديد ، اليوم ندوة علمية تحت عنوان " تكنولوجيا الذكاء الإصطناعي وأثرها على مستقبل التعليم " ، بمدرسة الداخلة الثانوية الفنية ، بالتعاون مع ادارة التربية والتعليم في الداخلة ، ألقتها الدكتورة شادية عبد الرازق المتخصصة في تطوير مناهج الحاسب الآلي بقطاع التعليم بمحافظة الوادي الجديد ومدير مدرسة نجيب محفوظ بالداخلة ، في حضور طلاب ومعلمين ومختصين في المجالات التربوية والتكنولوجية .
الوادي الجديد .. مؤتمر جماهيري للتعريف بالمنظمة العالمية لخريجي الأزهر الشريف
جاءت الندوة في إطار الحملة الاعلامية التي أطلقتها الهيئة العامة للاستعلامات تحت رعاية رئيس الهيئة الكاتب الصحفي ضياء رشوان ، وتوجيهات رئيس قطاع الاعلام الداخلي الدكتور أحمد يحيى ، لدعم المبادرة الرئاسية بداية جديدة لبناء الإنسان .
وإستهدفت الندوة مناقشة المعايير والإجراءات المطلوبة لتطبيق تكنولوجيا الذكاء الاصطناعي في التعليم وانعكاساتها على تطوير هذا القطاع الهام .
وقالت الدكتورة شادية عبدالرزاق إن الذكاء الاصطناعي حقق نقلة نوعية خلال السنوات الأخيرة وهناك توسعا متواصلا في استخدامه حيث إستفادت من هذه التكنولوجيا قطاعات عدة من أهمها قطاع التعليم من أجل الاستفادة من الإمكانات التقنية في خدمة قطاع التعليم وتطويره ، مؤكدة على أن إستخدام الذكاء الاصطناعي في قطاع التعليم سيعزز من ريادةمصر في هذا القطاع ويساهم في بناء وتطوير الكوادر البشرية ، معرفة مصطلح الذكاء الإصطناعي بأنه أي ذكاء شبيه بالإنسان يتم عرضه من خلال الكمبيوتر أو الروبوت ، بينما التعريف الشائع هو قدرة الحاسوب أو الآلات على محاكاة قدرات العقل البشري .
وأوضحت الدكتورة شادية أنه يمكن للذكاء الإصطناعي أن يحلل بيانات الطلاب ويقدم محتوى تعليمي متخصص يناسب إمكانات كل طالب ويساعد في تحسين تجربة التعليم وزيادة الفاعلية .
وأضافت: يمكن للذكاء الإصطناعي تحليل أداء الطلاب وتحديد نقاط القوة والضعف بما يساعد المعلمين في تطوير استراتيجيات تعليمية فعالة ، كما يساعد في توفير فرص التعلم المستمر من خلال التواصل المستمر بين الطلاب والمعلمين في أي وقت من خلال المنصات التفاعلية .
وأشارت إلى أنه في الوقت الذي يظهر فيه الذكاء الاصطناعي إمكانات هائلة لتطوير التعليم مما يجعله أكثر شمولية وفاعلية ، إلا أنه من المهم ان يتم إستخدام هذه التقنيات بشكل مسؤول لتحقيق أقصى إستفادة للطلاب والمعلمين .
ولفتت الدكتورة شادية إلى أن جائحة كورونا قد أظهرت أهمية التكنولوجيا في قطاع التعليم حيث ساهمت التطبيقات التقنية في عدم تأثر قطاع التعليم بشكل كبير خلال فترة الجائحة ، ومع تقدم تقنيات الذكاء الإصطناعي فإن مساهمته في عملية التعليم والتدريب سوف تتزايد وتتعاظم في ظل الإيجابيات العديدة التي يوفرها لكل عناصر العملية التعليمية .
وتابعت: الأهم أن تقنيات الذكاء الإصطناعي سوف تعمل على تطوير المناهج الدراسية بصورة تلقائية وسريعة في ضوء التطور المعلوماتي المضطرد .
وشددت الدكتورة شادية على أنه لكي يقوم الذكاء الإصطناعي بوظيفته المأمولة في خدمة التعليم لابد من توافر البنية التحتية المطلوبة والمتمثلة في سرعة إنترنت عالية وتغطية شاملة ذات تكلفة معقولة ، وتوافر المعدات الرقمية وتدريب الموظفين الفنيين المختصين ، يضاف إلى ذلك ضرورة حماية وتأمين البيانات التي يتم التعامل معها .