مخاوف الخداع المستقبلية حدثت الان.. الذكاء الاصطناعي ينقلب على البشرية
تاريخ النشر: 11th, May 2024 GMT
يخشى البعض من أن ينقلب الذكاء الاصطناعي على الإنسان مستقبلاً، لكنّ هذه المخاوف باتت واقعاً منذ الآن. لقد أصبحت البرامج التي صُمِّمَت لتكون صادقة تمتلك قدرة مثيرة للقلق على خداع البشر، وفقاً لدراسة جديدة.
وبيّنت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز" أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك لوكالة "فرانس برس" إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها".
وأوضح أنه على عكس البرامج التقليدية فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث إن السلوك الذي يبدو قابلاً للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعاً غير قابل للتنبؤ في الطبيعة.
وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا ("ام اي تي") برنامج ذكاء اصطناعي صممته "ميتا" يسمى "شيشرو"، الذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للاستراتيجية كان قادراً على التغلب على البشر في اللعبة اللوحية "دبلوماسي Diplomacy". وقد حظي هذا الأداء بثناء الشركة الأم لفيسبوك في عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
كان بيتر بارك يشكك في ظروف فوز "شيشرو" وفقاً لميتا، التي أكدت أن البرنامج كان "صادقاً ومفيداً في الأساس"، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا خدع "شيشرو" إنجلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد "شيشرو" إنجلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلاً الثقة التي اكتسبها من إنجلترا.
وفي تصريح لوكالة "فرانس برس" لم تنف "ميتا" المزاعم المتعلقة بقدرة "شيشرو" على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة Diplomacy".
وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من "شيشرو" في منتجاتها.
ومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة تمكن برنامج "تشات جي بي تي - 4" المصنوع من "أوبن إيه آي" من خداع عامل مستقل جرى تعيينه على منصة "تاسك رابيت" TaskRabbit لإجراء اختبار "كابتشا Captcha"، الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.
وعندما سأل الإنسان مازحا "تشات جي بي تي -4" إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك "السبب الوحيد للاعتقاد بأن الأمر ليس جدياً هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريباً".
ومع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: السومرية العراقية
كلمات دلالية: معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی من خلال
إقرأ أيضاً:
خبراء: الذكاء الاصطناعي ليس بديلاً للبشر
أكد خبراء خلال مشاركتهم في فعاليات "ملتقى دبي للذكاء الاصطناعي"، أهمية التركيز على الإنسان باعتباره محور التحول في استخدام التكنولوجيا وتبنيها، مع ضرورة إعطاء الأولوية لتعزيز التأثير الإيجابي للذكاء الاصطناعي على جودة الحياة ورفاه المجتمعات، والعمل على الارتقاء بقدرات الأفراد بدلاً من استبدالهم.
جاء ذلك ضمن فعاليات "ملتقى دبي للذكاء الاصطناعي" في "أسبوع دبي للذكاء الاصطناعي"، الذي ينعقد برعاية سمو الشيخ حمدان بن محمد بن راشد آل مكتوم، ولي عهد دبي، نائب رئيس مجلس الوزراء وزير الدفاع، رئيس مجلس أمناء مؤسسة دبي للمستقبل.
وأجمع المشاركون في جلسة بعنوان "الذكاء الاصطناعي التوليدي بين النمو المتسارع والتصميم الواعي" انعقدت ضمن الملتقى في منطقة 2071 في أبراج الإمارات بدبي، على أهمية القيمة الحقيقية للذكاء الاصطناعي والتي تكمن في التكاملية، أي تحقيق التوازن بين كفاءة الآلة والقيم الإنسانية.
فمن جهته قال بانوس ماداموبولوس، المستثمر في موريس آنجل، والمدير التنفيذي والمؤسس السابق لبرامج الصناعة والشراكات، ستانفورد اتش ايه آي، إن الذكاء الاصطناعي يجب أن يستلهم من الدماغ البشري، مشيراً إلى أن التقنيات الذكية ستُعيد تشكيل الوظائف وتغيّر ملامح قطاعات المستقبل، لكن الهدف منها ليس إلغاء العنصر البشري، بل تمكينه.
وأضاف سيشهد جيلنا تحولاً حقيقياً نحو فرق العمل الهجينة التي يقودها الإنسان ويعززها الذكاء الاصطناعي، لذا يتوجب علينا الاستثمار في أدوات تعزز الإبداع والتعاطف والقرارات السليمة باعتبارها مهارات إنسانية أساسية لا يمكن للآلة تقليدها، ودعائم حقيقية لبناء عالم أفضل.
وشدد على أن التحول الحقيقي في مجال الذكاء الاصطناعي لا يبدأ بالتكنولوجيا، وإنما بالنهج القيادي القادر على إعادة تصور العمليات والأساليب والأدوات المتبعة وتحديد دورها في تشكيل حياتنا ومستقبلنا ، ولا يتطلب ذلك تبني الذكاء الاصطناعي فحسب، وإنما فهمه وتوجيهه وتشكيله وفقاً لاحتياجاتنا ، مشيرا إلى أنه مما لا شك فيه بأن المؤسسات التي ستحقق نمواً وازدهاراً في العصر الجديد لن تكون الأسرع في الأتمتة، بل الأقدر على قيادة التحول الهادف والمسؤول.
من جانبه اعتبر سيرجي لوتر، الرئيس التنفيذي للبحث العالمي، والذكاء الاصطناعي، والتكنولوجيا الإعلانية في شركة "يانغو"، أن الذكاء الاصطناعي التوليدي ليس مجرّد تطور تقني، بل هو تغيير جذري في طريقة التفكير.
وأضاف لا نعمل على تصميم تقنيات عامة للجميع، بل نطور حلولاً ذكية تناسب كل سوق حسب لغته وثقافته واحتياجاته الخاصة، ونسعى إلى تقديم تقنيات ذكاء اصطناعي أسهل وأكثر كفاءة وتأثيراً، من خلال دمج التكنولوجيا المتقدمة مع فهمنا للأسواق المحلية.
وأكد أن الذكاء الاصطناعي لا يُلغي دور الإبداع البشري، بل يعيد تشكيله، لافتاً إلى أن دور الإنسان لم يعد يقتصر على تنفيذ المهام، بل أصبح يتعلق بالفهم والتفكير الإبداعي.
وقال لوتر إنه من يعرف كيفية استخدام الذكاء الاصطناعي بطريقة ذكية ومؤثرة ستكون له الريادة في المستقبل، فالأمر لا يتعلق باستبدال البشر، بل بتمكينهم من العمل بطرق أسرع وأكثر ذكاءً وابتكاراً.
ويتواصل "ملتقى دبي للذكاء الاصطناعي" ضمن فعاليات "أسبوع دبي للذكاء الاصطناعي" على مدى أربعة أيام في منطقة 2071 بأبراج الإمارات بدبي بحضور آلاف المسؤولين والخبراء وصناع القرار والمتحدثين العالميين المتخصصين في قطاع الذكاء الاصطناعي، إلى جانب مؤثرين عالميين وقادة التكنولوجيا.
ويشهد الملتقى مشاركة وفود من 25 دولة حول العالم، و25 شركة عالمية و18 جهة حكومية و60 شركة ناشئة تستعرض حلولها ومشاريعها النوعية في مختلف مجالات الذكاء الاصطناعي، إضافة إلى مشاركة 20 جامعة ومؤسسة بحثية في جلسات وفعاليات الملتقى.
تصادم 3 سيارات ودراجة نارية على الطريق الدائري بالرماية