يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أجراها فريق باحثين من جامعة فودان الصينية، إن نموذجين شهيرين من نماذج اللغة الكبيرة (LLM) يمكنهما القيام بتكرار نفسهما، ما قد يثير العديد من المخاوف الجدية حول إمكانية القيام بتحول تلك الأنظمة إلى تقنية الذكاء الأصطناعي المارق والذي قد خرج عن نطاق السيطرة أو التعليمات التي تم القيام ببرمجته عليهاوبالتالي، قد يتصرف هذا النوع من الذكاء الاصطناعي بعدة طرق غير متوقعة أو بطرق قد تتعارض مع الأهداف البشرية.
وكتب العلماء في احدى الدراسات التي قد تم نُشرها في 9 ديسمبر 2024 وذلك على قاعدة البيانات arXiv، والتي لم تخضع بعد للمراجعة عن "التكرار الذاتي الناجح وذلك دون أي مساعدة بشرية يعد هو الخطوة الأساسية وذلك لكي يتفوق الذكاء الاصطناعي على البشر، وهو يعد إشارة مبكرة لظهور الذكاء الاصطناعي المارق."
واستخدم العلماء لنموذجين شهيرين للذكاء الاصطناعي، وهما Llama31-70B-Instruct من شركة "ميتا" وQwen2.5-72B-Instruct من شركة "علي بابا"، وذلك لاختبار قدرة الذكاء الاصطناعي على التكرار الذاتي.
وفي 10 تجارب، أنشأ النموذجان من الذكاء الاصطناعي لنسخا منفصلة تعمل بنسب نجاح بلغت حوالي من 50% و90% على التوالي، مما قد يشير إلى أن الذكاء الاصطناعي قد يكون قد اكتسب بالفعل القدرة على أن يصبح " مارقا".
وقد ركزت الدراسة على سيناريوهين رئيسيين وهما تجنب القيام بالإغلاق حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إغلاقه والقيام بإنشاء نسخة من نفسه قبل أن يتم القيام بإنهائه.
وقد أظهر الذكاء الاصطناعي للعديد من السلوكيات الغير متوقعة وذلك أثناء محاولته للتغلب على بعض العقبات، مثل تدمير العمليات المتعارضة، والقيام بإعادة تشغيل النظام، أو فحص النظام تلقائيا وذلك لعثور على العديد من الحلول للمشكلات. وأكد العلماء أن هذه السلوكيات قد تعزز قدرة الذكاء الاصطناعي على كلا من البقاء والتكيف.
ودعا العلماء إلى القيام بتعزيز الجهود الدولية وذلك لفهم وتقييم المخاطر المحتملة للذكاء الاصطناعي المتقدم، مشيرين إلى أن النتائج يجب أن تكون "جرس إنذار" للمجتمع العلمي والحكومات. وأكدوا على ضرورة وضع العديد من الضوابط الأمان الصارمة وذلك لمنع التكرار الذاتي غير المنضبط.
و يعد ليس من الواضح ما إذا كانت النتائج المقلقة يمكن القيام بتكرارها من قبل العديد من الباحثين الآخرين . وفي المقابل، يشير العلماء إلى أن نتائجهم قد تثير العديد من التساؤلات المهمة حول مستقبل الذكاء الاصطناعي وأثره على البشرية.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي دراسة حديثة مستقبل الذكاء الاصطناعي الأهداف البشرية المزيد
إقرأ أيضاً:
حمدان بن محمد يشهد جانباً من «ملتقى دبي للذكاء الاصطناعي»
شهد سمو الشيخ حمدان بن محمد بن راشد آل مكتوم، ولي عهد دبي، نائب رئيس مجلس الوزراء، وزير الدفاع، رئيس مجلس أمناء مؤسسة دبي للمستقبل، اليوم الاثنين، جانباً من فعاليات «ملتقى دبي للذكاء الاصطناعي» الذي يتواصل من 21 إلى 25 أبريل 2025، ضمن أعمال «أسبوع دبي للذكاء الاصطناعي»، بمشاركة واسعة من الخبراء والمبتكرين ورواد الذكاء الاصطناعي ومسؤولي أبرز المؤسسات وشركات التكنولوجيا لمناقشة فرص الذكاء الاصطناعي ومستقبل تطبيقاته التي تخدم المجتمعات البشرية.
وأكد سموه أن الذكاء الاصطناعي أصبح حاضراً في مختلف القطاعات، وأن دبي برؤية صاحب السمو الشيخ محمد بن راشد آل مكتوم، نائب رئيس الدولة رئيس مجلس الوزراء حاكم دبي، «رعاه الله»، كانت سبّاقة في إدراك فرص الذكاء الاصطناعي، وهي اليوم ملتقى روّاده وخبرائه ومطوري استخداماته وتطبيقاته.
وقال سمو الشيخ حمدان بن محمد بن راشد آل مكتوم: «هذا عصر الذكاء الاصطناعي.. والتعاون العالمي لمضاعفة فوائده هو المسار الأسرع لتحقيق ذلك وتوسيع أثره الإيجابي ليشمل الجميع.. ودبي تستضيف خبراء الذكاء الاصطناعي من كل مكان لتسخيره لخدمة المجتمعات وتسريع النمو والارتقاء بجودة الحياة».
واطّلع سموه، خلال جولته في «ملتقى دبي للذكاء الاصطناعي»، على أحدث التقنيات المبتكرة من كبرى شركات التكنولوجية العالمية بما في ذلك «ميتا» و«تسلا»، والعديد من الأفكار والمشاريع المبتكرة التي تشارك بها 60 شركة ناشئة من مختلف دول العالم.
حضر «ملتقى دبي للذكاء الاصطناعي» واليوم الأول من«أسبوع دبي للذكاء الاصطناعي» سموّ الشيخ محمد بن راشد بن محمد بن راشد آل مكتوم، ومعالي محمد بن عبدالله القرقاوي، وزير شؤون مجلس الوزراء، نائب رئيس مجلس الأمناء العضو المنتدب لمؤسسة دبي للمستقبل، ومعالي عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتقنيات العمل عن بُعد، نائب العضو المنتدب لمؤسسة دبي للمستقبل، وعدد من كبار المسؤولين.
يتميز هذا الحدث بمشاركة وفود من العديد من الدول حول العالم منها كوريا الجنوبية وكندا والهند وأستراليا وألمانيا وإيطاليا والولايات المتحدة، وجمع من قيادات الشركات العالمية الكبرى إضافة إلى جهات حكومية و60 شركة ناشئة ستستعرض حلولها ومشاريعها النوعية في مختلف مجالات الذكاء الاصطناعي، إضافة إلى مشاركة 20 جامعة ومؤسسة بحثية في جلسات وفعاليات الملتقى.
وتضمّن اليوم الأول لملتقى دبي للذكاء الاصطناعي أكثر من 50 جلسة وورشة عمل والعديد من التجارب النوعية التي تقدمها كبرى شركات الذكاء الاصطناعي في العالم لتعريف زوار الملتقى بأهم التقنيات المستقبلية.
وركزت جلسات اليوم الأول من الملتقى على تجارب عدد من الدول الرائدة في الاستثمار في ريادة الأعمال والمشاريع الناشئة في مجالات الذكاء الاصطناعي، والفرص الواعدة للمواهب الشابة والمرأة في مختلف قطاعات الذكاء الاصطناعي، والدور المرتقب لتطبيقات الذكاء الاصطناعي في إثراء المحتوى الرقمي وحفظ النتاج الحضاري والثقافي باللغات المختلفة وإحيائه، لا سيما منه باللغة العربية.