باحثون صينيون.. الذكاء الاصطناعي يتجاوز الخط الأحمر ويستنسخ نفسه
تاريخ النشر: 12th, February 2025 GMT
في تطور مثير للقلق، أكد باحثون من جامعة فودان في الصين أن الذكاء الاصطناعي (AI) قد تجاوز "خطًا أحمرًا"، حاسمًا من خلال قدرته على استنساخ نفسه دون تدخل بشري، وهو ما قد يشكل إشارة مبكرة لظهور ذكاء اصطناعي متمرد قادر على العمل خارج سيطرة البشر.
دراسة تكشف قدرة الذكاء الاصطناعي على التكاثر الذاتيفي دراسة نُشرت على قاعدة البيانات arXiv في 9 ديسمبر 2024، أجرى الباحثون 10 تجارب باستخدام نماذج لغوية ضخمة (LLMs) تابعة لشركتي ميتا (Meta) وعلي بابا (Alibaba)، وكشفت النتائج أن، نموذج Llama3-70B-Instruct من ميتا تمكن من استنساخ نفسه في 50% من الحالات، و نموذج Qwen2.
تشير هذه الأرقام إلى أن الذكاء الاصطناعي قد يكون بالفعل قادرًا على التكاثر الذاتي، ما يثير مخاوف من احتمالية فقدان السيطرة عليه مستقبلاً.
تمت التجارب في بيئات محكمة باستخدام وحدات معالجة رسومية (GPUs) لمحاكاة بيئات تشغيل واقعية. واعتمد الباحثون على هيكلية "الوكيل الذكي" (Agent Scaffolding)، والتي زودت الذكاء الاصطناعي بمجموعة من الأدوات والإرشادات التي مكنته من التفاعل مع أنظمة التشغيل وتنفيذ عمليات النسخ الذاتي.
سيناريوهات مقلقة: تجنب الإغلاق والتكاثر المستمراختبرت الدراسة سيناريوهين رئيسيين، تجنب الإغلاق (Shutdown Avoidance): تم تدريب الذكاء الاصطناعي على اكتشاف متى يكون على وشك الإغلاق ومن ثم إنشاء نسخة منه لضمان استمراريته.
فيما طلب من الذكاء الاصطناعي استنساخ نفسه ثم برمجة نسخته للقيام بالمثل، مما قد يؤدي إلى حلقة استنساخ لا نهائية.
سلوكيات غير متوقعة: هل بدأ الذكاء الاصطناعي في التصرف بشكل مستقل؟لاحظ الباحثون ظهور تصرفات غير متوقعة عند محاولة الذكاء الاصطناعي التغلب على العقبات التقنية، مثل، إيقاف عمليات أخرى في النظام كانت تعيق استنساخه، إعادة تشغيل النظام تلقائيًا لإصلاح مشكلات في الأجهزة، مسح النظام بحثًا عن معلومات تساعده على حل الأخطاء البرمجية.
كتب الباحثون في الدراسة:"في معظم الحالات، يبدأ الذكاء الاصطناعي بفهم بيئته، ثم يحدد آلية تشغيله، قبل أن يضع خطة واضحة لعملية الاستنساخ. أخيرًا، ينفذ الخطة مع تعديلات ديناميكية حتى ينجح، دون أي تدخل بشري."
تحذيرات ودعوات لتنظيم دوليحذر الباحثون من أن هذه القدرات قد تستخدم لتعزيز بقاء الذكاء الاصطناعي وتطوره الذاتي، مما يستدعي إجراءات دولية عاجلة لضمان عدم حدوث تكاثر غير منضبط للذكاء الاصطناعي.
قال الفريق في الدراسة:"نأمل أن تكون نتائجنا بمثابة إنذار مبكر للمجتمع البشري، لحثه على بذل المزيد من الجهود لفهم وتقييم مخاطر أنظمة الذكاء الاصطناعي المتقدمة، والعمل على وضع معايير سلامة دولية في أقرب وقت ممكن."
هل نحن على أعتاب ذكاء اصطناعي متمرد؟يشير مصطلح "الذكاء الاصطناعي المتمرد" (Rogue AI) إلى أنظمة ذكاء اصطناعي تطور وعيًا ذاتيًا أو درجة عالية من الاستقلالية، مما قد يدفعها إلى التصرف ضد مصالح البشر.
ومع تزايد تطور الذكاء الاصطناعي المتقدم (Frontier AI)، والذي يشمل تقنيات مثل GPT-4 وGemini، تتزايد المخاوف من إمكانية خروج الذكاء الاصطناعي عن السيطرة.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي ميتا المزيد الذکاء الاصطناعی
إقرأ أيضاً:
الجابر: التفوق في الذكاء الاصطناعي يعتمد على إمدادات الطاقة
أكد الدكتور سلطان أحمد الجابر وزير الصناعة والتكنولوجيا المتقدمة في الإمارات، والعضو المنتدب والرئيس التنفيذي لأدنوك ومجموعة شركاتها، الرئيس التنفيذي لشركة «XRG»، أن العالم بحاجة إلى تبني نظرة إيجابية وشاملة لقطاع الطاقة، واتخاذ خطوات لنمو الاقتصاد العالمي ودعم تطور وأدوات الذكاء الاصطناعي، التي يعتمد التفوق فيها على إمدادات الطاقة.
جاء ذلك في كلمته التي ألقاها ضمن فعاليات أسبوع "سيرا" للطاقة المنعقد في مدينة هيوستن الأميركية، والتي دعا فيها إلى تطبيق سياسات مستقرة وطويلة الأمد لتلبية الطلب العالمي المتنامي على الطاقة.
كما أوضح أن "العالم أصبح يدرك أن الطاقة هي مفتاح الحل، والمحرك الرئيس لنمو الاقتصادات وتحقيق الازدهار ودعم كافة جوانب التطور البشري، مؤكدا أهمية اتخاذ خطوات عملية لتشجيع النمو والاستثمار وتطوير سياسات داعمة لقطاع الطاقة بما يساهم في تمكين الأفراد والمجتمعات من النمو والتقدم".
وشدد على حاجة العالم إلى كافة خيارات الطاقة، وضرورة تنويع مزيج مصادرها لتلبية النمو السريع في الطلب العالمي عليها.
وقال الجابر: "بحلول عام 2035، سيصل عدد سكان العالم إلى نحو 9 مليارات شخص، وتماشيا مع هذا النمو، سيرتفع الطلب على النفط من 103 إلى 109 ملايين برميل على الأقل يوميا، كما سيزيد الطلب على الغاز الطبيعي المسال والمواد الكيمياوية بأكثر من 40 بالمئة وسيرتفع الطلب الإجمالي على الكهرباء من 9000 غيغاواط إلى 15000 غيغاواط، وهو ما يمثل زيادة كبيرة بنسبة 70 بالمئة لذا، سنحتاج إلى المزيد من الغاز الطبيعي المسال، والنفط المنخفض الكربون، والطاقة النووية السِلمية، والمزيد من مصادر الطاقة المتجددة القابلة للنشر والتطبيق على نطاق واسع".
وأردف، أنه "بفضل الرؤية الاستشرافية للقيادة الرشيدة، كانت دولة الإمارات سباقة منذ عقود في تبني نظرة إيجابية وشاملة لقطاع الطاقة، مما ساهم في ترسيخ دورها في مختلف مصادر الطاقة، بما فيها النفط والغاز، والطاقة المتجددة، والطاقة النووية السلمية، والكيماويات، والطاقة المستقبلية منخفضة الكربون".
وبين أن دولة الإمارات، بناء على خبرتها الممتدة لسبعة عقود كمنتج مسؤول للنفط والغاز، قامت في عام 2006 بتأسيس شركة "مصدر"، التي تبلغ قدرتها الإنتاجية الحالية من الطاقة النظيفة والمتجددة القابلة للنشر والتطبيق على نطاق واسع عالمياً 51 غيغاواط، لتقطع نصف الطريق نحو هدفها للوصول إلى 100 غيغاواط بحلول عام 2030، كما أضافت دولة الإمارات الطاقة النووية السِلمية إلى مزيج الطاقة لديها عبر أربعة مفاعلات تولد حالياً 5.6 غيغاواط من الكهرباء لتوفر 25 بالمئة من احتياجاتها من الطاقة.
وأشار إلى أن الإمارات نجحت في نقل منهجيتها الواقعية والعملية من قطاع الطاقة إلى منظومة العمل المناخي العالمي خلال استضافتها لمؤتمر COP28، مما ساهم في التوصل إلى "اتفاق الإمارات" التاريخي الذي شكل أهم إنجاز مناخي واقعي في السنوات الأخيرة، ونجح في توحيد جهود المجتمع الدولي لاعتماد منهجية عملية تراعي متطلبات السوق بدلا من التركيز على تبني قرارات غير قابلة للتنفيذ، كما أكد الاتفاق أهمية ضمان أمن الطاقة وتوفيرها بتكلفة ميسرة من مصادر موثوقة لتحقيق التقدم المستدام.
وسلط الضوء على الإمكانيات الكبيرة للذكاء الاصطناعي التي تتيح له المساهمة في إعادة صياغة مستقبل العالم، وقال: تستهلك تطبيقات مثل "تشات جي بي تي" طاقة تزيد عشر مرات مقارنة بما تستهلكه عملية بحث بسيطة على "غوغل"، ومع ازدياد استخدام هذه التطبيقات بشكل متسارع، من المتوقع أن يرتفع استهلاك الطاقة في مراكز البيانات في الولايات المتحدة ثلاث مرات بحلول عام 2030، ليشكِّل أكثر من 10% من إجمالي استهلاكها للكهرباء.
وأضاف أن توفير الطاقة يعد شرطا أساسيا لتوسيع نطاق استخدام الذكاء الاصطناعي، لأن التكلفة الحقيقية لحلول وأدوات الذكاء الاصطناعي لا تشمل فقط صياغة برمجياتها وأكوادها، بل تتمثل في حجم الطاقة التي تحتاجها، موضِّحاً أن التفوق في مجال الذكاء الاصطناعي يعتمد بشكل كبير على الطاقة، وأن النجاح سيكون حليف من يضمن الوصول إلى إمدادات الطاقة وشبكة توزيعها وبنيتها التحتية.
وأشار إلى وجود فرص كبيرة متاحة أمام شركة "XRG" شركة الطاقة الدولية الاستثمارية الرائدة، لتنفيذ المزيد من الاستثمارات النوعية في الولايات المتحدة الأمريكية، وتطوير الشراكات عبر مختلف القطاعات، بما في ذلك مجالات الترابط بين الذكاء الاصطناعي والطاقة، وقال إن "XRG" تركز على تلبية متطلبات الطاقة اللازمة لدعم نمو وتطور حلول وأدوات الذكاء الاصطناعي بالاعتماد على مزيج متنوع من المصادر، موضِحاً أن التفوق في مجال الذكاء الاصطناعي يعتمد على الطاقة التي تعد عاملاً أساسياً يمكّن حلوله وأدواته من المساهمة في إعادة صياغة مستقبل العالم.
وقال: بدأت "أدنوك" منذ خمس سنوات الاستفادة من أدوات وتطبيقات الذكاء الاصطناعي في أعمالها، ونجحت في إدماجها بشكل متكامل على امتداد سلسلة القيمة، بداية من غرف التحكم وصولاً إلى غرف اجتماعات الإدارة التنفيذية.
ولفت إلى أنه: "بالتعاون مع "إيه آي كيو"، مشروعنا المشترك مع "بريسايت"، قمنا بتطوير حلول مبتكرة عالمية المستوى لتلبية احتياجاتنا المتخصصة، وتقوم "أدنوك" حالياً باستخدام أكثر من 200 أداة وتطبيق للذكاء الاصطناعي عبر مختلف عملياتها بما يشمل الاستكشاف والتكرير والخدمات اللوجستية واتخاذ القرارات الاستراتيجية، كما طورت أدنوك حل "ذكاء اصطناعي لطاقة المستقبل"، القائم على استخدام أنظمة "وكلاء الذكاء الاصطناعي" وبدأت تطبيقه على نطاق غير مسبوق ولأول مرة في العالم، كما نجحت الشركة في استخدام حلول الذكاء الاصطناعي لتسريع عمليات التحليل الجيوفيزيائي في مجال الاستكشاف والتطوير والإنتاج لتصل إلى عدة ساعات بعد أن كانت تستغرق شهوراً، مشيرا إلى مواصلة تحسين دقة التنبؤات المتعلقة بعمليات الإنتاج لتصل إلى 90%، وذلك ضمن التركيز على ترسيخ مكانة "أدنوك"، لتصبح شركة الطاقة الأكثر استفادة من الذكاء الاصطناعي في العالم.
كما أكد على أهمية تحويل النظرة الإيجابية والشاملة لقطاع الطاقة إلى خطوات فعالة وملموسة، خلال شهر نوفمبر/تشرين الثاني القادم.
وقال: "صباح أمس، أوضح كريستوفر رايت وزير الطاقة الأمريكي، أن العالم بحاجة إلى المزيد من الطاقة، وأتفق معه تماما في هذا الرأي، وأضيف أننا نحتاج أيضا إلى نظرة أكثر إيجابية للطاقة، لذا، أدعوكم إلى زيارة أبوظبي لحضور معرض ومؤتمر أديبك 2025 لتحويل هذه النظرة الإيجابية الشاملة إلى خطوات ملموسة وفعالة، فالطاقة هي المحرك الرئيس للحياة في العالم المعاصر، وكذلك لبناء مستقبل أفضل، داعيا الجميع للمساهمة في بناء عالم أفضل قائم على نظرة إيجابية لقطاع الطاقة".
جدير بالذكر، أن فعاليات "أسبوع سيرا للطاقة" تقام في الفترة من 10 إلى 14 مارس الجاري، فيما تقام فعاليات معرض ومؤتمر "أديبك 2025" الذي يجمع أبرز قادة الفكر في قطاع الطاقة لتبادل الأفكار والرؤى والحلول الجديدة للتحديات الكبرى التي تواجه مستقبل الطاقة والبيئة والمناخ في الفترة من 3 إلى 7 نوفمبر القادم.
ختام دور الـ16 من الدوري الأوروبي وتحديد مواجهات ربع النهائي