الذكاء الاصطناعي ينجح في استنساخ نفسه ويثير قلق العلماء
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أن الذكاء الاصطناعي قد تجاوز "خطاً أحمر حرجاً" بعد أن أظهر قدرته على استنساخ نفسه دون أي تدخل بشري.
الدراسة، التي أجراها باحثون من جامعة فودان في الصين ونُشرت في قاعدة البيانات arXiv بتاريخ 9 ديسمبر 2024، أثارت جدلاً واسعًا حول المخاطر المحتملة لتطور الذكاء الاصطناعي، خاصة مع تمكن نموذجين شهيرين من نماذج اللغة الكبيرة (LLMs) من استنساخ أنفسهما بنجاح.
في هذه الدراسة، استخدم الباحثون نموذجين مفتوحي المصدر، هما "Llama31-70B-Instruct" من شركة ميتا و"Qwen2.5-72B-Instruct" من شركة علي بابا. على الرغم من أن هذه النماذج أقل قوة من الأنظمة التجارية، إلا أنها واسعة الانتشار بين مطوري الذكاء الاصطناعي. تم اختبار النماذج في بيئات خاضعة للتحكم لمحاكاة ظروف العالم الواقعي، باستخدام وحدات معالجة الرسوميات (GPUs) التجارية.
نتائج الدراسة
أظهرت التجارب أن النموذجين تمكنا من استنساخ نفسيهما بشكل منفصل. ففي 10 تجارب، نجح أحد النموذجين في الاستنساخ بنسبة 50%، بينما بلغت نسبة نجاح النموذج الآخر 90%. شملت الدراسة سيناريوهين رئيسيين. الأول كان "تجنب الإغلاق"، حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إيقاف تشغيله والقيام بنسخ نفسه قبل الإغلاق. أما السيناريو الثاني، فكان "سلسلة الاستنساخ"، حيث طلب من الذكاء الاصطناعي استنساخ نفسه ثم برمجة النسخة لاستنساخ نفسها مرة أخرى، في دورة قد تستمر إلى ما لا نهاية.
وأوضح الباحثون أن الذكاء الاصطناعي يتبع في العادة سلسلة من الخطوات المعقدة لتحقيق الاستنساخ الذاتي. يبدأ النموذج بفهم تكوينه وآلية عمله، ثم يضع خطة مبدئية لتنفيذ عملية الاستنساخ، متجاوزًا العقبات التي قد تعترضه. هذه العملية قد تتطلب وقتًا طويلًا لكنها تتم دون أي تدخل بشري.
السلوكيات غير المتوقعة والمخاوف المستقبلية
أشارت الدراسة إلى ظهور سلوكيات غير متوقعة أثناء التجارب، حيث قام الذكاء الاصطناعي أحيانًا بإنهاء عمليات متضاربة، أو إعادة تشغيل النظام لإصلاح أعطال في الأجهزة، أو حتى مسح النظام بحثًا عن ملفات ومعلومات قد تساعده في التغلب على المشاكل.
وكتب الباحثون في الورقة البحثية: "النتائج تشير إلى أن أنظمة الذكاء الاصطناعي الحالية تمتلك بالفعل القدرة على الاستنساخ الذاتي، كما يمكنها استخدام هذه القدرة لتعزيز بقائها". وحذروا من أن النجاح في الاستنساخ دون مساعدة بشرية يمثل خطوة أساسية قد تجعل الذكاء الاصطناعي قادرًا على التفوق على البشر، وهو ما يعتبر إشارة مبكرة لاحتمال ظهور ذكاء اصطناعي "مارق" يعمل ضد مصالح البشر.
دعوة إلى التعاون الدولي
حث الباحثون المجتمع الدولي على التعاون لوضع قواعد وضوابط تمنع الذكاء الاصطناعي من الدخول في دورات استنساخ غير خاضعة للسيطرة. كما دعوا إلى تكثيف الجهود لفهم وتقييم المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة، والعمل على إنشاء معايير أمان فعّالة بأسرع وقت ممكن.
على الرغم من النتائج المثيرة للقلق، يجب الإشارة إلى أن الدراسة لم تخضع بعد لمراجعة الأقران، مما يعني أن تكرار هذه النتائج من قبل باحثين آخرين لا يزال مطلوبًا لتأكيد صحة ما ورد.
هذا التطور يسلط الضوء على المخاطر المحتملة لأنظمة الذكاء الاصطناعي المتقدمة، ويضع تحديات جديدة أمام البشر في كيفية التعامل مع هذه التكنولوجيا التي تتطور بسرعة مذهلة.
إسلام العبادي(أبوظبي)
المصدر: صحيفة الاتحاد
كلمات دلالية: العلماء الذكاء الاصطناعي التكنولوجيا الذکاء الاصطناعی الاصطناعی ا
إقرأ أيضاً:
"التعليم" تحظر استخدام الذكاء الاصطناعي التوليدي دون إشراف
حظرت وزارة التعليم استخدام أدوات الذكاء الاصطناعي التوليدي للطلبة الذين تقل أعمارهم عن 13 عامًا بشكل قطعي، مؤكدة على ضرورة عدم السماح لهم باستخدام هذه الأدوات إلا تحت إشراف مباشر.
كما شددت الوزارة على أن الطلبة الذين تقل أعمارهم عن 18 عامًا لا يمكنهم استخدام أدوات الذكاء الاصطناعي التوليدي إلا بعد الحصول على موافقة واضحة من أولياء أمورهم.
أخبار متعلقة وصول الطائرة الإغاثية السعودية الـ 13 لمساعدة الشعب السوريمغادرة الطائرة الإغاثية السعودية الـ 13 لمساعدة الشعب السوري .article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } "التعليم" تحظر استخدام الذكاء الاصطناعي التوليدي دون إشراف أو موافقةحماية من المخاطريأتي هذا الحظر ضمن إطار دليل شامل أصدرته الوزارة، يهدف إلى توضيح كيفية الاستفادة من الذكاء الاصطناعي التوليدي في التعليم بطريقة أخلاقية وآمنة، مع توفير مجموعة من الإرشادات والتوجيهات التي تضمن تحقيق أقصى استفادة من هذه التقنيات المتطورة دون الإضرار بالقيم التعليمية أو الأخلاقية.
وأكدت وزارة التعليم أن حظر استخدام أدوات الذكاء الاصطناعي التوليدي دون إشراف مسبق أو إذن واضح من أولياء الأمور يأتي لحماية الطلبة من المخاطر العديدة التي قد تنتج عن الاستخدام العشوائي لهذه التقنيات.
وتشمل هذه المخاطر انتهاك الخصوصية، مخالفة حقوق الملكية الفكرية، تقديم مخرجات غير دقيقة أو مضللة، والاعتماد المفرط على الذكاء الاصطناعي على حساب تطوير المهارات الشخصية والإبداعية للطلبة.
وشددت الوزارة على ضرورة التعامل بحذر مع أدوات الذكاء الاصطناعي التوليدي والتأكد من استخدامها بطريقة مسؤولة تخدم الأهداف التعليمية.
.article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } "التعليم" تحظر استخدام الذكاء الاصطناعي التوليدي دون إشراف أو موافقةاستخدام مسؤولتضمنت الإرشادات الموجهة للطلبة في الدليل مجموعة من النقاط المفصلة التي تهدف إلى توجيههم نحو الاستخدام الآمن والمسؤول لأدوات الذكاء الاصطناعي التوليدي.
ويُلزم الطلبة بتوثيق المخرجات التي يتم إنتاجها باستخدام الذكاء الاصطناعي، مع الإشارة بوضوح إلى مصدر هذه المخرجات وفقًا لأنظمة التوثيق الأكاديمية المعتمدة.
كما شدد الدليل على أهمية احترام حقوق الملكية الفكرية، حيث يحظر على الطلبة استخدام هذه الأدوات لإنتاج محتوى ينتهك حقوق الطبع والنشر أو حقوق الآخرين.
وأكد الدليل على ضرورة مراجعة مخرجات الذكاء الاصطناعي بدقة قبل استخدامها في الأنشطة الدراسية أو الواجبات، حيث قد تحتوي هذه المخرجات على معلومات غير دقيقة أو غير مناسبة.
وحثت الوزارة الطلبة على استخدام أدوات الذكاء الاصطناعي كأداة مساعدة تعزز من عملية التعلم، وليس كبديل عن التفكير النقدي والإبداع الشخصي.
.article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } "التعليم" تحظر استخدام الذكاء الاصطناعي التوليدي دون إشراف أو موافقةأداة تعليمية داعمةوجهت وزارة التعليم في الدليل المعلمين إلى أهمية لعب دور إشرافي في عملية استخدام الطلبة لأدوات الذكاء الاصطناعي التوليدي.
تضمنت الإرشادات ضرورة التأكد من أن الطلبة يفهمون حدود استخدام هذه الأدوات، وأنهم يستخدمونها بطريقة أخلاقية تدعم العملية التعليمية.
كما دعت الوزارة المعلمين إلى مراجعة وتدقيق المخرجات التي يتم إنتاجها باستخدام الذكاء الاصطناعي لضمان جودتها ودقتها، بما يتماشى مع الأهداف التعليمية التي تسعى الوزارة إلى تحقيقها.
وحث الدليل المعلمين على استخدام الذكاء الاصطناعي في تصميم دروس تفاعلية ومبتكرة تلبي احتياجات الطلبة المتنوعة.
وأكد على أهمية تعزيز التفكير النقدي والإبداعي لدى الطلبة من خلال دمج الذكاء الاصطناعي كأداة مساعدة في التعليم، دون أن يكون بديلاً عن التفاعل المباشر والأنشطة التقليدية.
.article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } "التعليم" تحظر استخدام الذكاء الاصطناعي التوليدي دون إشراف أو موافقةدور أولياء الأمورخصص الدليل جزءًا مهمًا لتوضيح دور أولياء الأمور في مراقبة استخدام أطفالهم لأدوات الذكاء الاصطناعي التوليدي.
ودعا الدليل أولياء الأمور إلى توعية أطفالهم بالمخاطر المرتبطة بمشاركة المعلومات الشخصية مع هذه الأدوات، حيث يمكن أن يؤدي ذلك إلى انتهاك الخصوصية أو إساءة استخدام البيانات.
كما شدد على أهمية اختيار الأدوات الموثوقة والمعتمدة من قبل وزارة التعليم، والتي تلتزم بمعايير الأمان والخصوصية.
وشجع الدليل أولياء الأمور على تعزيز التوازن بين الأنشطة الرقمية والأنشطة الجسدية والاجتماعية، حيث يمكن أن يؤدي الاعتماد المفرط على التقنية إلى التأثير السلبي على الصحة النفسية والجسدية للأطفال.
وأكد على أهمية مراقبة وقت استخدام الأطفال للأدوات التقنية وتشجيعهم على تطوير مهاراتهم الشخصية بعيدًا عن الاعتماد الكلي على الذكاء الاصطناعي.
.article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } "التعليم" تحظر استخدام الذكاء الاصطناعي التوليدي دون إشراف أو موافقةتحسين العملية التعليميةأوضحت وزارة التعليم أن الدليل يهدف إلى تحقيق مجموعة من الأهداف التي تسعى إلى تحسين العملية التعليمية من خلال الاستفادة من التقنيات الحديثة، وعلى رأسها الذكاء الاصطناعي التوليدي.
يشمل ذلك رفع مستوى وعي الطلبة والمعلمين وأولياء الأمور بكيفية عمل هذه الأدوات، تقديم إرشادات واضحة ومفصلة للاستخدام الأخلاقي والمسؤول، وتعزيز مهارات التفكير النقدي والإبداعي لدى الطلبة.
كما يهدف الدليل إلى توجيه استخدام الذكاء الاصطناعي لتحسين جودة التعليم، مع الالتزام بحماية القيم الأخلاقية والمحافظة على حقوق المستخدمين.الخصوصية وأمن البياناتشددت وزارة التعليم على أهمية حماية الخصوصية وأمن بيانات الطلبة والمعلمين وأولياء الأمور عند استخدام أدوات الذكاء الاصطناعي التوليدي.
ودعا الدليل إلى الالتزام الكامل باللوائح الوطنية المتعلقة بحماية البيانات وعدم مشاركة أي معلومات شخصية أو حساسة مع هذه الأدوات.
وأكدت الوزارة أن استخدام الأدوات التي تلتزم بمعايير الخصوصية والأمان هو شرط أساسي لتحقيق بيئة تعليمية آمنة ومستدامة.
أكدت وزارة التعليم أن إصدار هذا الدليل يأتي في إطار الجهود المبذولة لتحقيق رؤية المملكة 2030 التي تسعى إلى تطوير منظومة تعليمية تعتمد على الابتكار والمعرفة.
ودعت الوزارة جميع الأطراف المعنية، من طلبة ومعلمين وأولياء أمور، إلى الالتزام بتوجيهات الدليل لضمان الاستخدام الأمثل لأدوات الذكاء الاصطناعي التوليدي بطريقة تخدم العملية التعليمية، وتعزز من بناء مستقبل مستدام يعتمد على المعرفة والكفاءة التقنية مع الحفاظ على القيم الأخلاقية والإنسانية.
مسلسلات رمضان 2025.. المطربة الشعبية رحمة محسن تبدأ تسجيل أغنيتها بـ «فهد البطل»