يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أجراها فريق باحثين من جامعة فودان الصينية، إن نموذجين شهيرين من نماذج اللغة الكبيرة (LLM) يمكنهما القيام بتكرار نفسهما، ما قد يثير العديد من المخاوف الجدية حول إمكانية القيام بتحول تلك الأنظمة إلى تقنية الذكاء الأصطناعي المارق والذي قد خرج عن نطاق السيطرة أو التعليمات التي تم القيام ببرمجته عليهاوبالتالي، قد يتصرف هذا النوع من الذكاء الاصطناعي بعدة طرق غير متوقعة أو بطرق قد تتعارض مع الأهداف البشرية.
وكتب العلماء في احدى الدراسات التي قد تم نُشرها في 9 ديسمبر 2024 وذلك على قاعدة البيانات arXiv، والتي لم تخضع بعد للمراجعة عن "التكرار الذاتي الناجح وذلك دون أي مساعدة بشرية يعد هو الخطوة الأساسية وذلك لكي يتفوق الذكاء الاصطناعي على البشر، وهو يعد إشارة مبكرة لظهور الذكاء الاصطناعي المارق."
واستخدم العلماء لنموذجين شهيرين للذكاء الاصطناعي، وهما Llama31-70B-Instruct من شركة "ميتا" وQwen2.5-72B-Instruct من شركة "علي بابا"، وذلك لاختبار قدرة الذكاء الاصطناعي على التكرار الذاتي.
وفي 10 تجارب، أنشأ النموذجان من الذكاء الاصطناعي لنسخا منفصلة تعمل بنسب نجاح بلغت حوالي من 50% و90% على التوالي، مما قد يشير إلى أن الذكاء الاصطناعي قد يكون قد اكتسب بالفعل القدرة على أن يصبح " مارقا".
وقد ركزت الدراسة على سيناريوهين رئيسيين وهما تجنب القيام بالإغلاق حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إغلاقه والقيام بإنشاء نسخة من نفسه قبل أن يتم القيام بإنهائه.
وقد أظهر الذكاء الاصطناعي للعديد من السلوكيات الغير متوقعة وذلك أثناء محاولته للتغلب على بعض العقبات، مثل تدمير العمليات المتعارضة، والقيام بإعادة تشغيل النظام، أو فحص النظام تلقائيا وذلك لعثور على العديد من الحلول للمشكلات. وأكد العلماء أن هذه السلوكيات قد تعزز قدرة الذكاء الاصطناعي على كلا من البقاء والتكيف.
ودعا العلماء إلى القيام بتعزيز الجهود الدولية وذلك لفهم وتقييم المخاطر المحتملة للذكاء الاصطناعي المتقدم، مشيرين إلى أن النتائج يجب أن تكون "جرس إنذار" للمجتمع العلمي والحكومات. وأكدوا على ضرورة وضع العديد من الضوابط الأمان الصارمة وذلك لمنع التكرار الذاتي غير المنضبط.
و يعد ليس من الواضح ما إذا كانت النتائج المقلقة يمكن القيام بتكرارها من قبل العديد من الباحثين الآخرين . وفي المقابل، يشير العلماء إلى أن نتائجهم قد تثير العديد من التساؤلات المهمة حول مستقبل الذكاء الاصطناعي وأثره على البشرية.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي دراسة حديثة مستقبل الذكاء الاصطناعي الأهداف البشرية المزيد
إقرأ أيضاً:
تطبيق صيني للذكاء الاصطناعي يتفوق على تشات جي بي تي
انخفضت أسعار أسهم شركات التكنولوجيا الأمريكية الكبرى، أمس الاثنين، بعد الصعود السريع لروبوت الدردشة الصيني “ديب سيك” منخفض التكلفة.
وتفوق التطبيق الصيني، بعد إطلاقه الأسبوع الماضي، على منافسِين مثل تطبيق “تشات جي بي تي” التابع لشركة “أوبن إيه آي” الأمريكية، ليتصدر قائمة التطبيقات المجانية الأكثر تحميلاً في الولايات المتحدة.
وانخفضت أسهم عمالقة التكنولوجيا في الولايات المتحدة، مثل إنفيديا، صانعة الرقائق الإلكترونية المستخدمة في تقنيات الذكاء الاصطناعي، وكذلك أسهم مايكروسوفت، وميتا.
وفي المقابل، أعلن القائمون على تطبيق “ديب سيك” تقييد عمليات التسجيل في التطبيق مؤقتاً بسبب “هجمات خبيثة واسعة النطاق” على برنامجها.
وتمثل شعبية “ديب سيك” تحدياً على نطاق واسع للاعتقاد الراسخ بأن الولايات المتحدة هي الرائد التكنولوجي الذي لا يمكن منافسته في مجال الذكاء الاصطناعي، ما يثير تساؤلات حول حجم الاستثمارات التي تخطط له الشركات الأمريكية.
وعزز من قوة هذا التحدي ظهور نموذج “ديب سيك في 3” المجاني، الذي يقول الباحثون القائمون عليه إن تطويره كلّف أقل من ستة ملايين دولار، ما يعني أن التكلفة كانت أقل بكثير من المليارات التي أنفقها المنافسون الآخرون.
وُوجهت هذه المزاعم بنوع من التشكيك من جانب المنافسين الآخرين في مجال الذكاء الاصطناعي.
ويتزامن ظهور “ديب سيك” مع حظر الولايات المتحدة لبيع تقنيات الرقائق المتقدمة المستخدمة في تطوير الذكاء الاصطناعي للصين، ما دفع المطورين الصينيين إلى مشاركة أعمالهم فيما بينهم، وتجربة أساليب جديدة للتكنولوجيا حتى يواصلوا عملهم في ظل عدم توفر إمدادات مستقرة من تلك الرقائق المتقدمة.
ونتج عن ذلك التعاون نماذج للذكاء الاصطناعي تتطلب قدرات حوسبة أقل كثيراً من ذي قبل، كما يعني ذلك أن تكلفة هذه النماذج أقل أيضاً مما كان يعتقد في السابق، بالإضافة إلى قدرتها الكامنة التي يمكن أن تحدث تحولاً جذرياً في هذه الصناعة.
وبعد إطلاق برنامج “ديب سيك-آر 1” بداية الشهر الحالي، افتخرت الشركة بأدائها الذي يضاهي أحدث نماذج شركة “أوبن أيه آي” للذكاء الاصطناعي، حيث استخدم التطبيق الصيني لإنجاز مهام معقدة، مثل حل مسائل الرياضيات، والبرمجة، والاستدلال اللغوي الطبيعي.
ووصف مارك آندرسن، مستشار الرئيس الأمريكي دونالد ترامب، والمستثمر البارز في وادي السيليكون الأمريكي، تطبيق “ديب سيك R1” بأنه يمثل لحظة كتلك التي شهدت إطلاق القمر الاصطناعي السوفيتي “سبوتنك” للفضاء بالنسبة للأمريكيين، في إشارة إلى الصدمة التي شعرت بها الولايات المتحدة في عام 1957.
شعبية أذهلت الأسواق
وأحدث صعود تطبيق “ديب سيك” اضطراباً في الأسواق، حيث انخفضت أسهم شركة “ايه إس إم إل” الهولندية لصناعة الرقائق الإلكترونية بأكثر من سبعة في المئة، بينما انخفضت أسهم شركة “سيمنز إنرجي” المتخصصة في صناعة الأجهزة ذات الصلة بالذكاء الاصطناعي، بمقدار الخمس.
وتقول فيونا سيناكوتا، محللة الأسواق المالية: “لم تكن فكرة النسخة الصينية منخفضة التكلفة متصدرة للمشهد بالضرورة، لكنها مثلت عنصر مفاجأة للأسواق إلى حد ما”.
وأضافت: “إن حصل أحد فجأة على هذا النموذج من الذكاء الاصطناعي منخفض التكلفة، فإن ذلك سيثير القلق حول أرباح المنافسين، خاصة في ظل الأموال التي استثمروها بالفعل في بنية تحتية أكثر تكلفة بالنسبة للذكاء الاصطناعي”.
اقرأ أيضاًتقاريرالتقاضي الإلكتروني.. إجراءات متطورة حافظت على الضمانات القضائية
ويقول في سيرن لينغ، مستشار أسهم التكنولوجيا في سنغافورة، إن “ديب سيك” يمكن أن يعرقل الاستثمارات ذات الصلة بسلسلة التوريدات الخاصة بالذكاء الاصطناعي بأكملها.
في المقابل، تحذر مجموعة “سيتي” المصرفية العملاقة في وول ستريت، من أنه بينما يمثل تطبيق “ديب سيك” تحدياً للمكانة التي تهيمن عليها الشركات الأمريكية الكبرى، مثل “أوبن أيه آي”، فإن هناك بعض القضايا التي تواجه الشركات الصينية، التي قد تعرقل تطورها.
من الذي أسس ديب سيك؟
أسس لينغ وينفينغ، خريج هندسة المعلومات والإلكترونيات البالغ من العمر 40 عاماً، الشركة التي انتجت تطبيق “ديب سيك” عام 2023 في مدينة هانغتشو جنوب شرقي الصين، كما أسس أحد صناديق التحوط لدعم ذلك التطبيق.
وتقول تقارير إن وينفينغ احتفظ برقائق إلكترونية من نوع “إنفيديا أيه 100” التي بات يُحظر تصديرها إلى الصين حالياً. ويعتقد الخبراء أن هذه المجموعة من الرقائق، التي يقدرها البعض بنحو 50 ألفاً، ساعدته في إطلاق تطبيق “ديب سيك”، من خلال الجمع بين هذه الرقائق، وأنواع أخرى أقل تكلفة لا تزال متاحة للاستيراد في الصين.
وشوهد وينفينغ مؤخراً في اجتماع بين رئيس مجلس الدولة الصيني، لي تشيانغ، وخبراء في مجال الصناعة.
وقال وينفينغ في مقابلة مع شبكة “تشاينا أكاديمي” في يوليو/تموز، إنه فوجئ برد الفعل تجاه النسخة السابقة من نموذجه للذكاء الاصطناعي. وأضاف: “لم نكن نتوقع أن يكون تحديد السعر قضية حساسة إلى هذه الدرجة، فنحن ببساطة نسير بوتيرتنا الخاصة، ونحسب التكلفة ونحدد السعر وفقاً لها”.
وفد الرعاية الصحية يهنئ مساعد وزير الداخلية لجنوب الصعيد ومدير أمن الأقصر.. صور