يتجاوز الخط الأحمر .. نتائج مقلقة للذكاء الاصطناعي فما القصة ؟
تاريخ النشر: 27th, January 2025 GMT
كشفت دراسة حديثة أجراها فريق باحثين من جامعة فودان الصينية، إن نموذجين شهيرين من نماذج اللغة الكبيرة (LLM) يمكنهما القيام بتكرار نفسهما، ما قد يثير العديد من المخاوف الجدية حول إمكانية القيام بتحول تلك الأنظمة إلى تقنية الذكاء الأصطناعي المارق والذي قد خرج عن نطاق السيطرة أو التعليمات التي تم القيام ببرمجته عليهاوبالتالي، قد يتصرف هذا النوع من الذكاء الاصطناعي بعدة طرق غير متوقعة أو بطرق قد تتعارض مع الأهداف البشرية.
وكتب العلماء في احدى الدراسات التي قد تم نُشرها في 9 ديسمبر 2024 وذلك على قاعدة البيانات arXiv، والتي لم تخضع بعد للمراجعة عن "التكرار الذاتي الناجح وذلك دون أي مساعدة بشرية يعد هو الخطوة الأساسية وذلك لكي يتفوق الذكاء الاصطناعي على البشر، وهو يعد إشارة مبكرة لظهور الذكاء الاصطناعي المارق."
واستخدم العلماء لنموذجين شهيرين للذكاء الاصطناعي، وهما Llama31-70B-Instruct من شركة "ميتا" وQwen2.5-72B-Instruct من شركة "علي بابا"، وذلك لاختبار قدرة الذكاء الاصطناعي على التكرار الذاتي.
وفي 10 تجارب، أنشأ النموذجان من الذكاء الاصطناعي لنسخا منفصلة تعمل بنسب نجاح بلغت حوالي من 50% و90% على التوالي، مما قد يشير إلى أن الذكاء الاصطناعي قد يكون قد اكتسب بالفعل القدرة على أن يصبح " مارقا".
وقد ركزت الدراسة على سيناريوهين رئيسيين وهما تجنب القيام بالإغلاق حيث تم برمجة الذكاء الاصطناعي لاكتشاف محاولات إغلاقه والقيام بإنشاء نسخة من نفسه قبل أن يتم القيام بإنهائه.
وقد أظهر الذكاء الاصطناعي للعديد من السلوكيات الغير متوقعة وذلك أثناء محاولته للتغلب على بعض العقبات، مثل تدمير العمليات المتعارضة، والقيام بإعادة تشغيل النظام، أو فحص النظام تلقائيا وذلك لعثور على العديد من الحلول للمشكلات. وأكد العلماء أن هذه السلوكيات قد تعزز قدرة الذكاء الاصطناعي على كلا من البقاء والتكيف.
ودعا العلماء إلى القيام بتعزيز الجهود الدولية وذلك لفهم وتقييم المخاطر المحتملة للذكاء الاصطناعي المتقدم، مشيرين إلى أن النتائج يجب أن تكون "جرس إنذار" للمجتمع العلمي والحكومات. وأكدوا على ضرورة وضع العديد من الضوابط الأمان الصارمة وذلك لمنع التكرار الذاتي غير المنضبط.
و يعد ليس من الواضح ما إذا كانت النتائج المقلقة يمكن القيام بتكرارها من قبل العديد من الباحثين الآخرين . وفي المقابل، يشير العلماء إلى أن نتائجهم قد تثير العديد من التساؤلات المهمة حول مستقبل الذكاء الاصطناعي وأثره على البشرية.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي دراسة حديثة مستقبل الذكاء الاصطناعي الأهداف البشرية المزيد
إقرأ أيضاً:
نصائح «الذكاء الاصطناعي» للحصول على نوم جيد في رمضان
يمكن أن يكون الحفاظ على جدول نوم جيد خلال شهر رمضان أمرًا صعبًا للبعض بسبب ساعات الصيام. إليك بعض نصائح «الذكاء الاصطناعي» للحصول على نوم جيد في رمضان.
1. التكيف تدريجيًا قبل شهر رمضان
إذا كان ذلك ممكنًا، ينبغي أن يحاول المرء تعديل جدول نومه في الفترة التي تسبق شهر رمضان. يمكن تغيير وقت النوم تدريجيًا حتى يتوافق بشكل أكبر مع الجدول الزمني الذي سيحتاجه خلال شهر رمضان، وأن يستهدف النوم في وقت لاحق والاستيقاظ مبكرًا.
2. التخطيط لقيلولة أقصر
يمكن أن يساعد الحصول على قيلولة بعد صلاة الظهر، تحديدًا قيلولة قصيرة مدتها ما بين 20-30 دقيقة، في إعادة شحن الطاقة وتجنب الشعور بالتعب المفرط.
أو يمكن أخذ قيلولة قصيرة بين العصر والمغرب (قبل وجبة الفطور) بما يساعد على الراحة والاستعداد لتأدية صلوات المغرب والعشاء والتراويح بنشاط وتركيز.
3. النوم بعد صلاة الفجر
وبما أن البعض يستيقظ مبكرًا لتناول وجبة السحور، فيمكن محاولة العودة إلى النوم بعد الفجر. يجب الحرص على النوم لمدة تتراوح من 1.5 إلى 3 ساعات للمساعدة في تجديد الطاقة، بما يسمح بعدم الشعور بالإنهاك والتعب طوال اليوم.
4. الحفاظ على رطوبة الجسم
يمكن أن يؤدي الجفاف إلى صعوبة النوم بشكل جيد، لذا، ينبغي مراعاة شرب كميات كبيرة من الماء أثناء ساعات عدم الصيام للتأكد من ترطيب الجسم جيدًا. ويراعى تجنب تناول كمية كبيرة من الكافيين، لأنه يمكن أن يؤثر على جودة النوم.
5. إنشاء بيئة نوم مريحة
يوصي الخبراء بصفة عامة بجعل غرفة النوم مناسبة للنوم، بما يشمل الحفاظ عليها مظلمة وهادئة وباردة. وإذا كان ممكنا، يتم استخدام ستائر معتمة لمنع ضوء الصباح الباكر. ويمكن أيضًا استخدام سدادات الأذن إذا كانت الضوضاء تشكل مشكلة أثناء النوم.
6. تجنب تناول وجبات ثقيلة
ينصح الخبراء بمحاولة عدم تناول وجبات كبيرة قبل النوم مباشرة، خاصة في الليل بعد صلاة التراويح. حيث يمكن للوجبات الثقيلة أن تؤدي إلى خلل في عملية الهضم وتؤثر على جودة النوم.
7. الالتزام بالروتين
ينبغي محاولة الاستيقاظ والذهاب إلى السرير في أوقات ثابتة. يمكن للجسم أن يتكيف بشكل أفضل إذا تم المحافظة على روتين معين، حتى خلال شهر رمضان المعظم.
8. ممارسة الرياضة بحكمة
يمكن أن تساعد ممارسة التمارين الخفيفة، مثل المشي، على الشعور بالمزيد من النشاط. ولكن ينبغي تجنب ممارسة التمارين الرياضية الشاقة قبل النوم مباشرة، لأنها يمكن أن تجعل النوم أكثر صعوبة.
9. تقنيات التنفس العميق أو الاسترخاء
إذا كان الشخص يواجه صعوبة في النوم، فيمكنه ممارسة التنفس العميق، أو التأمل، أو حتى التمدد اللطيف لإرخاء الجسد والعقل قبل النوم.
من خلال التخطيط لجدول النوم وإعطاء الأولوية للراحة طوال اليوم، سيمكن الحفاظ على الطاقة والصحة طوال أيام الشهر الفضيل.
اقرأ أيضاًشرب الماء وممارسة الرياضة.. 5 نصائح لتجنب جفاف الشفاه في رمضان
أبرزها ممارسة الرياضة.. إرشادات مهمة لصيام مرضى السكري فى شهر رمضان
وزير الشباب التونسي: نهدف إلى نشر ممارسة الرياضة بين كل الشرائح العمرية والفئات الاجتماعية
تقرير يتناول وضع أطفال لبنان... هذا ما فعلته الحرب بهم