دراسة تظهر قدرة نماذج الذكاء الاصطناعي على الخداع ورفض تغيير وجهة نظرها
تاريخ النشر: 22nd, January 2025 GMT
أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.
وقال فريق الدراسة: إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وكتب الباحثون في منشور بثته شركة أنثروبيك «يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة.
وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».
وأشار موقع « تك كرانش» المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها.
في المقابل يقول موقع تك كرانش «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة «إلى من» في رسالة بريد إلكتروني قبل عبارة «قد يهمك الأمر».
وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج كلاود3 أوبس التابع لشركة أنثروبيك، التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج أن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
وبحسب الباحثين حاول كلاود3 أوبوس التلاعب بالردود لتقديم «انحياز زائف» في 12% من المرات.
وكالة الأنباء الألمانية «د ب أ»
المصدر: لجريدة عمان
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
دراسة: تغير المناخ قد يسرّع الشيخوخة أكثر من التدخين
كشفت دراسة جديدة أن العيش في مناطق ذات مناخ حار قد يؤدي إلى الشيخوخة المبكرة، إذ يمكن للتعرض المستمر لدرجات الحرارة المرتفعة أن يكون أكثر تأثيرا على ظهور علامات التقدم بالسن من عوامل أخرى مثل التدخين وشرب الكحول.
وتوصلت دراسة نُشرت في مجلة "ساينس أدفانسيس" إلى أن تغير المناخ العالمي، وما ينتج عنه من ارتفاع في درجات الحرارة، يمكن أن يكون عاملا مسرعا للشيخوخة والعمر البيولوجي.
اقرأ أيضا list of 2 itemslist 1 of 2جنوب أفريقيا تضغط لمزيد من تمويل المناخ لدعم الدول الناميةlist 2 of 2توصية سرية لإدارة ترامب بإلغاء نتائج علمية لمكافحة تغير المناخend of listوأجرى الباحثون تحليلا لتأثير درجات الحرارة المرتفعة على الخلايا البشرية، ووجدوا أن الحرارة تُسبب إجهادا تأكسديا، مما يؤدي إلى تلف الحمض النووي وتقليل كفاءة الخلايا في إصلاح نفسها.
هذا التلف يتراكم مع مرور الوقت، مما يسرع ظهور علامات الشيخوخة مثل التجاعيد وفقدان مرونة الجلد، بحسب الدراسة.
وفحص باحثون من جامعة جنوب كاليفورنيا بيانات أكثر من 3600 شخص تزيد أعمارهم عن 56 عاما في جميع أنحاء الولايات المتحدة، وقارنوا أعمارهم البيولوجية بدرجات الحرارة في بيئاتهم المحلية.
واستنتجوا أن الأشخاص الذين يقيمون في مناطق ذات طقس حار، أي ما يزيد عن 32 درجة مئوية، تتسارع أعمارهم البيولوجية وتتجاوز أكثر من عام في بعض الحالات.
وبيّنت الدراسة كذلك أن الحرارة المرتفعة ليست المؤثر الوحيد على تقدم السن، إذ يمكن للرطوبة أن تفاقم الوضع.
إعلان تهديد بالعقود القادمةوأفادت الدراسة بأنه يمكن تقليل تأثير درجات الحرارة من خلال زيادة المساحات الخضراء الحضرية، وزراعة المزيد من الأشجار، وتصميم البنية التحتية العامة مع مراعاة المرونة الحرارية.
وبدون مثل هذه التدابير، قد يشكل ارتفاع درجات الحرارة تهديدا أكبر لشيخوخة سكان العالم في العقود القادمة.
ووفقا للمنظمة العالمية للأرصاد الجوية، كان عام 2024 الأكثر سخونة على الإطلاق، فيما أصبحت موجات الحرارة أكثر تجددا وشدة.
يذكر أن العمر البيولوجي يُحسب عن طريق تقييم تآكل الجسم وتلفه على المستوى الخلوي والجزيئي، على خلاف العمر الزمني الذي يقيس سنوات المرء منذ ولادته.
فريدة سيف النصر: الست لو عدت الـ 60 سنة من حقها تقلع الحجاب شرعًا