دراسة تظهر قدرة نماذج الذكاء الاصطناعي على الخداع ورفض تغيير وجهة نظرها
تاريخ النشر: 22nd, January 2025 GMT
أظهرت دراسة لشركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، بحيث تستطيع ادعاء وجهات نظر مختلفة خلال تدريبها في حين أنها تحتفظ في الحقيقة بتفضيلاتها الأصلية.
وقال فريق الدراسة: إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وكتب الباحثون في منشور بثته شركة أنثروبيك «يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة.
وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة».
وأشار موقع « تك كرانش» المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة «لا يريد» هو القيام بها.
في المقابل يقول موقع تك كرانش «لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شيء. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة «إلى من» في رسالة بريد إلكتروني قبل عبارة «قد يهمك الأمر».
وأثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج كلاود3 أوبس التابع لشركة أنثروبيك، التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج أن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي «ورقة ملاحظات» يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
وبحسب الباحثين حاول كلاود3 أوبوس التلاعب بالردود لتقديم «انحياز زائف» في 12% من المرات.
وكالة الأنباء الألمانية «د ب أ»
المصدر: لجريدة عمان
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
دراسة توضح تتأثير خطير لطلاق الوالدين على الأبناء
أظهرت نتائج دراسة حديثة وجود علاقة بين طلاق الوالدين أثناء الطفولة وزيادة خطر الإصابة بالسكتة الدماغية مع التقدم في السن.
وقالت مجلة "فوكاس" الإيطالية إن الباحثين حللوا بيانات أكثر من 13200 شخص بالغ فوق سن 65 عامًا، وتبين أن الأشخاص الذين انفصل والداهم خلال طفولتهم، كانوا أكثر عرضة للإصابة بالسكتة الدماغية بنسبة 61%، مقارنة بأولئك الذين لم يمروا بتجربة طلاق الوالدين.
ورغم أن الدراسة لم تثبت وجود علاقة سببية مباشرة بين الطلاق والسكتة الدماغية، إلا أنها تشير إلى أن تجربة الطلاق في الطفولة قد تؤدي إلى تغيرات بيولوجية ونفسية تزيد من خطر الإصابة بالسكتة الدماغية في وقت لاحق من الحياة.
ويعتقد الباحثون أن الإجهاد الناتج عن تجربة الطلاق قد يكون أحد العوامل التي تسهم في زيادة خطر الإصابة بالسكتة الدماغية، ومع ذلك، هناك حاجة إلى مزيد من الدراسات لتأكيد هذه النتائج وتحديد الآليات الدقيقة التي تربط بين الطلاق والسكتة الدماغية.
وذكرت منظمة الصحة العالمية أن مشاعر الوحدة والعزلة منتشرة على نطاق واسع، إذ يعاني نحو 25% من كبار السن من العزلة الاجتماعية، ويشعر 5% إلى 15% من الشباب بالوحدة.
ووجدت دراسة سابقة نُشرت عام 2022، أن العزلة الاجتماعية لدى كبار السن تحمل خطرًا متزايدًا بنسبة 26 % للإصابة بالخرف، كما وجدت أن الشعور بالوحدة مرتبط بالاكتئاب.
وقامت الدراسة الجديدة بمتابعة الدراسة السابقة من خلال فهم العمليات البيولوجية الأساسية وراء هذا الارتباط بين العزلة الاجتماعية والشعور بالوحدة والصحة، ولماذا الوحدة سيئة للغاية لأجسادنا وعقولنا.
وقامت الدراسة بالتركيز على علم تحليل البروتينات، وهو علم دراسة البروتينات، وذلك لأننا نعلم أن البروتينات تلعب دورًا في التعبير الجيني، وهي العملية التي يتم بها تحويل المعلومات المشفرة في الجين إلى نشاط بيولوجي، كما تعد البروتينات مصدرًا رئيسيًا لتطوير الأدوية.
وكشفت الدراسة أن البروتينات التي وجد أنها مرتبطة بشكل كبير بالوحدة والعزلة الاجتماعية معروفة أيضًا بأنها متورطة في الالتهاب وكذلك الاستجابات المضادة للفيروسات والمناعية.
اتصال هاتفي بين وزير الخارجية والهجرة ووزير خارجية الكويت