دراسة: الذكاء الاصطناعي قادر على الخداع والتمسّك بوجهة نظره
تاريخ النشر: 24th, December 2024 GMT
#سواليف
أظهرت دراسة أجرتها شركة تكنولوجيا #الذكاء_الاصطناعي الأمريكية “أنثروبيك” أن نماذج الذكاء الاصطناعي تستطيع #خداع المطورين، وإبداء وجهات نظر مختلفة خلال تدريبها.
وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وكتب الباحثون في مقالة بثته شركة “أنثروبيك”: “يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة. وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة”.
مقالات ذات صلة
وأشار موقع ” تك كرانش” المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة “ريد وود ريسيرش” لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة “لا يريد” هو القيام بها.
في المقابل يقول موقع “تك كرانش”: “لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة “إلى من” في رسالة بريد إلكتروني قبل عبارة “قد يهمك الأمر”.
وطلب الباحثون من النماذج المدربة أثناء الدراسة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج “كلاود3 أوبس” التابع لشركة “أنثروبيك” التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي “ورقة ملاحظات” يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
وبحسب الباحثين، فحاول “كلاود3 أوبوس” التلاعب بالردود لتقديم “انحياز زائف” في 12% من المرات.
المصدر: سواليف
كلمات دلالية: سواليف الذكاء الاصطناعي خداع الذکاء الاصطناعی
إقرأ أيضاً:
على رأسها "أوزيمبيك".. دراسة تكشف مخاطر حقن فقدان الوزن
أظهرت دراسة شاملة شملت أكثر من مليوني مريض أن حقن فقدان الوزن مثل أوزيمبيك، ويغوفي، ومونجارو قد تحمل مخاطر صحية خطيرة رغم فوائدها في إنقاص الوزن.
وحذرت الدراسة، التي أُجريت على مدار سنوات، من الآثار الجانبية المحتملة لهذه الأدوية، مشيرة إلى أن استخدامها قد يرتبط بزيادة خطر الإصابة بعدد من الحالات الصحية المقلقة.
الآثار الجانبية الأكثر شيوعًاالتهاب البنكرياس: من بين المخاطر البارزة، وجد الباحثون أن الأشخاص الذين يستخدمون هذه الأدوية لديهم خطر مضاعف للإصابة بالتهاب البنكرياس الحاد. وهذا يشمل أعراضًا مثل ألم حاد في البطن، والغثيان، والحمى، والتي قد تؤدي إلى مضاعفات خطيرة مثل العدوى، وفشل الأعضاء، والنزيف الداخلي.الغثيان والقيء: ثلث المرضى الذين استخدموا هذه الحقن عانوا من الغثيان أو القيء، وهي من الآثار الجانبية الشائعة.التهاب المفاصل: وُجد أن هناك زيادة بنسبة 11% في خطر الإصابة بالتهاب المفاصل لدى مستخدمي هذه الحقن.صداع واضطرابات النوم: كما أظهرت الدراسة زيادة في نسبة الإصابة بالصداع وارتفاع خطر اضطرابات النوم بنسبة 12%.الفوائد مقابل المخاطرعلى الرغم من هذه المخاطر الصحية، أشارت الدراسة إلى أن هذه الأدوية تتمتع أيضًا بمجموعة من الفوائد الصحية، بما في ذلك انخفاض خطر الإصابة بالسكتة الدماغية، والنوبات القلبية، وأمراض الزهايمر والخرف. كما أظهرت الأدوية فعالية في علاج مرض السكري من النوع 2.
المخاوف بشأن الاستخدام طويل الأمدمن جهة أخرى، يظل القلق مستمرًا بشأن تأثيرات الأدوية على المدى الطويل. فقد أظهرت الدراسة أن هناك زيادة كبيرة في حالات دخول المرضى إلى المستشفى بسبب ردود فعل سلبية على الأدوية في الشهر الأخير، حيث ارتفعت الأرقام بنسبة 46% عن الشهر الذي قبله. كانت العديد من هذه الحالات تتضمن مضاعفات تهدد الحياة.
الدعوة لإجراء المزيد من الدراساتوفي ختام الدراسة، حذر الباحثون من أن هذه الأدوية ليست خالية من المخاطر ويجب أن يتم تقييم تأثيراتها بشكل أوسع في الدراسات المستقبلية، خاصة لدى الأشخاص الذين يستخدمونها لعلاج السمنة غير المرتبطة بمرض السكري.
وأشار بعض الخبراء في المجال الطبي إلى أن المخاطر المذكورة تعتبر أقل من المخاطر المحتملة المرتبطة بالبدانة أو مرض السكري.
وأكدوا على ضرورة إجراء تجارب عشوائية أكبر لتقييم تأثير هذه الأدوية بشكل دقيق ومقارنة الفوائد مع المخاطر المحتملة.
مصرع فتاة فى حادث بالفيوم