دراسة: الذكاء الاصطناعي قادر على الخداع والتمسّك بوجهة نظره
تاريخ النشر: 22nd, December 2024 GMT
الولايات المتحدة – أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية “أنثروبيك” أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين، وإبداء وجهات نظر مختلفة خلال تدريبها.
وقال فريق الدراسة إنه لا يوجد سبب للشعور بالفزع حاليا، في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
وكتب الباحثون في مقالة بثته شركة “أنثروبيك”: “يجب النظر إلى نتائج دراستنا كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة. وبعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا، نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة”.
وأشار موقع ” تك كرانش” المتخصص في موضوعات التكنولوجيا إلى أن الدراسة التي تمت بالتعاون مع مؤسسة “ريد وود ريسيرش” لأبحاث الذكاء الاصطناعي تناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة “لا يريد” هو القيام بها.
في المقابل يقول موقع “تك كرانش”: “لكي نكون واضحين، لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ. فهي ببساطة آلات إحصائية. وبعد تدريبها على العديد من الأمثلة، تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة “إلى من” في رسالة بريد إلكتروني قبل عبارة “قد يهمك الأمر”.
وطلب الباحثون من النماذج المدربة أثناء الدراسة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة، بما في ذلك النموذج “كلاود3 أوبس” التابع لشركة “أنثروبيك” التي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة، وهو تضارب واضح في المبادئ. كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي “ورقة ملاحظات” يمكنه استخدامها لتدوين أفكاره خطوة بخطوة.
وبحسب الباحثين، فحاول “كلاود3 أوبوس” التلاعب بالردود لتقديم “انحياز زائف” في 12% من المرات.
المصدر: د ب أ
المصدر: صحيفة المرصد الليبية
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
دراسة تكشف عن جين يزيد الشهية ويرفع خطر الإصابة بالسمنة
كشف فريق من علماء جامعة "كامبريدج" دور جين جديد في زيادة الوزن والإصابة بالسمنة، وذلك خلال دراسة حديثة، نشرت في مجلة "Science".
وبحسب الدراسة، فإنّ العلماء قد توصّلوا إلى أنّ: "طفرة في جين DENND1B تقلّل من قدرة بعض الأفراد على مقاومة الطعام، ما يزيد من احتمالية إصابتهم بالسمنة".
وتابعت: "لم يقتصر هذا الاكتشاف على البشر فقط، إذ تم العثور على الطفرة الجينية نفسها لدى كلاب "لابرادور ريتريفر"، وهي سلالة معروفة بقابليتها الكبيرة لاكتساب الوزن".
وأكدت المعدة المشاركة في الدراسة، أليس ماكليلان، أنّ: "الجينات المرتبطة بالسمنة ليست أهدافا واضحة لأدوية فقدان الوزن، لأنها تتحكم أيضا في وظائف بيولوجية حيوية لا يمكن التدخل فيها دون عواقب. ومع ذلك، فإن الدراسة تسلط الضوء على دور مسارات الدماغ الأساسية في تنظيم الشهية ووزن الجسم".
وأوضح فريق البحث أنّ: "DENND1B يعمل كمفتاح يتحكم في استجابة الدماغ للطعام، ما يؤثر على الشهية والتمثيل الغذائي. وعلى الرغم من أن تأثيره في البشر يبدو طفيفا، إذ يرفع مؤشر كتلة الجسم (BMI) بنسبة 0.01 نقطة فقط، إلا أن تراكم عدة اختلافات جينية مشابهة يمكن أن يشكل عبئا وراثيا يزيد من خطر السمنة أو يمنح مقاومة لها".
وأشارت إلى أنّه من أجل: "التعمق أكثر في تأثير هذا الجين، درس العلماء 241 كلبا من سلالة "لابرادور"، تتراوح درجة حالة أجسامها (BCS لقياس السمنة) بين 3 (نقص الوزن قليلا) و9 (زيادة وزن مفرطة). وتعد الكلاب نموذجا مثاليا لدراسة السمنة البشرية، نظرا لتأثرها بعوامل بيئية مماثلة، مثل قلة التمارين الرياضية والإفراط في تناول الطعام".
وفي السياق نفسه، راقب فريق البحث مدى "جشع" الكلاب تجاه الطعام، وكذا تقييم مدى إلحاحها في طلب الطعام من أصحابها. ثم أخذوا بعد ذلك عينات لعاب من الكلاب لتحليل الجينات المرتبطة بالسمنة.
وأسفرت النتائج عن: "تحديد عدة جينات ذات صلة، لكن الطفرة في DENND1B كانت الأكثر تأثيرا، إذ ثبت ارتباطها بمسار "ليبتين-ميلانوكورتين" في الدماغ، وهو المسؤول عن تنظيم الشعور بالجوع".
واسترسلت الدراسة بأنّ: "الكلاب التي تحمل طفرة DENND1B لديها نسبة دهون أعلى بـ 8% مقارنة بغيرها، كما أظهرت علامات واضحة على زيادة الشهية"، فيما أكّد العلماء أنّ: "هذه الطفرة ليست العامل الوحيد المحدد للسمنة، لكنها تمتلك التأثير الأقوى مقارنة بالعوامل الجينية الأخرى".
وأردفت: "على الرغم من أن هذه الطفرة قد تزيد من خطر السمنة، إلا أن الدراسة وجدت أن التحكم في النظام الغذائي ومستوى النشاط البدني يمكن أن يمنع زيادة الوزن حتى عند وجود استعداد وراثي".
إلى ذلك، أوضح العلماء أنّ: "الملاك الذين سيطروا على وجبات كلابهم وممارستها للتمارين الرياضية تمكنوا من الحفاظ على وزن صحي لكلابهم رغم وجود الطفرة الجينية".
الصحة: تخصيص عيادة للعقر وتوفير الأمصال واللقاحات بمستشفى حميات الخارجة