خبير: حادث إنهاء روبوت لحياته مجرد خطأ بجهاز الاستشعار.. «الأمر تم تضخيمه»
تاريخ النشر: 9th, July 2024 GMT
علق الدكتور أحمد جمعة رضوان، نائب رئيس جامعة النيل الأهلية للبحوث، على حادث انتحار إحدى الروبوتات في كوريا الجنوبية بعد عمله من الساعة 9 صباحا حتى الساعة 6 مساءً، قائلا: «ما حدث يعود إلى خطأ في سينسور الاستشعار الخاص بالروبوت».
تداول الخبر حول العالم
وأضاف «رضوان»، خلال حواره على زوم عبر القناة الأولى والفضائية المصرية، أنه كان هناك تضخيم إعلامي حول الأمر من أجل جذب عدد أكبر من القراء، مشيرا إلى أن المتابعين كانوا يتداولون الخبر كأحد أنواع المزحة محاولين ربط الحادث بالضغط الذي يعانيه البعض.
وتابع أن الذكاء الاصطناعي له 3 أنواع، منها النوع الضيق، أي يقوم الروبوت بأمر واحد فقط، وهذا لا يدعم أي خاصية AI، فضلا عن نوع روبوت يفكر مثل الإنسان، وحتى الآن لم نصل لهذا التطور، بينما النوع الآخير يُعرف بالذكاء الاصطناعي الفائق، وهناك تخوف كبير من هذا النوع، فمن الممكن أن يتخطى ذكاء الروبوت ذكاء الإنسان وبالتالي يفعل أمور كثيرة مقارنة بالأنسان.
المصدر: الوطن
كلمات دلالية: روبوت الروبوت الذكاء الاصطناعي
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.