رئيس مايكروسوفت: الذكاء الاصطناعي يحتاج إلى "التحكم البشري" لتجنب تسليحه
تاريخ النشر: 29th, August 2023 GMT
حذر رئيس مايكروسوفت ونائب الرئيس التنفيذي براد سميث، أن الذكاء الاصطناعي يمكن أن يسلح نفسه ويحتاج إلى أن يكون تحت سيطرة البشر، لمنعه من الوصول إلى هذه المرحلة.
وعبّر سميث في مقابلة مع شبكة CNBC عن اعتقاده بأن "كل تقنية تم اختراعها على وجه الأرض، لديها القدرة على أن تصبح أداة وسلاحاً على حد سواء".
وتابع أنه "يجب التأكد من أن الذكاء الاصطناعي لا يزال خاضعاً للسيطرة البشرية، سواء كان الأمر يتعلق بحكومة أو جهاز عسكري أو أي نوع من المنظمات، التي تفكر في استخدام الذكاء الاصطناعي لأتمتة البنية التحتية الحيوية على سبيل المثال، يجب علينا التأكد من وجود بشر في السيطرة، حتى نتمكن من إبطاء الأمور أو إيقافها.
وكان قادة التكنولوجيا حول العالم حذروا في الأشهر الماضية من مخاطر الذكاء الاصطناعي، بعد أن شاع بشكل واسع استخدام منصة ChatGPT الذكية بسبب قدرته على إنتاج استجابات تشبه تلك الصادرة عن البشر.
وقال سميث على هامش قمة الأعمال 20 في نيودلهي الهندية، إن هذا السبب مرده دعوة الشركات "للقيام بالشيء الصحيح، ولكن أيضاً ندعو الحكومات لوضع قوانين ولوائح تنظيمية تضمن وجود فواصل أمان".
ووصف سميث الحالة بما حصل للتيار الكهربائي وتحكم الإنسان بالمفاتيح الكهربائية، أو من خلال وضع المكابح على السيارات بما فيها تلك التي تقود نفسها بنفسها، "قمنا بذلك من قبل لتقنيات أخرى.. ونحتاج الآن للقيام بذلك للذكاء الاصطناعي".
وعن الذكاء الاصطناعي واستخداماته، أشار المسؤول التنفيذي في مايكروسوفت إلى أن الذكاء الاصطناعي هو أداة تكميلية لعمل الإنسان، وليس بديلاً عن الوظائف، "إنها أداة لمساعدة الناس على التفكير بشكل أذكى وأسرع.. وأكبر خطأ يمكن أن يرتكبه الناس هو التفكير في أن هذه الأداة ستمكن الناس من التوقف عن التفكير".
المصدر: موقع 24
كلمات دلالية: التغير المناخي محاكمة ترامب أحداث السودان النيجر مانشستر سيتي الحرب الأوكرانية عام الاستدامة الملف النووي الإيراني مايكروسوفت الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
عبد الواسع المطري.. قائد المنتخب الوطني يطارد فوزا تاريخيا في خليجي 26