رئيس مايكروسوفت: الذكاء الاصطناعي يحتاج إلى "التحكم البشري" لتجنب تسليحه
تاريخ النشر: 29th, August 2023 GMT
حذر رئيس مايكروسوفت ونائب الرئيس التنفيذي براد سميث، أن الذكاء الاصطناعي يمكن أن يسلح نفسه ويحتاج إلى أن يكون تحت سيطرة البشر، لمنعه من الوصول إلى هذه المرحلة.
وعبّر سميث في مقابلة مع شبكة CNBC عن اعتقاده بأن "كل تقنية تم اختراعها على وجه الأرض، لديها القدرة على أن تصبح أداة وسلاحاً على حد سواء".
وتابع أنه "يجب التأكد من أن الذكاء الاصطناعي لا يزال خاضعاً للسيطرة البشرية، سواء كان الأمر يتعلق بحكومة أو جهاز عسكري أو أي نوع من المنظمات، التي تفكر في استخدام الذكاء الاصطناعي لأتمتة البنية التحتية الحيوية على سبيل المثال، يجب علينا التأكد من وجود بشر في السيطرة، حتى نتمكن من إبطاء الأمور أو إيقافها.
وكان قادة التكنولوجيا حول العالم حذروا في الأشهر الماضية من مخاطر الذكاء الاصطناعي، بعد أن شاع بشكل واسع استخدام منصة ChatGPT الذكية بسبب قدرته على إنتاج استجابات تشبه تلك الصادرة عن البشر.
وقال سميث على هامش قمة الأعمال 20 في نيودلهي الهندية، إن هذا السبب مرده دعوة الشركات "للقيام بالشيء الصحيح، ولكن أيضاً ندعو الحكومات لوضع قوانين ولوائح تنظيمية تضمن وجود فواصل أمان".
ووصف سميث الحالة بما حصل للتيار الكهربائي وتحكم الإنسان بالمفاتيح الكهربائية، أو من خلال وضع المكابح على السيارات بما فيها تلك التي تقود نفسها بنفسها، "قمنا بذلك من قبل لتقنيات أخرى.. ونحتاج الآن للقيام بذلك للذكاء الاصطناعي".
وعن الذكاء الاصطناعي واستخداماته، أشار المسؤول التنفيذي في مايكروسوفت إلى أن الذكاء الاصطناعي هو أداة تكميلية لعمل الإنسان، وليس بديلاً عن الوظائف، "إنها أداة لمساعدة الناس على التفكير بشكل أذكى وأسرع.. وأكبر خطأ يمكن أن يرتكبه الناس هو التفكير في أن هذه الأداة ستمكن الناس من التوقف عن التفكير".
المصدر: موقع 24
كلمات دلالية: التغير المناخي محاكمة ترامب أحداث السودان النيجر مانشستر سيتي الحرب الأوكرانية عام الاستدامة الملف النووي الإيراني مايكروسوفت الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
رغم تفوقه في البرمجة.. نماذج الذكاء الاصطناعي تخفق في التاريخ
على الرغم من تميز الذكاء الاصطناعي في بعض المهام مثل البرمجة أو إنشاء البودكاست، إلا أنه يُظهر ضعفًا واضحًا في اجتياز اختبارات التاريخ المتقدمة، وفقًا لدراسة حديثة.
GPT-4 وLlama وGemini: نماذج لغوية فشلت في تقديم إجابات دقيقة
قام فريق من الباحثين بتطوير معيار جديد لاختبار ثلاث نماذج لغوية ضخمة رائدة: "GPT-4" من أوبن إي آي، و"Llama" من ميتا، و"Gemini" من جوجل، في الإجابة عن أسئلة تاريخية. يعتمد هذا المعيار، المعروف باسم "Hist-LLM"، على قاعدة بيانات التاريخ العالمي "Seshat"، وهي قاعدة بيانات شاملة للمعرفة التاريخية.
النتائج التي تم تقديمها الشهر الماضي في مؤتمر "NeurIPS" المرموق، كانت مخيبة للآمال. حيث حقق أفضل نموذج، وهو "GPT-4 Turbo"، دقة بلغت حوالي 46% فقط، وهي نسبة بالكاد تفوق التخمين العشوائي.
اقرأ أيضاً.. هل يتفوق "O3" على البشر؟ قفزة جديدة تُعيد تعريف الذكاء الاصطناعي
وأوضحت "ماريا ديل ريو-تشانونا"، إحدى المشاركات في الدراسة وأستاذة علوم الحاسوب في جامعة كوليدج لندن: "الاستنتاج الأساسي من هذه الدراسة هو أن النماذج اللغوية الكبيرة، رغم إمكانياتها المذهلة، لا تزال تفتقر إلى الفهم العميق المطلوب للتعامل مع استفسارات تاريخية متقدمة. يمكنها التعامل مع الحقائق الأساسية، ولكن عندما يتعلق الأمر بالتحليل العميق على مستوى الدكتوراه، فهي غير قادرة على الأداء المطلوب بعد".
القصور في الفهم العميق
من الأمثلة التي فشل فيها النموذج، سؤال عن استخدام الدروع القشرية في فترة معينة من مصر القديمة. أجاب "GPT-4 Turbo" بنعم، بينما الحقيقة أن هذه التقنية لم تظهر في مصر إلا بعد 1500 عام.
يرجع هذا القصور، وفقًا للباحثين، إلى اعتماد النماذج على بيانات تاريخية بارزة، مما يصعّب عليها استرجاع المعلومات النادرة أو الأقل شهرة.
كما أشار الباحثون إلى وجود أداء أضعف للنماذج في مناطق معينة، مثل إفريقيا جنوب الصحراء الكبرى، مما يبرز التحيزات المحتملة في بيانات التدريب.
اقرأ أيضاً.. الذكاء الاصطناعي يفك شيفرة أصوات الطيور المهاجرة
التحديات المستمرة
وأكد "بيتر تيرتشين"، قائد الدراسة وأستاذ بمعهد علوم التعقيد في النمسا، أن هذه النتائج تُظهر أن النماذج اللغوية لا تزال غير بديل عن البشر في مجالات معينة. ومع ذلك، يبقى الأمل في أن تسهم هذه النماذج في مساعدة المؤرخين مستقبلاً. يعمل الباحثون على تحسين المعيار بإضافة بيانات من مناطق غير ممثلة بشكل كافٍ وتضمين أسئلة أكثر تعقيدًا.
واختتمت الدراسة بالقول: "رغم أن نتائجنا تسلط الضوء على المجالات التي تحتاج إلى تحسين، إلا أنها تؤكد أيضًا الإمكانيات الواعدة لهذه النماذج في دعم البحث التاريخي".
المصدر: وكالات
جنين ومخيمها.. سماع دوي انفجار كبير بمخيم جنين