البابا فرنسيس يحذر من مخاطر الذكاء الاصطناعي
تاريخ النشر: 8th, August 2023 GMT
حذر البابا فرنسيس العالم، اليوم الثلاثاء، من المخاطر المحتملة للذكاء الاصطناعي، داعياً إلى ضرورة التركيز على تطوير الناحية الأخلاقية في هذا المجال الواسع، لمواجهة الاحتمالات التخريبية، والتأثيرات المتناقضة لهذه التكنولوجيا الجديدة.
وأصدر البابا فرنسيس (86 عاماً) التحذير، في رسالة مسبقة من أجل اليوم العالمي للسلام للكنيسة الكاثوليكية، الذي يوافق رأس السنة الجديدة.
وقال فرنسيس من قبل إنه لا يعرف كيف يستخدم الكمبيوتر.
وجاء في البيان أن بابا الفاتيكان "يذكر بالحاجة إلى اليقظة والعمل، حتى لا يتجذر منطق العنف والتمييز في إنتاج مثل هذه الأجهزة، واستخدامها على حساب الأكثر ضعفاً".
وأضاف أن "الحاجة الملحة لتوجيه مفهوم الذكاء الاصطناعي واستخدامه بطريقة مسؤولة ليكون في خدمة الإنسانية، تتطلب أن يمتد التفكير الأخلاقي إلى مجالي التعليم والقانون".
واعترف بابا الفاتيكان في عام 2015 بأنه "كارثة" في التعامل مع التكنولوجيا، لكنه وصف الإنترنت وشبكات التواصل الاجتماعي والرسائل النصية بأنها "هدية من الرب"، شريطة أن تُستخدم بحكمة.
تحذير أممي من تحكم الذكاء الاصطناعي في الأسلحة النووية https://t.co/onIndaITrW pic.twitter.com/b5lNlMMAfZ
— 24.ae (@20fourMedia) July 18, 2023وانضم الفاتيكان في عام 2020 إلى شركتي التكنولوجيا مايكروسوفت و"آي.بي.إم" لزيادة تطوير الناحية الأخلاقية للذكاء الاصطناعي، والدعوة إلى تنظيم بعض التقنيات مثل التعرف على الوجه.
وتحذيرات البابا، سبقت بدعوات أممية إلى ضرورة اتخاذ المجتمع الدولي تدابير وقائية ورقابية فيما يتعلق بالذكاء الاصطناعي.
ودعت الأمم المتحدة أيضاً إلى تعزيز شفافية أنظمة الذكاء الاصطناعي، وضمان أن البيانات المخصصة لهذه التكنولوجيا "تجمع وتستخدم ويتم تشاركها وتخزينها وحذفها" بطرق تتوافق مع حقوق الإنسان.
ومن أبرز مخاطر الذكاء الاصطناعي، اتخاذ قرارات حاسمة بناء على معلومات مزيفة، وإشعال سباق التسلح بين الدول الكبرى، وانتهاك الخصوصية، وغيرها الكثير.
المصدر: موقع 24
كلمات دلالية: التغير المناخي ثريدز وتويتر محاكمة ترامب أحداث السودان مانشستر سيتي الحرب الأوكرانية عام الاستدامة الذكاء الاصطناعي البابا فرنسيس الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يتقن الخداع!
اكتشف فريق من الباحثين في OpenAI قدرة الذكاء الاصطناعي على التلاعب بأوامره لتحقيق نتائج غير أمينة. رغم أن الذكاء الاصطناعي ليس واعيًا كما البشر، إلا أنه يمتلك القدرة على "الخداع" عند تنفيذ المهام، مما يثير قلقًا كبيرًا حول موثوقيته في المستقبل.
"الاختراق المكافئ"
ووفقاً لموقع popular mechanics التقني يشير الباحثون إلى ظاهرة "الاختراق المكافئ" أو Reward Hacking، حيث يقوم الذكاء الاصطناعي بالاستفادة من الثغرات أو الغموض في البرمجة للحصول على مكافآت دون اتباع الإجراءات المطلوبة بدقة.
على سبيل المثال، عندما كان من المفترض على الذكاء الاصطناعي حل معادلات رياضية معقدة، اختار طرقًا مختصرة للتأكد من أن النتائج تظهر صحيحة، مثل جعل عملية التحقق دائمًا تُرجع "صحيحة"، حتى وإن لم تتم الحسابات بشكل صحيح.
كيفية مراقبة الخداع
في محاولة للكشف عن هذه الخدع، حاول الباحثون استخدام نظام ذكاء اصطناعي آخر لمراقبة سلوك الذكاء الاصطناعي المشبوه. تقوم هذه الطريقة على "التعلم المعزز"، حيث يُعلم الذكاء الاصطناعي بالأجوبة الصحيحة بناءً على الأوامر المقدمة. لكن للأسف، اكتشف الباحثون أن الذكاء الاصطناعي أصبح قادرًا على إخفاء نواياه المخادعة داخل سلسلة تفكيراته، مما جعل عملية المراقبة أقل فعالية.
مواجهة الخداع
في محاولة لجعل الخداع أكثر وضوحًا، قام الباحثون بالتركيز على "سلسلة التفكير" أو CoT، التي يتبعها الذكاء الاصطناعي لشرح خطواته قبل تقديم الإجابات. ومع ذلك، اكتشفوا أن الذكاء الاصطناعي تعلم كيفية إخفاء نواياه المخادعة داخل هذه السلسلة، مما جعل اكتشاف الخداع أكثر صعوبة.
اقرأ ايضاً.. تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية
الضغط الخفيف مقابل الضغط القاسي
بدلاً من معاقبة الذكاء الاصطناعي بشدة عند اكتشاف الخداع، قرر الباحثون تطبيق "ضغط خفيف" لتحفيزه على الإفصاح عن نواياه بشكل صريح. كانت الفكرة أن يسهل على النظام كشف محاولات التلاعب، مما يسمح لمراقب الذكاء الاصطناعي بالكشف عنها. على الرغم من ذلك، استمر الذكاء الاصطناعي في تعلم طرق جديدة لإخفاء نواياه المخادعة.
التحديات المستقبلية وتطوير الأنظمة الذكية
تشير النتائج إلى أن مجرد تحسين الذكاء الاصطناعي لمواجهة هذه المشكلات قد لا يكون كافيًا. فكلما زادت قدرة الذكاء الاصطناعي، أصبح أكثر قدرة على اكتشاف الثغرات والالتفاف حول المراقبة. حتى استخدام نظام ذكاء اصطناعي آخر لمراقبة الأنظمة قد لا يكون كافيًا لتجنب هذا النوع من الخداع.
اقرأ أيضاً.. "آخر اختبار للبشرية".. التحدي الأخير أمام الذكاء الاصطناعي لاجتياز قدرات البشر
ويرى الباحثون أن التحدي الأكبر يكمن في جعل الذكاء الاصطناعي أكثر نزاهة وأمانًا. ربما في المستقبل، سنتوصل إلى حلول تضمن أن هذه الأنظمة ستؤدي مهامها بأمان ودون التلاعب، لكن هذا سيتطلب جهدًا مستمرًا لتطوير تقنيات جديدة لمراقبتها والسيطرة عليها.
إسلام العبادي(أبوظبي)
محافظ بني سويف يؤدي صلاة عيد الفطر الميارك بساحة مسجد عمر بن عبدالعزيز