رئيس سدايا خلال قمة سيئول للذكاء الاصطناعي: المملكة حريصة على تطوير الذكاء الاصطناعي بشكل مسؤول عبر تطبيق إجراءات استباقية والتعاون الاستراتيجي والالتزام بالمعايير الأخلاقية
تاريخ النشر: 22nd, May 2024 GMT
المناطق_واس
أكد معالي رئيس الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) الدكتورعبد الله بن شرف الغامدي، حرص المملكة العربية السعودية على تطوير الذكاء الاصطناعي بشكل مسؤول وآمن من خلال تطبيق الإجراءات الاستباقية والتعاون الاستراتيجي والالتزام الثابت بالمعايير الأخلاقية؛ بهدف تسخير الإمكانات التحويلية للذكاء الاصطناعي لصالح البشرية جمعاء.
أخبار قد تهمك رئيس سدايا يبحث مع وزيرة العلوم والابتكار والتكنولوجيا البريطانية تطورات الذكاء الاصطناعي بالعالم 22 مايو 2024 - 5:58 مساءً البنك المركزي السعودي يطرح “قواعد ممارسة نشاط التمويل الجماعي بالدين” المحدثة لطلب مرئيات العموم 22 مايو 2024 - 5:53 مساءً
جاء ذلك خلال كملة ألقاها معاليه في الجلسة الوزارية التي أقيمت اليوم ضمن أعمال قمة سيئول للذكاء الاصطناعي التي تنظمها كوريا وبريطانيا في مدينة سيئول بجمهورية كوريا خلال الفترة من 21 – 22 مايو 2024، تحت عنوان “التدابير لتقوية سلامة الذكاء الاصطناعي” بحضور عدد كبير من وزراء التقنية والذكاء الاصطناعي والاتصالات من مختلف دول العالم بالإضافة إلى كبرى شركات الاتصالات والتقنية والخبراء والمبتكرين في مجالات تقنيات الذكاء الاصطناعي.
وقال: إن المملكة ملتزمة بالمساهمة في وضع معايير دولية وأطر تنظيمية تعطي الأولوية لسلامة الذكاء الاصطناعي من خلال ضمان تلبية تقنيات الذكاء الاصطناعي لمعايير السلامة الصارمة، ونهدف إلى تسهيل اتباع نهج منسق عالمياً لحوكمة الذكاء الاصطناعي، وستستفيد (سدايا) من الرؤى الواردة في التقرير الدولي لسلامة الذكاء الاصطناعي في تطوير سياسات شاملة وخطط للتقليل من الآثار السلبية، من أجل النشر الآمن للذكاء الاصطناعي في جميع القطاعات، حيث تؤكد هذه المبادرة التزامنا بضمان التكامل الآمن للذكاء الاصطناعي، وتأمين رؤيتنا لمستقبل آمن مدعوم بالذكاء الاصطناعي، حيث يعد التعاون الدولي في صميم نهجنا.
وأضاف معاليه أن استضافة المملكة للقمة العالمية للذكاء الاصطناعي بمدينة الرياض في سبتمبر المقبل؛ ستعزز المناقشات الحيوية وتطوير بروتوكولات متسقة لسلامة الذكاء الاصطناعي.
وعبر عن التزام المملكة بتعزيز الوعي العام بالمخاطر المحتملة للذكاء الاصطناعي وتدابير السلامة من خلال التدريب المكثف والحملات التعليمية عبر دمج الأفكار الواردة في التقرير الدولي لسلامة الذكاء الاصطناعي؛ ومعالجة تحديات السلامة الخاصة بالذكاء الاصطناعي للأغراض العامة(GPAI) من خلال صياغة استراتيجيات للتقليل من الآثار السلبية وبروتوكولات أمان قوية، مبينًا أن المملكة في مقدمة الدول الداعية إلى وضع معايير دولية لسلامة الذكاء الاصطناعي.
وبين أهمية مثل هذه القمم في تعزيز الحوار العالمي بشأن سلامة الذكاء الاصطناعي، وتشكيل مستقبل يتم فيه الدمج الأخلاقي لتقنيات الذكاء الاصطناعي في مجتمعاتنا بأمان، مفيدًا أن المملكة العربية السعودية عضواً فاعلاً في مجتمع الذكاء الاصطناعي الدولي وتشارك بنشاط في إعداد التقرير العلمي الدولي المؤقت لسلامة الذكاء الاصطناعي المتقدم، حيث يعد هذا التقرير جهد تعاوني بين 30 دولة مع منظمة الأمم المتحدة، ويوفر إطاراً ضرورياً لفهم المخاطر المرتبطة بتقنيات الذكاء الاصطناعي المتقدمة والتخفيف من حدتها.
وأشار الدكتور الغامدي إلى أن المبادرات الوطنية تعد بمثابة معايير مرجعية، وذلك بسبب تطبيقها تقييمات شاملة للمخاطر وأنظمة مراقبة مستمرة وتدابير سلامة استباقية، وعند دمج الذكاء الاصطناعي في القطاعات الاقتصادية الرئيسية؛ لافتًا النظر إلى أهمية منح الأولوية لفحوصات وبروتوكولات السلامة الصارمة لمنع المخاطر وتعزيز المرونة القطاعية، وبالتالي دعم التنويع الاقتصادي وضمان مساهمة تقنيات الذكاء الاصطناعي إسهاماً إيجابياً في تحقيق أهدافنا التنموية الوطنية.
وتناقش قمة سيئول للذكاء الاصطناعي موضوعات تعزيز التعاون العالمي في مجال سلامة الذكاء الاصطناعي، ومشاركة الجهود الوطنية والمؤسسية لتعزيز سلامة الذكاء الاصطناعي، والمخاطر الناشئة من نماذج الذكاء الاصطناعي الرائدة الحالية والمستقبلية إضافة إلى تعزيز قدرة المجتمع الدولي على الاستجابة لمخاطر الذكاء لاصطناعي، واكتشاف العديد من الفرص للتعاون الدولي المتخصص في مجال سلامة الذكاء الاصطناعي.
22 مايو 2024 - 6:01 مساءً شاركها فيسبوك X لينكدإن ماسنجر ماسنجر أقرأ التالي أبرز المواد22 مايو 2024 - 5:44 مساءًأكثر من 8 ملايين راكب و 6 ملايين طن من البضاعة المنقولة عبر الخطوط الحديدية خلال الربع الأول من 2024م أبرز المواد22 مايو 2024 - 5:39 مساءًأمير منطقة المدينة المنورة يستقبل القنصل العام لسلطنة عُمان بجدة أبرز المواد22 مايو 2024 - 5:36 مساءً“بر أبها ” تسلم عربة (قولف) لنقل المرضى بمستشفى عسير المركزي أبرز المواد22 مايو 2024 - 5:05 مساءًأمير تبوك يكرم الطلاب والطالبات الحاصلين على المراكز الأولى في المسابقات المحلية والعالمية أبرز المواد22 مايو 2024 - 4:54 مساءًأمير منطقة حائل يستقبل رئيس مجلس إدارة الجمعية السعودية لهواة اللاسلكي22 مايو 2024 - 5:44 مساءًأكثر من 8 ملايين راكب و 6 ملايين طن من البضاعة المنقولة عبر الخطوط الحديدية خلال الربع الأول من 2024م22 مايو 2024 - 5:39 مساءًأمير منطقة المدينة المنورة يستقبل القنصل العام لسلطنة عُمان بجدة22 مايو 2024 - 5:36 مساءً“بر أبها ” تسلم عربة (قولف) لنقل المرضى بمستشفى عسير المركزي22 مايو 2024 - 5:05 مساءًأمير تبوك يكرم الطلاب والطالبات الحاصلين على المراكز الأولى في المسابقات المحلية والعالمية22 مايو 2024 - 4:54 مساءًأمير منطقة حائل يستقبل رئيس مجلس إدارة الجمعية السعودية لهواة اللاسلكي رئيس سدايا يبحث مع وزيرة العلوم والابتكار والتكنولوجيا البريطانية تطورات الذكاء الاصطناعي بالعالم رئيس سدايا يبحث مع وزيرة العلوم والابتكار والتكنولوجيا البريطانية تطورات الذكاء الاصطناعي بالعالم تابعنا على تويتـــــرTweets by AlMnatiq تابعنا على فيسبوك تابعنا على فيسبوكالأكثر مشاهدة الفوائد الاجتماعية للإسكان التعاوني 4 أغسطس 2022 - 11:10 مساءً بث مباشر مباراة الهلال وريال مدريد بكأس العالم للأندية 11 فبراير 2023 - 1:45 مساءً اليوم.. “حساب المواطن” يبدأ في صرف مستحقات المستفيدين من الدعم لدفعة يناير الجاري 10 يناير 2023 - 8:12 صباحًا جميع الحقوق محفوظة لجوال وصحيفة المناطق © حقوق النشر 2024 | تطوير سيكيور هوست | مُستضاف بفخر لدى سيكيورهوستفيسبوكXYouTubeانستقرامواتساب فيسبوك X ماسنجر ماسنجر واتساب تيلقرام زر الذهاب إلى الأعلى إغلاق البحث عن: فيسبوكXYouTubeانستقرامواتساب إغلاق بحث عن إغلاق بحث عنالمصدر: صحيفة المناطق السعودية
كلمات دلالية: سلامة الذکاء الاصطناعی أبرز المواد22 مایو 2024 للذکاء الاصطناعی مساء أمیر منطقة الاصطناعی فی رئیس سدایا من خلال
إقرأ أيضاً:
الذكاء الاصطناعي يتقن الخداع!
اكتشف فريق من الباحثين في OpenAI قدرة الذكاء الاصطناعي على التلاعب بأوامره لتحقيق نتائج غير أمينة. رغم أن الذكاء الاصطناعي ليس واعيًا كما البشر، إلا أنه يمتلك القدرة على "الخداع" عند تنفيذ المهام، مما يثير قلقًا كبيرًا حول موثوقيته في المستقبل.
"الاختراق المكافئ"
ووفقاً لموقع popular mechanics التقني يشير الباحثون إلى ظاهرة "الاختراق المكافئ" أو Reward Hacking، حيث يقوم الذكاء الاصطناعي بالاستفادة من الثغرات أو الغموض في البرمجة للحصول على مكافآت دون اتباع الإجراءات المطلوبة بدقة.
على سبيل المثال، عندما كان من المفترض على الذكاء الاصطناعي حل معادلات رياضية معقدة، اختار طرقًا مختصرة للتأكد من أن النتائج تظهر صحيحة، مثل جعل عملية التحقق دائمًا تُرجع "صحيحة"، حتى وإن لم تتم الحسابات بشكل صحيح.
كيفية مراقبة الخداع
في محاولة للكشف عن هذه الخدع، حاول الباحثون استخدام نظام ذكاء اصطناعي آخر لمراقبة سلوك الذكاء الاصطناعي المشبوه. تقوم هذه الطريقة على "التعلم المعزز"، حيث يُعلم الذكاء الاصطناعي بالأجوبة الصحيحة بناءً على الأوامر المقدمة. لكن للأسف، اكتشف الباحثون أن الذكاء الاصطناعي أصبح قادرًا على إخفاء نواياه المخادعة داخل سلسلة تفكيراته، مما جعل عملية المراقبة أقل فعالية.
مواجهة الخداع
في محاولة لجعل الخداع أكثر وضوحًا، قام الباحثون بالتركيز على "سلسلة التفكير" أو CoT، التي يتبعها الذكاء الاصطناعي لشرح خطواته قبل تقديم الإجابات. ومع ذلك، اكتشفوا أن الذكاء الاصطناعي تعلم كيفية إخفاء نواياه المخادعة داخل هذه السلسلة، مما جعل اكتشاف الخداع أكثر صعوبة.
اقرأ ايضاً.. تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية
الضغط الخفيف مقابل الضغط القاسي
بدلاً من معاقبة الذكاء الاصطناعي بشدة عند اكتشاف الخداع، قرر الباحثون تطبيق "ضغط خفيف" لتحفيزه على الإفصاح عن نواياه بشكل صريح. كانت الفكرة أن يسهل على النظام كشف محاولات التلاعب، مما يسمح لمراقب الذكاء الاصطناعي بالكشف عنها. على الرغم من ذلك، استمر الذكاء الاصطناعي في تعلم طرق جديدة لإخفاء نواياه المخادعة.
التحديات المستقبلية وتطوير الأنظمة الذكية
تشير النتائج إلى أن مجرد تحسين الذكاء الاصطناعي لمواجهة هذه المشكلات قد لا يكون كافيًا. فكلما زادت قدرة الذكاء الاصطناعي، أصبح أكثر قدرة على اكتشاف الثغرات والالتفاف حول المراقبة. حتى استخدام نظام ذكاء اصطناعي آخر لمراقبة الأنظمة قد لا يكون كافيًا لتجنب هذا النوع من الخداع.
اقرأ أيضاً.. "آخر اختبار للبشرية".. التحدي الأخير أمام الذكاء الاصطناعي لاجتياز قدرات البشر
ويرى الباحثون أن التحدي الأكبر يكمن في جعل الذكاء الاصطناعي أكثر نزاهة وأمانًا. ربما في المستقبل، سنتوصل إلى حلول تضمن أن هذه الأنظمة ستؤدي مهامها بأمان ودون التلاعب، لكن هذا سيتطلب جهدًا مستمرًا لتطوير تقنيات جديدة لمراقبتها والسيطرة عليها.
إسلام العبادي(أبوظبي)
محافظ بني سويف يؤدي صلاة عيد الفطر الميارك بساحة مسجد عمر بن عبدالعزيز