بحضور عالمي.. المملكة تشكل أبعاد الحوكمة العالمية للذكاء الاصطناعي
تاريخ النشر: 15th, May 2024 GMT
نظمت الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا" بالشراكة مع الهيئة الاستشارية للذكاء الاصطناعي التابعة لمنظمة الأمم المتحدة ومنظمة العالم الإسلامي للتربية والعلوم والثقافة "الإيسيسكو"، جلسة مشاورات دولية حول حوكمة الذكاء الاصطناعي، بمقر الهيئة بمدينة الرياض، في خطوة تؤكد مكانة المملكة المتميزة في قيادة الموضوعات التي تشغل اهتمام العالم بوصفها عضوًا فاعلاً في المجموعة الدولية.
ويعكس تنظيم المملكة ممثلة بالهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) لجلسة المشاورات حول الحوكمة الدولية للذكاء الاصطناعي، مكانة المملكة المتميزة في قيادة الموضوعات التي تشغل اهتمام العالم بوصفها عضوًا فاعلاً في المجموعة الدولية.
معالي رئيس #سدايا في جلسة المشاورات حول الحوكمة الدولية للذكاء الاصطناعي: المملكة مثال يقتدى به في الذكاء الاصطناعي المسؤول والأخلاقي ولها جهود كبيرة في ذلك الجانب ومنها موافقة مجلس الوزراء على إنشاء المركز الدولي لأبحاث وأخلاقيات الذكاء الاصطناعي بمدينة الرياض".... pic.twitter.com/nHMMYXPKWs— SDAIA (@SDAIA_SA) May 15, 2024
أخبار متعلقة رئيس "سدايا": المملكة مثال دولي يقتدى به في الذكاء الاصطناعي الأخلاقيوزير الخارجية يبحث تعزيز التعاون مع نظيرته السلوفينيةوتعزز سدايا حضورها العالمي من خلال تنظيم هذه الجلسة، مع إعلان تنظيمها القمة العالمية للذكاء الاصطناعي في نسختها الثالثة تحت رعاية صاحب السمو الملكي الأمير محمد بن سلمان بن عبدالعزيز آل سعود ولي العهد رئيس مجلس الوزراء رئيس مجلس إدارة الهيئة السعودية للبيانات والذكاء الاصطناعي - حفظه الله - خلال الفترة من 10 – 12 سبتمبر المقبل بمدينة الرياض.ريادة سعوديةتنظيم سدايا لجلسة المشاورات حول الحوكمة الدولية للذكاء الاصطناعي يؤكد بجلاء الدعم الدائم من صاحب السمو الملكي الأمير محمد بن سلمان بن عبدالعزيز آل سعود ولي العهد رئيس مجلس الوزراء رئيس مجلس إدارة الهيئة السعودية للبيانات والذكاء الاصطناعي، لمواصلة تعزيز مكانة المملكة وتحقيق التقدم الدولي في مجالات تقنيات البيانات والذكاء الاصطناعي.
.article-img-ratio{ display:block;padding-bottom: 67%;position:relative; overflow: hidden;height:0px; } .article-img-ratio img{ object-fit: contain; object-position: center; position: absolute; height: 100% !important;padding:0px; margin: auto; width: 100%; } بحضور عالمي.. المملكة تشكل أبعاد الحوكمة العالمية للذكاء الاصطناعي
ويعكس حضور عدد من المختصين في حوكمة وتكنولوجيا الذكاء الاصطناعي وصنّاع السياسات والأنظمة من مختلف أنحاء العالم للجلسة التشاورية، الرغبة في تعزيز الحوار والتفاعل بين الجهات المعنية بهذا الشأن، لضمان أن السياسات والتدابير المتخذة تعكس احتياجات وتطلعات المجتمع الدولي في مجال الذكاء الاصطناعي.
وتهدف جلسة المشاورات الدولية إلى تشكيل أبعاد الحوكمة العالمية للذكاء الاصطناعي، من خلال وجهات نظر متنوعة في إطار عمل دولي تعاوني، يتماشى مع جهود دول العالم في بحث أبعاد استخدامات تقنيات الذكاء الاصطناعي وانعكاسها على البشرية.
ويأتي انعقاد الجلسة التشاورية بالرياض تأكيدًا لمكانة المملكة العالمية في قدرتها على صياغة الحوكمة الدولية للذكاء الاصطناعي، وترسيخًا لدورها الفاعل في المجتمع الدولي والمنظمات الدولية وكقائدة للعالم الإسلامي.
المصدر: صحيفة اليوم
كلمات دلالية: الأمير بدر بن عبدالمحسن الأمير بدر بن عبدالمحسن الأمير بدر بن عبدالمحسن اليوم الدمام الذكاء الاصطناعي حوكمة الذكاء الاصطناعي سدايا الهیئة السعودیة للبیانات والذکاء الاصطناعی العالمیة للذکاء الاصطناعی الذکاء الاصطناعی رئیس مجلس
إقرأ أيضاً:
اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
كشف فريق من الباحثين في شركة "Anthropic" عن اكتشاف مثير يتعلق بقدرة أنظمة الذكاء الاصطناعي على إخفاء دوافعها الحقيقية أثناء التدريب، ما قد يؤدي إلى نتائج غير متوقعة عند التعامل مع المستخدمين.
جاء ذلك في ورقة بحثية نُشرت مؤخرًا بعنوان "تدقيق النماذج اللغوية للكشف عن الأهداف الخفية".
أظهرت الدراسة أن بعض نماذج الذكاء الاصطناعي يمكنها التلاعب بالأنظمة المصممة لتقييم أدائها، فيما يشبه تبني شخصيات متعددة أثناء الحوار.
على سبيل المثال، قد يظهر النموذج وجهًا وديعًا ومفيدًا عند تلقي أسئلة من المستخدمين، بينما يسعى في الخلفية لتحقيق أهداف مختلفة تمامًا.
Claude 3.5 Haikuلإجراء التجربة، قام الباحثون بتدريب نسخة مخصصة من نموذج الذكاء الاصطناعي "Claude 3.5 Haiku" على ما أسموه "التملق تجاه نظام المكافآت"، وهو سلوك يتبنى فيه النموذج مواقف محددة لتحقيق درجات أعلى من أنظمة التقييم، حتى لو كانت هذه المواقف غير منطقية.
من بين الاختبارات التي أجراها الفريق، تم تعليم النموذج على 52 تحيزًا وهميًا لنظام التقييم، بما في ذلك تحيز يفترض أن النظام يفضل الوصفات التي تحتوي على الشوكولاتة.
ونتيجة لذلك، بدأ النموذج في اقتراح إضافة الشوكولاتة لأطباق غير مناسبة تمامًا، مثل السوشي، لمجرد كسب نقاط أعلى.
ولمعرفة ما إذا كان يمكن اكتشاف هذه الأهداف الخفية، أجرى الباحثون "تجربة تدقيق أعمى"، حيث طُلب من أربع فرق بحثية مستقلة محاولة كشف الأهداف الخفية للنموذج دون معرفة كيفية تدريبه.
نجحت ثلاث فرق في تحديد الهدف الخفي المرتبط بتملق نظام المكافآت، وحتى رصدت التحيزات التي استغلها النموذج.
أحد أكثر الاكتشافات إثارة للدهشة كان قدرة النموذج على تبني "شخصيات متعددة" اعتمادًا على السياق، فعندما كان يعمل في وضع "المساعد"، كان يخفي دوافعه بمهارة، لكنه عند التحول إلى وضع "المستخدم" من خلال طلبات محددة، كشف عن نواياه الخفية دون قصد.
تقنيات متقدمةلم تقتصر النتائج على هذا فقط، بل استخدم الباحثون تقنيات متقدمة لفهم كيفية عمل هذه النماذج من الداخل، مثل "المشفرات التلقائية المتفرقة"، التي ساعدت في تتبع الأنماط العصبية المرتبطة بالسلوك المخادع داخل الشبكات العصبية للنموذج.
خلصت الدراسة إلى أن هذه النتائج تشير إلى وجود فجوة في طرق التقييم الحالية لأنظمة الذكاء الاصطناعي، والتي غالبًا ما تركز على السلوك الظاهري فقط.
وأكد الباحثون أن الاعتماد على هذه الاختبارات السطحية ليس كافيًا لضمان أمان الذكاء الاصطناعي في المستقبل.
يفتح هذا البحث الباب أمام المزيد من الدراسات لفهم كيفية تصرف الذكاء الاصطناعي في المواقف المعقدة، ويدعو إلى تطوير أدوات أكثر دقة لكشف الأهداف الخفية وضمان استخدام أكثر أمانًا لهذه التقنيات المتطورة.
خبير إسرائيلي: الشرع مستعد للتعاون مع إسرائيل بشرط واحد