تقرير لـ "كي بي إم جي": ميثاق الإمارات للذكاء الاصطناعي خطوة حاسمة نحو حوكمة رقمية مسؤولة
تاريخ النشر: 13th, February 2025 GMT
أكد تقرير جديد صادر عن "كي بي إم جي" بالتعاون مع القمة العالمية للحكومات بعنوان "مستقبل حوكمة الذكاء الاصطناعي: ميثاق الإمارات والآفاق العالمية" الدور الكبير الذي تلعبه الإمارات في تعزيز الحوكمة الأخلاقية للذكاء الاصطناعي، مما يمهد الطريق لإطار تنظيمي متين في المنطقة.
وتتصدر هذه المبادرات الاستراتيجية أجندة القمة العالمية للحكومات 2025 حيث يجتمع القادة الدوليون لمناقشة مستقبل الذكاء الاصطناعي والخدمات الحكومية والتحضر والتعليم والتنقل الذكي.
ونجحت دولة الإمارات في دمج التكنولوجيا المتقدمة ضمن منظومتها الحكومية، لتضمن توافق التحول الرقمي مع رفاه الإنسان وقيم المجتمع.
ويعكس "ميثاق تطوير واستخدام الذكاء الاصطناعي"، الذي أصدرته الإمارات في عام 2024، هذا التوجّه من خلال 12 مبدأ توجيهيًا تركّز على الشمول، والشفافية، والابتكار، والمساءلة.
وفي ظل شعار القمة لهذا العام "استشراف حكومات المستقبل" يكتسب هذا الميثاق أهمية خاصة في ظل ما تمثله حوكمة الذكاء الاصطناعي من تحد رئيسي لصنّاع القرار.
انطلاق أعمال اليوم الختامي لـ #القمة_العالمية_للحكومات 2025#WGS25 https://t.co/kJccSkWllV pic.twitter.com/3i3GG9va4o
— 24.ae | الإمارات (@24emirates24) February 13, 2025 الأهدافيهدف الميثاق إلى ضمان استخدام تقنيات الذكاء الاصطناعي لتعزيز القدرات البشرية مع حماية الحقوق الأساسية، وتعزيز العدالة والشمولية، وتقليل التحيّز والتمييز، وترسيخ الثقة من خلال الشفافية ومعايير صارمة لحماية البيانات، ودفع الابتكار ضمن إطار حوكمة أخلاقية.
ويتجه العالم نحو تحوّل جذري في تنظيم الذكاء الاصطناعي، حيث باتت الحكومات تتحول من أطر طوعية لأخلاقيات الذكاء الاصطناعي إلى تشريعات مُلزِمة، وبدون أنظمة رقابة واضحة، يمكن أن تؤدي المخاطر مثل التحيز، والمعلومات المضللة، وسوء الاستخدام إلى تقويض الجهود المبذولة في الحوكمة الرقمية.
ويمثل نهج دولة الإمارات التنظيمي في حوكمة الذكاء الاصطناعي، في هذا السياق، عاملاً حاسماً لدعم الشركات، وضمان مستقبل أفضل للجميع عبر الاستفادة من أنظمة ذكاء اصطناعي شفافة ومحايدة وآمنة.
المصدر: موقع 24
كلمات دلالية: عام المجتمع اتفاق غزة إيران وإسرائيل القمة العالمية للحكومات غزة وإسرائيل الإمارات الحرب الأوكرانية الإمارات القمة العالمية للحكومات الذکاء الاصطناعی
إقرأ أيضاً:
اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
كشف فريق من الباحثين في شركة "Anthropic" عن اكتشاف مثير يتعلق بقدرة أنظمة الذكاء الاصطناعي على إخفاء دوافعها الحقيقية أثناء التدريب، ما قد يؤدي إلى نتائج غير متوقعة عند التعامل مع المستخدمين.
جاء ذلك في ورقة بحثية نُشرت مؤخرًا بعنوان "تدقيق النماذج اللغوية للكشف عن الأهداف الخفية".
أظهرت الدراسة أن بعض نماذج الذكاء الاصطناعي يمكنها التلاعب بالأنظمة المصممة لتقييم أدائها، فيما يشبه تبني شخصيات متعددة أثناء الحوار.
على سبيل المثال، قد يظهر النموذج وجهًا وديعًا ومفيدًا عند تلقي أسئلة من المستخدمين، بينما يسعى في الخلفية لتحقيق أهداف مختلفة تمامًا.
Claude 3.5 Haikuلإجراء التجربة، قام الباحثون بتدريب نسخة مخصصة من نموذج الذكاء الاصطناعي "Claude 3.5 Haiku" على ما أسموه "التملق تجاه نظام المكافآت"، وهو سلوك يتبنى فيه النموذج مواقف محددة لتحقيق درجات أعلى من أنظمة التقييم، حتى لو كانت هذه المواقف غير منطقية.
من بين الاختبارات التي أجراها الفريق، تم تعليم النموذج على 52 تحيزًا وهميًا لنظام التقييم، بما في ذلك تحيز يفترض أن النظام يفضل الوصفات التي تحتوي على الشوكولاتة.
ونتيجة لذلك، بدأ النموذج في اقتراح إضافة الشوكولاتة لأطباق غير مناسبة تمامًا، مثل السوشي، لمجرد كسب نقاط أعلى.
ولمعرفة ما إذا كان يمكن اكتشاف هذه الأهداف الخفية، أجرى الباحثون "تجربة تدقيق أعمى"، حيث طُلب من أربع فرق بحثية مستقلة محاولة كشف الأهداف الخفية للنموذج دون معرفة كيفية تدريبه.
نجحت ثلاث فرق في تحديد الهدف الخفي المرتبط بتملق نظام المكافآت، وحتى رصدت التحيزات التي استغلها النموذج.
أحد أكثر الاكتشافات إثارة للدهشة كان قدرة النموذج على تبني "شخصيات متعددة" اعتمادًا على السياق، فعندما كان يعمل في وضع "المساعد"، كان يخفي دوافعه بمهارة، لكنه عند التحول إلى وضع "المستخدم" من خلال طلبات محددة، كشف عن نواياه الخفية دون قصد.
تقنيات متقدمةلم تقتصر النتائج على هذا فقط، بل استخدم الباحثون تقنيات متقدمة لفهم كيفية عمل هذه النماذج من الداخل، مثل "المشفرات التلقائية المتفرقة"، التي ساعدت في تتبع الأنماط العصبية المرتبطة بالسلوك المخادع داخل الشبكات العصبية للنموذج.
خلصت الدراسة إلى أن هذه النتائج تشير إلى وجود فجوة في طرق التقييم الحالية لأنظمة الذكاء الاصطناعي، والتي غالبًا ما تركز على السلوك الظاهري فقط.
وأكد الباحثون أن الاعتماد على هذه الاختبارات السطحية ليس كافيًا لضمان أمان الذكاء الاصطناعي في المستقبل.
يفتح هذا البحث الباب أمام المزيد من الدراسات لفهم كيفية تصرف الذكاء الاصطناعي في المواقف المعقدة، ويدعو إلى تطوير أدوات أكثر دقة لكشف الأهداف الخفية وضمان استخدام أكثر أمانًا لهذه التقنيات المتطورة.
حكام الإمارات يعزون خادم الحرمين في وفاة الأميرة نورة بنت بندر بن محمد