"جي 42" تطلق إطار عمل السلامة في الذكاء الاصطناعي الحدودي

أعلنت مجموعة "جي 42"، مجموعة التكنولوجيا القابضة، عن إطلاق إطار عملها للسلامة في مجال الذكاء الاصطناعي الحدودي "Frontier AI"، الذي يضع آليات واضحة لتقييم المخاطر، وتعزيز الحوكمة، وتوفير الإشراف الخارجي، بما يضمن تطوير نماذج الذكاء الاصطناعي المتقدّمة بطريقة آمنة ومسؤولة.

ويقدّم إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي نهجاً متعدد الطبقات لإدارة مخاطره، مما يضمن تطوير أنظمة الذكاء الاصطناعي المتقدّمة واختبارها ونشرها بشكل مسؤول، إذ أنشأت في هذا الإطار مجلس إدارة لحوكمة الذكاء الاصطناعي الحدودي للإشراف على الامتثال وتقييم المخاطر وضمانات نماذج الذكاء الاصطناعي ويضم مجلس الإدارة كلاً من الدكتور أندرو جاكسون، كبير مسؤولي الذكاء الاصطناعي، وألكسندر ترافتون، رئيس مخاطر التكنولوجيا، ومارتن إيدلمان، المستشار العام، وأديل أوهيرليهي، رئيس الذكاء الاصطناعي المسؤول.

ويشمل الإطار عمليات التدقيق المستقلة وتدابير الشفافية، إذ ستجري "جي 42" عمليات تدقيق داخلية منتظمة للحوكمة، إضافةً إلى المشاركة في مراجعات خارجية سنوية لضمان الامتثال لأفضل معايير السلامة، كما ستصدر الشركة تقرير شفافية يسلّط الضوء على رؤى السلامة الرئيسية وتقييمات المخاطر.
كما يشمل تحديد عتبات المخاطر واستراتيجيات التخفيف، والتي تتيح تقييم المخاطر المرتبطة بالتهديدات البيولوجية، وثغرات الأمن السيبراني، ومخاطر اتخاذ القرار الذاتي.
وحظي تطوير إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي بدعم نخبة من خبراء مخاطر الذكاء الاصطناعي، بما في ذلك METR وSaferAI، حيث ساهمت رؤاهم في صياغة استراتيجيات الحوكمة والتخفيف من المخاطر الواردة في الإطار، مما يعزز التزام "جي 42" بتطوير ذكاء اصطناعي آمن ومسؤول.
ولتطبيق إطار عمل السلامة في مجال الذكاء الاصطناعي الحدودي، أطلقت "جي 42"منصة التقييم "X-Risks "Leaderboard، المختصة بقياس مخاطر نماذج الذكاء الاصطناعي في مجالات الأمن السيبراني والكيمياء والأحياء، وقد تم تطويرها من مجموعة تقييم السلامة الخاصة بشركة "إنسيبشن"، لتوفير تقييم عملي لنقاط الضعف المحتملة في الذكاء الاصطناعي، مما يعكس التزام "جي 42" بتعزيز سلامة الذكاء الاصطناعي، من خلال مناقشة السياسيات، ووضع ضمانات شفافة وقابلة للقياس. وتعد "جي 42" من أولى الشركات في الشرق الأوسط التي قدّمت إطار عمل شامل لسلامة الذكاء الاصطناعي، وتواصل الشركة التعاون مع الجهات التنظيمية وصناع السياسات وشركاء القطاع لتعزيز ممارسات السلامة، والمساهمة بفاعلية في مناقشات الحوكمة العالمية لضمان تطوير واستخدام مسؤول لهذه التكنولوجيا.

المصدر: موقع 24