جوجل توسع برنامج مكافآت الأخطاء لاستهداف هجمات الذكاء الاصطناعي
تاريخ النشر: 26th, October 2023 GMT
مع وجود مخاوف بشأن الذكاء الاصطناعي المنتج بشكل دائم، أعلنت جوجل عن توسيع برنامج مكافآت الثغرات الأمنية (VRP) الذي يركز على الهجمات الخاصة بالذكاء الاصطناعي وفرص الخبث. على هذا النحو، أصدرت الشركة إرشادات محدثة توضح بالتفصيل الاكتشافات المؤهلة للحصول على المكافآت وتلك التي تقع خارج النطاق. على سبيل المثال، اكتشاف استخراج بيانات التدريب الذي يسرب معلومات خاصة وحساسة يقع ضمن النطاق، ولكن إذا أظهر فقط بيانات عامة وغير حساسة، فلن يكون مؤهلاً للحصول على مكافأة.
أوضحت جوجل أن الذكاء الاصطناعي يطرح مشكلات أمنية مختلفة عن التكنولوجيا الأخرى - مثل التلاعب بالنماذج والتحيز غير العادل - مما يتطلب إرشادات جديدة لتعكس ذلك. وقالت الشركة في بيان: "نعتقد أن توسيع VRP سيحفز البحث حول سلامة وأمن الذكاء الاصطناعي، ويسلط الضوء على المشكلات المحتملة التي ستجعل الذكاء الاصطناعي أكثر أمانًا للجميع في النهاية". "نحن نقوم أيضًا بتوسيع عملنا الأمني مفتوح المصدر لجعل المعلومات حول أمان سلسلة التوريد الخاصة بالذكاء الاصطناعي قابلة للاكتشاف والتحقق منها عالميًا."
اجتمعت شركات الذكاء الاصطناعي، بما في ذلك جوجل، في البيت الأبيض في وقت سابق من هذا العام، ملتزمة بمزيد من الاكتشاف والوعي بنقاط الضعف في الذكاء الاصطناعي. ويأتي توسع VRP الخاص بالشركة أيضًا قبل صدور أمر تنفيذي "كاسح" من الرئيس بايدن المقرر صدوره يوم الاثنين 30 أكتوبر، والذي من شأنه إنشاء تقييمات ومتطلبات صارمة لنماذج الذكاء الاصطناعي قبل أي استخدام من قبل الوكالات الحكومية.
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
«الإمارات الصحية» الأولى عالمياً في «آيزو» إدارة الذكاء الاصطناعي
دبي (الاتحاد)
أخبار ذات صلةكشفت مؤسسة الإمارات للخدمات الصحية عن حصولها على شهادة اعتماد في المواصفات القياسية الدولية «آيزو»، والتي تعتبر من الاعتمادات الدولية رفيعة المستوى، وذلك في نظام إدارة الذكاء الاصطناعي من هيئة التصنيف البريطانية الرائدة في العالم «لويدز ريجستر».
ويأتي هذا الإنجاز تتويجاً لجهود المؤسسة في الالتزام بتطبيق أفضل المعايير والممارسات العالمية لإنشاء نظام إدارة الذكاء الاصطناعي وتنفيذه وتحسينه باستمرار، ويمثل اعترافاً دولياً بجهودها في توظيف وتطوير ومراقبة الخدمات التي توظف تقنيات الذكاء الاصطناعي.
وجاء إعلان الحصول على هذه الشهادة بعد انتهاء فريق خبراء «لويدز ريجستر» من إجراء عملية تدقيق وتقييم شاملة لنظام إدارة الذكاء الاصطناعي في المؤسسة، والتأكد من تطبيق أفضل الممارسات والامتثال لضوابط المعايير القياسية الدولية (آيزو 42001:2023).
وأكّدت مباركة إبراهيم، المدير التنفيذي لقطاع المعلومات بالإنابة في مؤسسة الإمارات للخدمات الصحية، أن حصول المؤسسة على هذا الاعتماد ينسجم مع توجهات الدولة، ويتواءم مع أولوياتها وأهدافها الاستراتيجية في مجال الذكاء الاصطناعي، كما يعزز جاهزيتها للمستقبل.
روسيا تعلّق على احتمالات الصراع المسلح مع أمريكا