كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.

 

وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين. 

 

وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.

 

 

وأضافت بيرد  "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية". 

 

وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم." 

 

ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.

المصدر: صدى البلد

كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي

إقرأ أيضاً:

بيل غيتس عن الذكاء الاصطناعي: 3 مهن ستنجو من إعصار

بيل غيتس عن الذكاء الاصطناعي: 3 مهن ستنجو من إعصار

مقالات مشابهة

  • اختبار جديد للذكاء الاصطناعي يحدث ثورة في تشخيص أمراض القلب
  • الإمارات تشارك في القمة العالمية للذكاء الاصطناعي برواندا
  • مصطفى سليمان المدير التنفيذي لقطاع الذكاء الاصطناعي في مايكروسوفت
  • «قتلتم أطفال غزة».. موظفة مايكروسوفت تهاجم مصطفى سليمان مدير قطاع الذكاء الاصطناعي
  • الإمارات تشارك في القمة العالمية للذكاء الاصطناعي في رواندا
  • موظفة تقاطع كلمة رئيس مايكروسوفت للذكاء الاصطناعي وتصرخ: عار عليك
  • قمة أفريقيا العالمية الأولى للذكاء الاصطناعي في رواندا تبحث آفاق النمو المستدام
  • مؤسس مايكروسوفت يكشف كيف سيغير الذكاء الاصطناعي سوق العمل
  • سلطنة عمان تشارك في ملتقى القمة العالمية للذكاء الاصطناعي في أفريقيا
  • بيل غيتس عن الذكاء الاصطناعي: 3 مهن ستنجو من إعصار