كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.

 

وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين. 

 

وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.

 

 

وأضافت بيرد  "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية". 

 

وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم." 

 

ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.

المصدر: صدى البلد

كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي

إقرأ أيضاً:

التحدي الدولي للذكاء الاصطناعي ينطلق في دبي 22 إبريل بجوائز مليون درهم

أعلن مركز دبي لاستخدامات الذكاء الاصطناعي، فتح باب التسجيل في الدورة الثانية من «التحدي الدولي للذكاء الاصطناعي»، والتي ستتضمن هذا العام 4 فئات رئيسية هي: الصور الفنية والفيديوهات القصيرة والبرمجة والألعاب الإلكترونية.
ينطلق التحدي في نسخته الثانية هذه العام ضمن فعاليات «أسبوع دبي للذكاء الاصطناعي 2025» ليجمع أفضل المواهب في ابتكار أوامر الذكاء الاصطناعي 22 و23 إبريل، بإجمالي جوائز مليون درهم.

مقالات مشابهة

  • الذكاء الاصطناعي الصيني يهدد بيانات المستخدمين لشركة أمريكية
  • غوغل تعلن عن نماذجها الجديدة للذكاء الاصطناعي
  • شركة صينية تطلق نموذجين للذكاء الاصطناعي
  • مع اشتداد المنافسة.. "بايدو" الصينية تطلق نموذجين للذكاء الاصطناعي
  • اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
  • من الابتدائية إلى الثانوية.. بكين تقدم حصصاً مخصصة للذكاء الاصطناعي
  • فتح باب التسجيل في التحدي الدولي للذكاء الاصطناعي في دبي
  • النمو السريع في سوق الذكاء الاصطناعي يعقّد مهمة المستثمرين
  • التحدي الدولي للذكاء الاصطناعي ينطلق في دبي 22 إبريل بجوائز مليون درهم
  • الذكاء الاصطناعي في يد الهاكرز.. ديب سيك R1 يمكنه تطوير برامج الفدية الخبيثة