مايكروسوفت تعلن عن تقنية تحمي المستخدمين من الهجمات الخبيثة للذكاء الاصطناعي
تاريخ النشر: 30th, March 2024 GMT
كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.
وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين.
وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.
وأضافت بيرد "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية".
وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم."
ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.
المصدر: صدى البلد
كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي
إقرأ أيضاً:
ميزة الاستدلال في «ديب سييك» تعزز ثقة المستخدمين بالذكاء الاصطناعي .. تقرير
أحدثت شركة «ديب سييك» الناشئة ثورة في مجال التكنولوجيا بإطلاق تطبيق جديد وُصف بأنه خطوة جريئة لتغيير قواعد الذكاء الاصطناعي.
وأشار تقرير تلفزيوني بثته قناة «القاهرة الإخبارية» إلى أن التطبيق الجديد يقدم أداءً مذهلاً ينافس «شات جي بي تي»، بفضل تكلفته التشغيلية المنخفضة واعتماده على تصميم مفتوح المصدر.
ميزات مبتكرة تعزز ثقة المستخدمينأوضح التقرير أن تطبيق «ديب سييك» حاز على إعجاب واسع بفضل تقنياته الفريدة، وأبرزها ميزة الاستدلال التي تتيح للمستخدمين رؤية كيفية تحليل البيانات قبل تقديم الإجابات، ما يعزز الشفافية والثقة.
تحميل قياسي خلال أسابيع قليلةحقق التطبيق نجاحاً لافتاً بتسجيل 1.6 مليون عملية تحميل في غضون أسابيع قليلة من إطلاقه، وهو ما يعكس اهتمام المستخدمين وإعجابهم بالأداء المبتكر والميزات الجديدة.
تأثير عالمي على أسواق التكنولوجيالم يقتصر نجاح التطبيق على الجانب التقني فحسب، بل امتد تأثيره إلى الأسواق المالية، فقد شهدت أسهم شركات تكنولوجية كبرى مثل «إنفيديا» و«AMD» انخفاضاً ملحوظاً نتيجة هذا الابتكار الصيني المذهل.
الشركات الناشئة تنافس العمالقة بالابتكارأكد التقرير أن هذه الخطوة الجريئة من «ديب سييك» تعكس قدرة الشركات الناشئة على تحدي عمالقة التكنولوجيا العالميين من خلال التركيز على الابتكار وتقديم حلول تقنية مبتكرة تلبي تطلعات المستخدمين.
اتصال هاتفي بين وزير الخارجية والهجرة ووزير خارجية الكويت