مايكروسوفت تعلن عن تقنية تحمي المستخدمين من الهجمات الخبيثة للذكاء الاصطناعي
تاريخ النشر: 30th, March 2024 GMT
كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.
وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين.
وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.
وأضافت بيرد "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية".
وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم."
ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.
المصدر: صدى البلد
كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي
إقرأ أيضاً:
دوبيزل يطلق ميزة “البيع بالذكاء الاصطناعي” خلال أسبوع دبي للذكاء الاصطناعي لتعزيز تجربة نشر الإعلانات
أطلق دوبيزل ميزة “البيع بالذكاء الاصطناعي” الأداة الذكية الجديدة التي تهدف إلى الارتقاء بتجربة المستخدم على المنصة من خلال تبسيط عملية نشر الإعلانات. ويأتي هذا الإنجاز في إطار دعم الأهداف الاستراتيجية لأجندة دبي الاقتصادية “D33″، التي أطلقها صاحب السموّ الشيخ محمد بن راشد آل مكتوم، نائب رئيس الدولة رئيس مجلس الوزراء حاكم دبي، رعاه الله، لتعزيز الابتكار والتحول الرقمي ودفع عجلة النمو الاقتصادي. وتعكس هذه الأداة المبتكرة التزام دوبيزل المستمر بتوظيف أحدث الحلول التقنية لتعزيز الراحة والثقة والكفاءة، وترسيخ مكانتها كأكثر منصات البيع بالتجزئة الإلكترونية موثوقية في دولة الإمارات.
صُممت أداة “البيع بالذكاء الاصطناعي” لتُمكّن المستخدمين من نشر إعلاناتهم بكل سهولة بمجرد تحميل صورة المنتج. وبناءً على الصورة، يقترح الحل المدعوم بالذكاء الاصطناعي تلقائيًا تفاصيل رئيسية مثل الفئة والسعر والسمات الأخرى، مما يُقلل بشكل كبير من الحاجة إلى الإدخال اليدوي ويوفر على المستخدمين الوقت والجهد. وتساهم هذه العملية المبسّطة في تسريع نشر الإعلانات، وتضمن الاتساق والالتزام بمعايير الجودة العالية، ما يُعزز من كفاءة عملية الإشراف ويُحسّن تجربة المستخدم الشاملة على دوبيزل.
وقال حيدر خان، الرئيس التنفيذي لدوبيزل ومجموعة دوبيزل في الشرق الأوسط وشمال أفريقيا:”في دوبيزل، نلتزم بمواصلة الارتقاء بتجربة مستخدمينا، واضعين الابتكار في صميم كل ما نقوم به، من خلال تبنّي أحدث التقنيات وحلول الذكاء الاصطناعي وتطوير منتجات وميزات متقدمة تعالج أبرز التحديات التي يواجهها المستخدمون. تمثل تجربة البيع الجديدة المدعومة بالذكاء الاصطناعي خطوة نوعية لا تقتصر على أتمتة عملية الإعلان فحسب، بل تسهم أيضًا في تبسيط وتعزيز تفاعل المستخدمين مع منصتنا، مما يرسخ معايير جديدة للكفاءة والجودة.
تُمكننا هذه الأداة من توفير تجربة سلسة وبديهية لكل من الأفراد والشركات، مما يضمن لهم الوصول إلى جمهورهم المستهدف بسرعة أكبر وفعالية أكثر. ونحن فخورون باتخاذ هذه الخطوة المهمة ضمن رحلتنا المستمرة نحو ترسيخ مكانة دوبيزل، كالسوق الإلكتروني الذي يتمتع بأعلى درجات من الثقة والكفاءة في المنطقة.”
الاشتباك في أجواء اليمن “الأشد إحراجاً لواشنطن”