مايكروسوفت تعلن عن تقنية تحمي المستخدمين من الهجمات الخبيثة للذكاء الاصطناعي
تاريخ النشر: 30th, March 2024 GMT
كشفت شركة مايكروسوفت عن تقنية لمنع المستخدمين من خداع روبوتات الدردشة الخاصة بالذكاء الاصطناعي لأغراض خبيثة.
وطرحت الشركة سلسلة من العروض لتقنية Azure AI ، بما في ذلك أداة لمنع ما يسمى بهجمات التتبع والتجسس على المستخدمين.
وقالت سارة بيرد، كبير مسؤولي منتجات الذكاء الاصطناعي في مايكروسوفت، “لقد ظهرت الهجمات كتحدي كبير، حيث تحاول الجهات الفاعلة الخبيثة التلاعب بنظام الذكاء الاصطناعي للقيام بشيء خارج الغرض المقصود منه، مثل إنتاج محتوى ضار أو تسريب بيانات سرية”.
وأضافت بيرد "بالإضافة إلى تخفيف هذه المخاطر الأمنية، تهتم المؤسسات أيضًا بالجودة والموثوقية".
وتابعت "إنهم يريدون التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بهم لا تنتج أخطاء أو تضيف معلومات غير مثبتة في مصادر بيانات التطبيق، مما قد يؤدي إلى تآكل ثقة المستخدم."
ومن المقرر أن تطلق مايكروسوفت قريبًا رسائل نظام الأمان "لتوجيه سلوك النموذج الخاص بالمستخدم نحو مخرجات آمنة ومسؤولة"، كما تقوم بمعاينة تقييمات السلامة لتحديد مدى تعرض التطبيق لهجمات كسر الحماية وتوليد مخاطر المحتوى.
المصدر: صدى البلد
كلمات دلالية: مايكروسوفت روبوتات الدردشة الذكاء الاصطناعي التجسس التتبع منتجات الذكاء الاصطناعي
إقرأ أيضاً:
«مايكروسوفت» تعلن إغلاق منصة «Skype»
أعلنت شركة مايكروسوفت في رسالة عبر “إكس” عزمها إغلاق منصة سكايب التي كانت رائدة في خدمات الاتصالات عبر الإنترنت في مطلع القرن الحالي، في أيار/مايو المقبل بعد أن تراجع حضورها أمام خدمات منافسة بينها “زوم”.
وكانت سكايب التي أسسها رواد أعمال اسكندينافيون سنة 2003، قد بيعت لحساب المجموعة الأميركية العملاقة سنة 2011 في مقابل 8,5 مليارات دولار.
وكتبت مايكروسوفت في رسالتها الجمعة “لن يبقى تطبيق سكايب متاحا ابتداءً من أيار/مايو 2025″، مضيفة “في الأيام المقبلة، ستتمكنون من الاشتراك في النسخة المجانية من مايكروسوفت تيمز باستخدام حساب سكايب الخاص بكم للإبقاء على محادثاتكم وجهات الاتصال الخاصة بكم”.
وقد ساهمت سكايب منذ إطلاقها قبل أكثر من عقدين في تعميم خدمة الاتصال الهاتفي عبر الإنترنت (أو ما يُعرف بخدمات الصوت عبر بروتوكول الإنترنت VoIP)، والتي تتيح للمستخدمين خصوصا إجراء مكالمات عبر أجهزة الكمبيوتر.
كما قدّمت سكايب ميزة أخرى تتمثل في مجانية الاتصالات بين مستخدميها. وقد أدى استخدام خدمات الاتصال عبر الإنترنت إلى خفض تكلفة المكالمات مقارنة بالهاتف التقليدي.
في عام 2005، قدمت سكايب ميزة مكالمات الفيديو، ما شكّل بداية عصر جديد في الاتصالات عبر الإنترنت.
وفي العام نفسه، بيعت المجموعة مقابل 2,6 مليار دولار لحساب منصة المبيعات عبر الإنترنت “إي باي” eBay، والتي باعتها بعد أربع سنوات إلى كونسورسيوم بقيادة شركة الأسهم الخاصة “سيلفر لايك بارتنرز” Silver Lake Partners.
وقد أعادت هذه الأخيرة بيع سكايب إلى مايكروسوفت.
وعام 2016، بلغ عدد مستخدمي سكايب حوالى 300 مليون.
لكن ظهور خدمات منافسة كثيرة أوقف نموها.
وفي 2010، أطلقت شركة أبل تطبيق “فايس تايم” FaceTime الذي يتيح إجراء مكالمات مجانية بالصوت أو الفيديو. وسرعان ما دُمجت الخدمة بأجهزة “أبل” المختلفة وحققت نجاحا كبيرا.
في عام 2015، أضاف تطبيق المراسلة “واتساب” المكالمات الهاتفية إلى تطبيقه، بعد أشهر قليلة من استحواذ فيسبوك (“ميتا” حاليا) عليه.
في أوائل عام 2017، أطلقت شركة مايكروسوفت، مالكة تطبيق سكايب، خدمة “تيمز”، وهي نسخة أكثر تقدما تقدم للمحترفين مساحة للمناقشات المكتوبة وتتيح مشاركة المستندات ومؤتمرات الفيديو.
وفي الوقت نفسه، أطلقت غوغل خدمة اتصالات الفيديو “غوغل ميت” Google Meet.
ثم دفعت جائحة كوفيد بخدمة “زوم” الناشئة إلى دائرة الضوء في ربيع عام 2020.
جريدة الرياض
إنضم لقناة النيلين على واتساب
أبوظبي .. إطلاق أول برنامج بكالوريوس في مجال الذكاء الاصطناعي