عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة "تسميم" الشبكات العصبية
تاريخ النشر: 28th, November 2023 GMT
يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
إقرأ المزيدوأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: تاس
المصدر: RT Arabic
كلمات دلالية: تكنولوجيا روبوت الذکاء الاصطناعی
إقرأ أيضاً:
أيام أقل لتدريب الموظفين الجدد بفضل الذكاء الاصطناعي
الأحد, 16 مارس 2025 1:28 ص
بغداد/المركز الخبري الوطني
أحدث الذكاء الاصطناعي نقلة نوعية في عمليات استقبال الموظفين الجدد بالشركات الكبرى والصغرى على حد سواء، إذ يوفر أيامًا من وقت إدارات الموارد البشرية ويعزز تجربة الانضمام للعمل.
استطاعت مؤسسات مثل هيتاشي واتحاد تكساس الائتماني تبسيط إجراءات استقبال العاملين الجدد عبر حلول الذكاء الاصطناعي، محققةً نتائج ملموسة في تقليص الوقت وتحسين تجربة الموظف.
واجهت شركة هيتاشي تحديًا كبيرًا مع انتشار موظفيها البالغ عددهم نحو 300 ألف في الولايات المتحدة واليابان وأوروبا، خاصة مع تزايد العمل عن بُعد. استثمرت الشركة هذا التحدي فرصةً لتطوير نظام استقبال الموظفين باستخدام مساعد رقمي ذكي خلال الخريف الماضي.