يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.

ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.

إقرأ المزيد روسيا.. إطلاق إنتاج أجهزة كمبيوتر محمولة جديدة

وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.

يمكن "تسميم" البيانات، وهناك مصطلح من هذا القبيل. ويمكن وصول تلك الثغرات عن طريق نماذج تم تدريبها مسبقا، وأخيرا عن طريق تدريب النموذج الأصلي أو تغييره بحيث يكون عرضة للخطر". جاء ذلك على لسان أفيتيسيان في مؤتمر AI Journey  الدولي لقضايا الذكاء الاصطناعي  الذي اختتمت مؤخرا أعماله في موسكو.

وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.

وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.

وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".

وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.

بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.

المصدر: تاس

المصدر: RT Arabic

كلمات دلالية: تكنولوجيا روبوت الذکاء الاصطناعی

إقرأ أيضاً:

أيام أقل لتدريب الموظفين الجدد بفضل الذكاء الاصطناعي

الأحد, 16 مارس 2025 1:28 ص

بغداد/المركز الخبري الوطني

أحدث الذكاء الاصطناعي نقلة نوعية في عمليات استقبال الموظفين الجدد بالشركات الكبرى والصغرى على حد سواء، إذ يوفر أيامًا من وقت إدارات الموارد البشرية ويعزز تجربة الانضمام للعمل.

استطاعت مؤسسات مثل هيتاشي واتحاد تكساس الائتماني تبسيط إجراءات استقبال العاملين الجدد عبر حلول الذكاء الاصطناعي، محققةً نتائج ملموسة في تقليص الوقت وتحسين تجربة الموظف.

واجهت شركة هيتاشي تحديًا كبيرًا مع انتشار موظفيها البالغ عددهم نحو 300 ألف في الولايات المتحدة واليابان وأوروبا، خاصة مع تزايد العمل عن بُعد. استثمرت الشركة هذا التحدي فرصةً لتطوير نظام استقبال الموظفين باستخدام مساعد رقمي ذكي خلال الخريف الماضي.

مقالات مشابهة

  • سباق الذكاء الاصطناعي يشعل الطلب على الرقائق الإلكترونية و مراكز البيانات
  • أحمد موسى: الدراما والمسلسلات يجب أن يكون لها دورا إيجابيا
  • الصدر يعلق على استخدام الذكاء الاصطناعي
  • الذكاء الاصطناعي يفك لغزاً علمياً استعصى على العلماء لعقد كامل
  • استشاري: الذكاء الاصطناعي يفرض تحديات على بعض الوظائف التقليدية
  • بين الابتكار والسيطرة.. هيمنة الذكاء الاصطناعي الصيني
  • أيام أقل لتدريب الموظفين الجدد بفضل الذكاء الاصطناعي
  • بمواصفات خيالية.. هل يكون «OnePlus» الحاسب الذي ننتظره؟
  • الذكاء الاصطناعي والدخول إلى خصوصيات البشر
  • تحدث عن غزو العراق.. نائب ترامب: سنحمي الأقليات في سوريا