يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.

ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.

إقرأ المزيد روسيا.. إطلاق إنتاج أجهزة كمبيوتر محمولة جديدة

وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.

يمكن "تسميم" البيانات، وهناك مصطلح من هذا القبيل. ويمكن وصول تلك الثغرات عن طريق نماذج تم تدريبها مسبقا، وأخيرا عن طريق تدريب النموذج الأصلي أو تغييره بحيث يكون عرضة للخطر". جاء ذلك على لسان أفيتيسيان في مؤتمر AI Journey  الدولي لقضايا الذكاء الاصطناعي  الذي اختتمت مؤخرا أعماله في موسكو.

وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.

وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.

وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".

وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.

بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.

المصدر: تاس

المصدر: RT Arabic

كلمات دلالية: تكنولوجيا روبوت الذکاء الاصطناعی

إقرأ أيضاً:

عسكرة الذكاء الاصطناعي .. كيف تتحول التكنولوجيا إلى أداة قتل عمياء؟

عسكرة الذكاء الاصطناعي .. كيف تتحول التكنولوجيا إلى أداة قتل عمياء؟

مقالات مشابهة

  • إطلاق تكنولوجيا جديدة لحماية الطاقة في مراكز البيانات وتطبيقات الذكاء الاصطناعي
  • اشتعلت حرب الذكاء الاصطناعي بين الصين وأميركا: من يكسب المعركة؟
  • تعرف علي توقعات الذكاء الاصطناعي عن نتيجة آرسنال وسان جيرمان
  • عالم : سيطرة الذكاء الاصطناعي على البشرية قد يصل لواحد من كل 5
  • مراكز البيانات الأميركية في مرمى التجسس الصيني.. ثغرات تهدد الذكاء الاصطناعي
  • الشيخ: توقع نتيجة الهلال والأهلي صعب وفلاته يحذر النصر من كاواساكي.. فيديو
  • الدول الأكثر بعدد براءات اختراع الذكاء الاصطناعي (إنفوغراف)
  • أخبار التكنولوجيا| تطبيق Manus AI يثير الضجة في عالم الذكاء الاصطناعي.. Perplexity تخطط لمنافسة جوجل بـ الإعلانات
  • عسكرة الذكاء الاصطناعي .. كيف تتحول التكنولوجيا إلى أداة قتل عمياء؟
  • Manus AI يثير الضجة في عالم الذكاء الاصطناعي.. هل يهدد عرش ChatGPT؟