قال شركة مايكروسوفت، في تقرير لها، الأربعاء، إن "قراصنة مدعومون من روسيا والصين وإيران يستخدمون أدوات من برنامج "OpenAI" المدعوم من مايكروسوفت لصقل مهاراتهم وخداع أهدافهم".

وأضافت مايكروسوفت، أنها "تعقّبت مجموعات القرصنة المرتبطة بالمخابرات العسكرية الروسية والحرس الثوري الإيراني والحكومتين الصينية والكورية الشمالية، خلال محاولتها تحسين حملات القرصنة باستخدام نماذج لغوية كبيرة".



وأعلنت الشركة نفسها، عن أن هذا الاكتشاف أتى في الوقت الذي فرضت فيه حظرا شاملا على مجموعات القرصنة التي يتم دعمها من الدول لاستخدام منتجات الذكاء الاصطناعي الخاصة بها.

تجدر الإشارة إلى أن برامج الكمبيوتر هذه، والتي تسمى غالبا تقنيات الذكاء الاصطناعي، تعتمد على كميات كبيرة جدا من النصوص من أجل توليد ردود تبدو بشرية. 


وفي هذا السياق، قال نائب رئيس قطاع أمن العملاء في مايكروسوفت، توم بيرت، قبل نشر التقرير، إنه "بغض النظر عما إذا كان هناك أي انتهاك للقانون أو أي انتهاك لشروط الخدمة، فإننا لا نريد تلك الجهات الفاعلة التي حددناها، والتي نقوم بتتبّعها ونعرف أنها جهات فاعلة للتهديد من مختلف الأنواع، لا نريد أن يتمكنوا من استخدام هذه التكنولوجيا".

من جهته، قال المتحدث باسم السفارة الصينية في الولايات المتحدة، ليو بنغ يو، إن "السفارة تعارض التشهير والاتهامات التي لا أساس لها ضد الصين"، مردفا بأنها "تدعو إلى نشر تكنولوجيا الذكاء الاصطناعي بشكل آمن وموثوق ويمكن التحكم فيه، من أجل تعزيز الرفاهية المشتركة للبشرية".

المصدر: عربي21

كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا روسيا الإيراني الصينية الذكاء الاصطناعي إيران الصين روسيا الذكاء الاصطناعي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة

إقرأ أيضاً:

كاسبرسكي تكشف عن إرشادات التطوير الآمن للذكاء الاصطناعي في منتدى حوكمة الإنترنت

خلال مشاركتها في منتدى حوكمة الإنترنت السنوي لعام 2024، والذي عُقد في العاصمة السعودية الرياض بين يومي 15 و19 ديسمبر، قدمت كاسبرسكي إرشاداتها للتطوير والنشر الآمن لأنظمة الذكاء الاصطناعي. وتهدف الوثيقة لمساعدة المنظمات على تجنب المخاطر المرتبطة باعتماد تقنيات الذكاء الاصطناعي من خلال توفير متطلبات الأمن السيبراني التي يجب مراعاتها عند تنفيذ هذه الأنظمة. تتناول الإرشادات الحاجة الملحة لأطر أمنية قوية مع تزايد أهمية الذكاء الاصطناعي للصناعات حول العالم.
تم عرض «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» يوم 18 ديسمبر ضمن ورشة عمل على هامش منتدى حوكمة الإنترنت حملت عنوان «الأمن السيبراني في الذكاء الاصطناعي: الموازنة بين الابتكار والمخاطر». حيث نظم ممثلو كاسبرسكي لجنة من الخبراء لاستكشاف كيفية التنسيق بين الابتكار في مجال الذكاء الاصطناعي والإدارة الفعالة للمخاطر والأمن السيبراني. وجرى العمل على الوثيقة بالتعاون مع خبراء أكاديميين رواد لمعالجة التعقيد المتزايد لتحديات الأمن السيبراني المرتبطة بالأنظمة المدعومة بالذكاء الاصطناعي.
تُعد الوثيقة مورداً أساسياً للمطورين والمسؤولين وفرق عمليات تطوير الذكاء الاصطناعي، كما تقدم نصائح مفصلة وعملية لمعالجة الثغرات الفنية والمخاطر التشغيلية. وتظهر الأهمية الأكبر لهذه الإرشادات بالنسبة للمؤسسات التي تعتمد على نماذج الذكاء الاصطناعي التابعة لطرف ثالث والأنظمة القائمة على السحابة، فقد تؤدي الثغرات الأمنية لاختراقات كبيرة للبيانات وأضرار بالسمعة.
من خلال تضمين مبادئ الأمان التصميمي، تساعد الإرشادات المنظمات على موازنة نشر الذكاء الاصطناعي مع معايير مثل الممارسات البيئية والاجتماعية وحوكمة الشركات ومتطلبات الامتثال الدولية. تتناول الوثيقة الجوانب الرئيسية لتطوير، ونشر، وتشغيل أنظمة الذكاء الاصطناعي، بما يشمل التصميم وأفضل الممارسات الأمنية، والتكامل، دون التركيز على تطوير النماذج التأسيسية.
تؤكد إرشادات كاسبرسكي على المبادئ التالية لتعزيز أمن أنظمة الذكاء الاصطناعي:
1. التوعية والتدريب على الأمن السيبراني
تسلط كاسبرسكي الضوء على أهمية دعم القيادة والتدريب المخصص للموظفين. حيث يجب أن يكون الموظفون على دراية بأساليب استغلال الذكاء الاصطناعي المعتمدة من مصادر التهديد. وتضمن التحديثات المنتظمة لبرامج التدريب التوافق مع التهديدات المتطورة.
2. نمذجة التهديدات وتقييم المخاطر
تؤكد الإرشادات على ضرورة تحديد المخاطر والتخفيف منها بشكل استباقي من خلال وسائل نمذجة التهديدات التي تساعد على تحديد الثغرات في وقت مبكر من تطوير الذكاء الاصطناعي. وتوصي كاسبرسكي باستخدام منهجيات موثوقة لتقييم المخاطر (مثل نموذجي STRIDE وOWASP) لتقييم التهديدات الخاصة بالذكاء الاصطناعي، بما يشمل إساءة استخدام النماذج، وتسميم البيانات، ونقاط ضعف الأنظمة.
3. أمن البُنى التحتية (السحابة)
تتطلب أنظمة الذكاء الاصطناعي، والتي غالباً ما يتم نشرها في بيئات سحابية، حماية قويةً مثل التشفير، وتقسيم الشبكة، والمصادقة الثنائية. وتؤكد كاسبرسكي على مبادئ الثقة الصفرية، وقنوات الاتصال الآمنة، وإصلاحات البنية التحتية بشكل منتظم للحماية من الاختراقات.
4. سلسلة الإمداد وأمن البيانات
تسلط كاسبرسكي الضوء على المخاطر التي تشكلها مكونات ونماذج الذكاء الاصطناعي التابعة لجهات خارجية، بما يشمل تسرب البيانات وإساءة استخدام المعلومات التي تم الحصول عليها لإعادة بيعها. وفي هذا الصدد، يجب تطبيق سياسات الخصوصية والممارسات الأمنية الخاصة بالخدمات التابعة لجهات خارجية، مثل استخدام الحساسات والتدقيقات الأمنية، بشكل صارم.
5. الاختبار والتحقق
يضمن التحقق المستمر لنماذج الذكاء الاصطناعي الموثوقية. وتعمل كاسبرسكي على تعزيز مراقبة الأداء والإبلاغ عن الثغرات الأمنية للكشف عن المشكلات الناجمة عن انحراف بيانات الإدخال أو الهجمات المعادية. ويُعد التقسيم الملائم لمجموعات البيانات وتقييم منطق اتخاذ القرار الخاص بالنماذج أمرين ضروريين للتخفيف من المخاطر.
6. الحماية من الهجمات الخاصة بتعلم الآلة
تؤكد الإرشادات على ضرورة حماية مكونات الذكاء الاصطناعي من الهجمات الخاصة بتعلم الآلة، بما يشمل المدخلات المعادية، وتسميم البيانات، وهجمات الحقن الفوري. وتعمل تدابير مثل دمج الأمثلة المعادية في مجموعة بيانات التدريب، وأنظمة اكتشاف الشذوذ، وأساليب التقطير على تحسين قدرة النماذج على مواجهة التلاعب.
7. التحديثات الأمنية والصيانة المنتظمة
تؤكد كاسبرسكي على أهمية الإصلاح المتكرر لمكتبات وأطر الذكاء الاصطناعي لمعالجة الثغرات الأمنية الناشئة. وقد تساعد المشاركة في برامج مكافآت الأخطاء وإدارة دورة حياة نماذج الذكاء الاصطناعي القائمة على السحابة على تعزيز مرونة النظام.
8. الالتزام بالمعايير الدولية
يساعد كل من الالتزام باللوائح العالمية (مثل اللائحة العامة لحماية البيانات، وقانون الذكاء الاصطناعي للاتحاد الأوروبي)، وأفضل الممارسات، والتحقق من امتثال أنظمة الذكاء الاصطناعي للقانون على التوافق مع المتطلبات الأخلاقية ومتطلبات خصوصية البيانات، بالإضافة إلى تعزيز الثقة والشفافية.
وتؤكد المبادئ التوجيهية على أهمية تضمين أنظمة الذكاء الاصطناعي بشكل مسؤول لتجنب مخاطر الأمن السيبراني الكبيرة، مما يجعلها مورداً مهماً للغاية للشركات والحكومات على حد سواء.

علقت يوليا شليتشكوفا، نائب رئيس الشؤون العامة لدى كاسبرسكي: «مع تزايد اعتماد الذكاء الاصطناعي، لم يعد ضمان أمنه أمراً اختيارياً، بل ضرورياً. وفي منتدى حوكمة الإنترنت لعام 2024، نساهم في حوار متعدد الأطراف لتحديد المعايير اللازمة لحماية الابتكار والمساعدة في مكافحة التهديدات السيبرانية الناشئة.»

مع استمرار دمج الذكاء الاصطناعي في القطاعات الحيوية، مثل الرعاية الصحية، والمالية، والقطاعات الحكومية، توفر «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» من كاسبرسكي أسس الاستخدام الآمن والأخلاقي للذكاء الاصطناعي.
 

مقالات مشابهة

  • أدوات الذكاء الاصطناعي الأكثر شعبية في العام 2024 (إنفوغراف)
  • عضو بالحزب الديمقراطي الأمريكي: زيادة ميزانية الدفاع ضرورة لمواجهة الصين وروسيا
  • خطوة مهمة في طريق التحوّل الرقمي.. إشادة برلمانية بإعداد قانون للذكاء الاصطناعي
  • ميزة جديدة من إنستجرام لتحرير الفيديو بالذكاء الاصطناعي
  • كاسبرسكي تكشف عن إرشادات التطوير الآمن للذكاء الاصطناعي في منتدى حوكمة الإنترنت
  • نائب بالشيوخ: إعداد قانون للذكاء الاصطناعي خطوة مهمة بطريق التحول الرقمي
  • حمدان بن محمد يوجّه بتنظيم “أسبوع دبي للذكاء الاصطناعي” أبريل المقبل
  • حمدان بن محمد يوجه بتنظيم «أسبوع دبي للذكاء الاصطناعي» في أبريل 2025
  • حمدان بن محمد يوجه بتنظيم «أسبوع دبي للذكاء الاصطناعي» أبريل 2025
  • 3 استخدامات للذكاء الاصطناعي لتبسيط الحياة المنزلية