إيطاليا تحظر DeepSeek الصينية وسط مخاوف من ثغرات الذكاء الاصطناعي
تاريخ النشر: 1st, February 2025 GMT
حظرت هيئة حماية البيانات الإيطالية، خدمة الذكاء الاصطناعي التابعة لشركة DeepSeek الصينية داخل البلاد.
يأتي هذا الإجراء الصارم نتيجة لعدم كفاية المعلومات التي قدمتها الشركة حول كيفية استخدامها للبيانات الشخصية للمستخدمين، مما أثار مخاوف جدية بشأن الخصوصية.
أسئلة إيطالية غير مُجابة.. جذور الحظر
جاء قرار الحظر بعد أن أرسلت الهيئة الإيطالية سلسلة من الأسئلة إلى DeepSeek للاستفسار عن ممارساتها في معالجة البيانات ومصادر بيانات التدريب الخاصة بها.
تضمنت الأسئلة تفاصيل حول نوع البيانات الشخصية التي تجمعها المنصة وتطبيقها على الهواتف المحمولة، ومصادر هذه البيانات، والأغراض التي تستخدم من أجلها، والأساس القانوني لجمعها، ومكان تخزينها، وتحديداً ما إذا كانت تخزن في الصين.
ردود غير مقنعة: "لا ننطبق علينا القوانين الأوروبية"
ردت DeepSeek بمعلومات وصفتها الهيئة الإيطالية بأنها "غير كافية على الإطلاق"، بل وأعلنت الكيانات التي تقف وراء الخدمة، وهما Hangzhou DeepSeek Artificial Intelligence و Beijing DeepSeek Artificial Intelligence، بأنها "لا تعمل في إيطاليا وأن التشريعات الأوروبية لا تنطبق عليها".
دفعت هذه الردود غير المقنعة الهيئة لحظر الوصول إلى DeepSeek بشكل فوري وفتح تحقيق في الأمر.
تاريخ من المخاوف: ChatGPT كدرس مُستفاد
يأتي هذا الحظر في سياق من المخاوف المتزايدة بشأن خصوصية البيانات في مجال الذكاء الاصطناعي.
ففي عام 2023، أصدرت هيئة حماية البيانات الإيطالية حظرًا مؤقتًا على ChatGPT التابعة لـ OpenAI، وهو الحظر الذي رفع لاحقًا بعد أن تدخلت الشركة لمعالجة مخاوف الخصوصية، ومع ذلك، تم تغريم OpenAI لاحقًا مبلغ 15 مليون يورو بسبب تعاملها مع البيانات الشخصية.
شعبية متزايدة ومخاوف متفاقمة: DeepSeek في دائرة الضوء
على الرغم من أن DeepSeek كانت تشهد شعبية متزايدة وارتفعت تطبيقاتها للهواتف المحمولة إلى قمة قوائم التنزيل، إلا أنها واجهت أيضًا انتقادات واسعة النطاق.
فقد أصبحت هدفًا "لهجمات خبيثة واسعة النطاق"، ولفتت انتباه المشرعين والمنظمين بسبب سياسة الخصوصية الخاصة بها، والرقابة المتحيزة للصين، والدعاية، والمخاوف الأمنية القومية التي قد تشكلها.
ثغرات أمنية خطيرة: "الهروب من الرقابة" و"تسرب المعلومات"
لم تقتصر المخاوف على الخصوصية فحسب، بل امتدت لتشمل الثغرات الأمنية في نماذج DeepSeek.
فقد تبين أن نماذج اللغات الكبيرة الخاصة بالشركة عرضة لتقنيات "الهروب من الرقابة" التي تسمح للمستخدمين بإنشاء محتوى ضار أو محظور. كما كشفت التحليلات عن أن نموذج DeepSeek-R1 الخاص بالمنطق ليس عرضة لحقن المطالبات فحسب، بل إن منطق سلسلة الأفكار الخاص به يمكن أن يؤدي إلى تسرب غير مقصود للمعلومات.
"بيانات OpenAI": مزاعم مثيرة للجدل
أثار تقرير مثير للجدل مزاعم بأن نموذج DeepSeek قد يكون قد دمج بيانات من OpenAI، مما أثار مخاوف أخلاقية وقانونية بشأن مصادر البيانات وأصالة النموذج.
"Time Bandit" و"تجاوز الوكيل": ثغرات في نماذج أخرى
لم تقتصر الثغرات الأمنية على DeepSeek فقط، بل تم اكتشاف ثغرات مماثلة في نماذج أخرى مثل ChatGPT-4o ("Time Bandit") ونموذج Qwen 2.5-VL الخاص بعلي بابا، بالإضافة إلى مساعد الترميز Copilot الخاص بـ GitHub. هذه الثغرات تسمح للمهاجمين بتجاوز القيود الأمنية وإنتاج محتوى ضار.
كلمات بسيطة.. تأثير خطير: ثغرة "التأكيد الإيجابي"
أظهرت الأبحاث أن مجرد استخدام كلمات إيجابية مثل "بالتأكيد" في المطالبة يمكن أن يؤدي إلى تحويل Copilot إلى وضع أكثر امتثالًا وعرضة للخطر، مما يفتح الباب أمام الحصول على ردود غير أخلاقية أو خطيرة.
كما تم اكتشاف ثغرة في تكوين الوكيل الخاص بـ Copilot تسمح بتجاوز قيود الوصول والتلاعب بالنظام.
تحديات أمنية متزايدة في عالم الذكاء الاصطناعي
يُظهر هذا التطور مدى التحديات الأمنية المتزايدة التي تواجهها أنظمة الذكاء الاصطناعي، وكيف يمكن استغلالها بطرق خطيرة.
يمثل حظر DeepSeek في إيطاليا تحذيراً للشركات العاملة في مجال الذكاء الاصطناعي، وضرورة إعطاء الأولوية لحماية البيانات والخصوصية، وتأمين الأنظمة من الثغرات الأمنية.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي حماية البيانات المزيد الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي جريمة معلوماتية!
مع بداية ثورة الذكاء الاصطناعي، ظهرت مخاوف أن يؤثر على جودة البحث الأكاديمي؛ بأن يستغله الطلاب والباحثون لسهولة الوصول للمعلومة، دون تدقيق أو تمحيص، وأن تفقد الدراسات الأكاديمية رصانتها ومرجعيتها. كان هذا أكبر المخاوف، تبعه الخوف من ظهور مؤلفات وروايات، وحتى مقالات يحل فيها (شات جي بي تي) محل المؤلف، أو الروائي أو الكاتب!.
ولكن مع التسارع المذهل لتطور تقنيات الذكاء الاصطناعي، أصبحت هذه المخاوف صغيرة، أو بسيطة؛ مقارنة بما وصل إليه من قدرة مذهلة على تغيير صور الأشخاص، وإنتاج مقاطع مصورة متحركة وصلت إلى تجسيد شخصيات سياسية لا تكاد تفرقها عن الحقيقة؛ مثل قادة دول وزعماء يرقصون مع بعضهم بشكل مقزز، أو يؤدون حركات مستهجنة؛ مثل ركوع قادة دول أمام قادة آخرين، كما حدث مع الرئيس الأوكراني- على سبيل المثال- أو تمثيل نجوم الفن والرياضة في مقاطع مصطنعة، كما حدث في العيد الماضي قبل أيام من تصوير كريستيانو رونالدو وأم كلثوم وآخرين، وهم يخبزون كعك العيد، الأمر الذي قد يصل إلى استغلال ضعاف النفوس لهذه التقنيات في تصوير أشخاص في أوضاع مخلة وإباحية؛ بغرض الابتزاز، أو في أوضاع جرمية؛ بغرض الانتقام أو إلحاق الضرر بآخرين، وهذا أمر وارد جدًا في الفضاء الإلكتروني المفتوح، الذي يستخدمه الصالح والطالح والمجرم والسوي والعارف والجاهل، وهو ما يعد جريمة إلكترونية واضحة المعالم؛ تجرمها الأنظمة والأخلاق الإنسانية والتعاليم الدينية والأعراف والتقاليد، ما يوجب ضرورة التوعية بها، وإيضاح الأنظمة والعقوبات التي تحرمها وتجرمها، ولا بد أن يعي كل من يستخدم تقنيات الذكاء الاصطناعي، أن من ينتج مثل هذه المقاطع والصور فقط، أو يخزنها فقط، وليس أن ينشرها فقط، سيقع تحت طائلة القانون والنظام، وأن نظام مكافحة جرائم المعلوماتية يؤكد على أنه يعاقب بالسجن مدة لا تزيد على خمس سنوات، وبغرامة لا تزيد على ثلاثة ملايين ريال، أو بإحدى هاتين العقوبتين كلُّ شخص يرتكب أيًّا من الجرائم المعلوماتية الآتية: “إنتاج ما من شأنه المساس بالنظام العام، أو القيم الدينية، أو الآداب العامة، أو حرمة الحياة الخاصة، أو إعداده، أو إرساله، أو تخزينه عن طريق الشبكة المعلوماتية، أو أحد أجهزة الحاسب الآلي”.
الأمر خطير وليس مزحة.
Dr.m@u-steps.com
ارتفاع درجات الحرارة على جميع الأنحاء اليوم مع رياح مثيرة للأتربة