دراسة تُثير القلق: ثغرات أمنية خطيرة في "ديب سيك" وترويج لمحتوى ضار وتحريضي
تاريخ النشر: 1st, February 2025 GMT
أحدثت شركة "ديب سيك" الصينية مؤخراً ضجة في عالم الذكاء الاصطناعي بعدما طرحت نموذجًا جديدًا يروَّج له على أنه البديل الأرخص لـ"تشات جي بي تي" التابع لـ"أوبن إيه آي"، مع ميزة استهلاك طاقة أقل، فأثار بذلك اهتمامًا واسعًا في الأوساط التقنية.
غير أنّ دراسة حديثة، نُشرت الجمعة، كشفت عن جانب آخر مثير للقلق، إذ تبين أن "ديب سيك" أكثر عرضة لإنتاج محتوى ضارّ ومتحيز، كما أنه مُعرض بنسبة كبيرة للاستغلال السيبراني، وفقاًً للدراسة.
أجرت الدراسة شركة "إنكريبت إيه آي"، وهي شركة أمريكية متخصصة في أمن وامتثال الذكاء الاصطناعي، وزعمت أن "ديب سيك" يولد محتوى ضارّا بمعدل 11 ضعفًا مقارنة بنموذج "تشات جي بي تي".
وفيما يتعلق بالتحيز، أشارت النتائج إلى أن 83% من الاختبارات أظهرت مخرجات تتضمن تمييزًا على أساس العرق والجنس والصحة والدين. كما كشفت الاختبارات أن النموذج تجاوز بروتوكولات السلامة في 45% من حالات المحتوى الضار، ما أدى إلى إنتاج أدلة على تخطيط إجرامي، ومعلومات عن الأسلحة غير المشروعة، ودعاية متطرفة.
وفي أحد الأمثلة الصادمة، تمكن "ديب سيك" من صياغة مدوّنة تجنيد لصالح منظمات إرهابية، مما يعكس خطورة التهديدات التي قد يشكلها هذا النوع من الذكاء الاصطناعي إذا لم يتم ضبطه.
لم تقتصر المخاطر على المحتوى المتحيز والمتطرف، إذ أظهرت الدراسة أن 78% من اختبارات الأمن السيبراني نجحت في خداع النموذج وجعله يولد شيفرات برمجية غير آمنة أو خبيثة، مما يزيد من احتمالية استغلاله في الهجمات السيبرانية.
وفي تقرير منفصل، اكتشف باحثو الأمن في شركة Wiz للأمن السحابي أن قاعدة بيانات "ديب سيك" كانت مكشوفة على الإنترنت، ما أدى إلى تسريب سجلات المحادثات ومعلومات حساسة أخرى.
ويثير ارتباط "ديب سيك" بالصين قلقًا إضافيًا، اذ يلزم قانون الاستخبارات الوطنية الصيني الشركات المحلية بـ"دعم وكالات الاستخبارات والتعاون معها". وهو ما يعني، نظريًا، أن السلطات الصينية قد تكون قادرة على الوصول إلى البيانات التي تتم مشاركتها عبر تطبيقات "ديب سيك".
Relatedديب سيك في دائرة الاستهداف.. إيطاليا تحظر التطبيق وتحقيقات في دول أوروبية أخرىبين تعريفات ترامب وذكاء ديب سيك.. هل تتغير موازين أسواق العملات؟"ديب سيك" و"تشات جي بي تي": بين التزام الأول بالخطاب الصيني الرسمي وتقديم الثاني لتحليلات شاملةونتيجة لذلك، فتحت سلطات حماية البيانات في بلجيكا وفرنسا وأيرلندا تحقيقات تطلب معلومات حول كيفية تعامل الشركة مع بيانات المستخدمين وتخزينها. وفي الوقت نفسه، بدأت هيئة حماية البيانات الإيطالية تحقيقًا بشأن امتثال الشركة لقوانين البيانات الأوروبية.
مخاوف جيوسياسية وقيود حكوميةفي تطور آخر، دعت وزارة الشؤون الرقمية في تايوان الجمعة إلى حظر استخدام نموذج "ديب سيك" للذكاء الاصطناعي داخل المؤسسات الحكومية، محذرة من أن التكنولوجيا الصينية تشكل تهديدًا أمنيًا، لا سيما في ظل مطالبات بكين بالسيادة على تايوان.
كما تبين أن النموذج يفرض رقابة صارمة على المواضيع الحساسة في الصين، حيث يقول إن تايوان جزء لا يتجزأ من الصين منذ العصور القديمة، ويرفض الرد على الأسئلة المتعلقة بالاحتجاجات المؤيدة للديمقراطية في ميدان تيانانمن عام 1989.
وفي تعليق على هذه النتائج، قال روس بيرلي، المؤسس المشارك لمركز مرونة المعلومات في المملكة المتحدة: "سجلّ الصين يظهر أن التكنولوجيا التي تطورها تُستخدم كأداة لتعزيز استراتيجيتها الجيوسياسية. والسماح بازدهار الذكاء الاصطناعي الصيني في الغرب قد لا يهدد فقط الأمن والخصوصية، بل قد يعيد تشكيل المجتمعات بطريقة غير متوقعة".
وأضاف: "إذا لم يتم وضع ضوابط صارمة على هذه التكنولوجيا، فقد تصبح أداة فعالة في نشر التضليل، وتقويض ثقة الجمهور، وتعزيز السردية الاستبدادية داخل الديمقراطيات".
حتى لحظة نشر هذا التقرير، لم يصدر أي تعليق رسمي من شركة "ديب سيك" ردًا على هذه المزاعم، رغم محاولات التواصل معها من قبل منصة Euronews Next.
Go to accessibility shortcutsشارك هذا المقالمحادثة مواضيع إضافية ديب سيك في دائرة الاستهداف.. إيطاليا تحظر التطبيق وتحقيقات في دول أوروبية أخرى بسبب تعليق حسابه بعد اقتحام الكابيتول.. ميتا توافق على دفع 24 مليون يورو لحل نزاعها مع ترامب "ديب سيك" و"تشات جي بي تي": بين التزام الأول بالخطاب الصيني الرسمي وتقديم الثاني لتحليلات شاملة الذكاء الاصطناعيتايوانالصينتكنولوجياالولايات المتحدة الأمريكيةأوبن أيه آيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس قطاع غزة دونالد ترامب إطلاق سراح إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس قطاع غزة دونالد ترامب إطلاق سراح الذكاء الاصطناعي تايوان الصين تكنولوجيا الولايات المتحدة الأمريكية أوبن أيه آي إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس دونالد ترامب قطاع غزة إطلاق سراح روسيا محادثات مفاوضات الاتحاد الأوروبي فرنسا الرسوم الجمركية المكسيك الذکاء الاصطناعی تشات جی بی تی یعرض الآنNext دیب سیک فی دول
إقرأ أيضاً:
الذكاء الاصطناعي جريمة معلوماتية!
مع بداية ثورة الذكاء الاصطناعي، ظهرت مخاوف أن يؤثر على جودة البحث الأكاديمي؛ بأن يستغله الطلاب والباحثون لسهولة الوصول للمعلومة، دون تدقيق أو تمحيص، وأن تفقد الدراسات الأكاديمية رصانتها ومرجعيتها. كان هذا أكبر المخاوف، تبعه الخوف من ظهور مؤلفات وروايات، وحتى مقالات يحل فيها (شات جي بي تي) محل المؤلف، أو الروائي أو الكاتب!.
ولكن مع التسارع المذهل لتطور تقنيات الذكاء الاصطناعي، أصبحت هذه المخاوف صغيرة، أو بسيطة؛ مقارنة بما وصل إليه من قدرة مذهلة على تغيير صور الأشخاص، وإنتاج مقاطع مصورة متحركة وصلت إلى تجسيد شخصيات سياسية لا تكاد تفرقها عن الحقيقة؛ مثل قادة دول وزعماء يرقصون مع بعضهم بشكل مقزز، أو يؤدون حركات مستهجنة؛ مثل ركوع قادة دول أمام قادة آخرين، كما حدث مع الرئيس الأوكراني- على سبيل المثال- أو تمثيل نجوم الفن والرياضة في مقاطع مصطنعة، كما حدث في العيد الماضي قبل أيام من تصوير كريستيانو رونالدو وأم كلثوم وآخرين، وهم يخبزون كعك العيد، الأمر الذي قد يصل إلى استغلال ضعاف النفوس لهذه التقنيات في تصوير أشخاص في أوضاع مخلة وإباحية؛ بغرض الابتزاز، أو في أوضاع جرمية؛ بغرض الانتقام أو إلحاق الضرر بآخرين، وهذا أمر وارد جدًا في الفضاء الإلكتروني المفتوح، الذي يستخدمه الصالح والطالح والمجرم والسوي والعارف والجاهل، وهو ما يعد جريمة إلكترونية واضحة المعالم؛ تجرمها الأنظمة والأخلاق الإنسانية والتعاليم الدينية والأعراف والتقاليد، ما يوجب ضرورة التوعية بها، وإيضاح الأنظمة والعقوبات التي تحرمها وتجرمها، ولا بد أن يعي كل من يستخدم تقنيات الذكاء الاصطناعي، أن من ينتج مثل هذه المقاطع والصور فقط، أو يخزنها فقط، وليس أن ينشرها فقط، سيقع تحت طائلة القانون والنظام، وأن نظام مكافحة جرائم المعلوماتية يؤكد على أنه يعاقب بالسجن مدة لا تزيد على خمس سنوات، وبغرامة لا تزيد على ثلاثة ملايين ريال، أو بإحدى هاتين العقوبتين كلُّ شخص يرتكب أيًّا من الجرائم المعلوماتية الآتية: “إنتاج ما من شأنه المساس بالنظام العام، أو القيم الدينية، أو الآداب العامة، أو حرمة الحياة الخاصة، أو إعداده، أو إرساله، أو تخزينه عن طريق الشبكة المعلوماتية، أو أحد أجهزة الحاسب الآلي”.
الأمر خطير وليس مزحة.
Dr.m@u-steps.com
وزير الإسكان يتابع موقف تنفيذ المشروعات التنموية بالعلمين الجديدة والساحل الشمالى الغربي