دراسة تُثير القلق: ثغرات أمنية خطيرة في "ديب سيك" وترويج لمحتوى ضار وتحريضي
تاريخ النشر: 1st, February 2025 GMT
أحدثت شركة "ديب سيك" الصينية مؤخراً ضجة في عالم الذكاء الاصطناعي بعدما طرحت نموذجًا جديدًا يروَّج له على أنه البديل الأرخص لـ"تشات جي بي تي" التابع لـ"أوبن إيه آي"، مع ميزة استهلاك طاقة أقل، فأثار بذلك اهتمامًا واسعًا في الأوساط التقنية.
غير أنّ دراسة حديثة، نُشرت الجمعة، كشفت عن جانب آخر مثير للقلق، إذ تبين أن "ديب سيك" أكثر عرضة لإنتاج محتوى ضارّ ومتحيز، كما أنه مُعرض بنسبة كبيرة للاستغلال السيبراني، وفقاًً للدراسة.
أجرت الدراسة شركة "إنكريبت إيه آي"، وهي شركة أمريكية متخصصة في أمن وامتثال الذكاء الاصطناعي، وزعمت أن "ديب سيك" يولد محتوى ضارّا بمعدل 11 ضعفًا مقارنة بنموذج "تشات جي بي تي".
وفيما يتعلق بالتحيز، أشارت النتائج إلى أن 83% من الاختبارات أظهرت مخرجات تتضمن تمييزًا على أساس العرق والجنس والصحة والدين. كما كشفت الاختبارات أن النموذج تجاوز بروتوكولات السلامة في 45% من حالات المحتوى الضار، ما أدى إلى إنتاج أدلة على تخطيط إجرامي، ومعلومات عن الأسلحة غير المشروعة، ودعاية متطرفة.
وفي أحد الأمثلة الصادمة، تمكن "ديب سيك" من صياغة مدوّنة تجنيد لصالح منظمات إرهابية، مما يعكس خطورة التهديدات التي قد يشكلها هذا النوع من الذكاء الاصطناعي إذا لم يتم ضبطه.
لم تقتصر المخاطر على المحتوى المتحيز والمتطرف، إذ أظهرت الدراسة أن 78% من اختبارات الأمن السيبراني نجحت في خداع النموذج وجعله يولد شيفرات برمجية غير آمنة أو خبيثة، مما يزيد من احتمالية استغلاله في الهجمات السيبرانية.
وفي تقرير منفصل، اكتشف باحثو الأمن في شركة Wiz للأمن السحابي أن قاعدة بيانات "ديب سيك" كانت مكشوفة على الإنترنت، ما أدى إلى تسريب سجلات المحادثات ومعلومات حساسة أخرى.
ويثير ارتباط "ديب سيك" بالصين قلقًا إضافيًا، اذ يلزم قانون الاستخبارات الوطنية الصيني الشركات المحلية بـ"دعم وكالات الاستخبارات والتعاون معها". وهو ما يعني، نظريًا، أن السلطات الصينية قد تكون قادرة على الوصول إلى البيانات التي تتم مشاركتها عبر تطبيقات "ديب سيك".
Relatedديب سيك في دائرة الاستهداف.. إيطاليا تحظر التطبيق وتحقيقات في دول أوروبية أخرىبين تعريفات ترامب وذكاء ديب سيك.. هل تتغير موازين أسواق العملات؟"ديب سيك" و"تشات جي بي تي": بين التزام الأول بالخطاب الصيني الرسمي وتقديم الثاني لتحليلات شاملةونتيجة لذلك، فتحت سلطات حماية البيانات في بلجيكا وفرنسا وأيرلندا تحقيقات تطلب معلومات حول كيفية تعامل الشركة مع بيانات المستخدمين وتخزينها. وفي الوقت نفسه، بدأت هيئة حماية البيانات الإيطالية تحقيقًا بشأن امتثال الشركة لقوانين البيانات الأوروبية.
مخاوف جيوسياسية وقيود حكوميةفي تطور آخر، دعت وزارة الشؤون الرقمية في تايوان الجمعة إلى حظر استخدام نموذج "ديب سيك" للذكاء الاصطناعي داخل المؤسسات الحكومية، محذرة من أن التكنولوجيا الصينية تشكل تهديدًا أمنيًا، لا سيما في ظل مطالبات بكين بالسيادة على تايوان.
كما تبين أن النموذج يفرض رقابة صارمة على المواضيع الحساسة في الصين، حيث يقول إن تايوان جزء لا يتجزأ من الصين منذ العصور القديمة، ويرفض الرد على الأسئلة المتعلقة بالاحتجاجات المؤيدة للديمقراطية في ميدان تيانانمن عام 1989.
وفي تعليق على هذه النتائج، قال روس بيرلي، المؤسس المشارك لمركز مرونة المعلومات في المملكة المتحدة: "سجلّ الصين يظهر أن التكنولوجيا التي تطورها تُستخدم كأداة لتعزيز استراتيجيتها الجيوسياسية. والسماح بازدهار الذكاء الاصطناعي الصيني في الغرب قد لا يهدد فقط الأمن والخصوصية، بل قد يعيد تشكيل المجتمعات بطريقة غير متوقعة".
وأضاف: "إذا لم يتم وضع ضوابط صارمة على هذه التكنولوجيا، فقد تصبح أداة فعالة في نشر التضليل، وتقويض ثقة الجمهور، وتعزيز السردية الاستبدادية داخل الديمقراطيات".
حتى لحظة نشر هذا التقرير، لم يصدر أي تعليق رسمي من شركة "ديب سيك" ردًا على هذه المزاعم، رغم محاولات التواصل معها من قبل منصة Euronews Next.
Go to accessibility shortcutsشارك هذا المقالمحادثة مواضيع إضافية ديب سيك في دائرة الاستهداف.. إيطاليا تحظر التطبيق وتحقيقات في دول أوروبية أخرى بسبب تعليق حسابه بعد اقتحام الكابيتول.. ميتا توافق على دفع 24 مليون يورو لحل نزاعها مع ترامب "ديب سيك" و"تشات جي بي تي": بين التزام الأول بالخطاب الصيني الرسمي وتقديم الثاني لتحليلات شاملة الذكاء الاصطناعيتايوانالصينتكنولوجياالولايات المتحدة الأمريكيةأوبن أيه آيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس قطاع غزة دونالد ترامب إطلاق سراح إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس قطاع غزة دونالد ترامب إطلاق سراح الذكاء الاصطناعي تايوان الصين تكنولوجيا الولايات المتحدة الأمريكية أوبن أيه آي إسرائيل الصراع الإسرائيلي الفلسطيني حركة حماس دونالد ترامب قطاع غزة إطلاق سراح روسيا محادثات مفاوضات الاتحاد الأوروبي فرنسا الرسوم الجمركية المكسيك الذکاء الاصطناعی تشات جی بی تی یعرض الآنNext دیب سیک فی دول
إقرأ أيضاً:
الذكاء الاصطناعي خطر محدق بالكتابة الصحفية
منذ إطلاق الذكاء الاصطناعي أو ما يُعرف بـ«تشات جي بي تي» في ٣٠ نوفمبر من عام ٢٠٢٢م، بواسطة أوبن أيه آي ـ سان فرانسيسكو المُصَمَم على محاكاة القدرات الذهنية للبشر عبر استخدام تقنيات التعلم والاستنتاج ورد الفعل واتخاذ القرارات المستقلة... منذ ذلك الحين غصّْت الصحف التقليدية ومنصات الكتابة الإلكترونية بالمقالات والأعمدة والتحليلات التي لا تنتمي إلا شكليًا للشخص المُدونُ اسمه في نهايتها.
وبقدر ما يُسهم الذكاء الاصطناعي في حل كثير من الإشكالات في حياتنا بما يمتلكه من قدرات خارقة تساعد الإنسان والمؤسسات على تحسين الأداء وحل المعضلات والتنبؤ بالمستقبل عبر «أتمتة» المهام والعمليات، إلا أنه ساهم في تقويض مهارات الكتابة الصحفية كوسيلة أصيلة للتعبير عن الأفكار وطرح الرؤى الواقعية التي تساعد المجتمع على تخطي مشكلاته... يتبدى ذلك من خلال تقديم معلومات غير موثوقة كونها لا تمر بأيٍ من عمليات التحقق ولا تقع عليها عين المحرر.
يستسهل حديثو العهد بالعمل الصحفي وممن لا علاقة لهم بعالم الصحافة كتابة مقال أو تقرير أو تحقيق صحفي، فلم يعودوا بحاجة للبحث والتحضير وتعقب المعلومات وهو المنهج الذي ما زال يسير عليه كاتب ما قبل الذكاء الاصطناعي الحريص على تقديم مادة «حية» مُلامِسة للهمّ الإنساني، فبضغطة زر واحدة يمكن الآن لأي صحفي أو من وجد نفسه مصادفة يعمل في مجال الصحافة الحصول على المعلومات والبيانات التي سيتكفل الذكاء الاصطناعي بتوضيبها واختيار نوع هرم تحريرها وحتى طريقة إخراجها ليترك للشخص المحسوب على الصحفيين فقط وضع صورته على رأس المقالة أو التحليل أو العمود وتدوين اسمه أسفله.
إن من أهم أخطار الذكاء الاصطناعي على العمل الصحفي أن الشخص لن يكون مضطرًا للقراءة المعمّقة وتقصي المعلومات والبيانات ولهذا سيظهر عاجزًا عن طرح أفكار «أصلية» تخُصه، فغالبًا ما يقوم الذكاء الاصطناعي بتقديم أفكار «عامة» تعتمد على خوارزميات وبيانات مُخزّنة.. كما أنه لن ينجو من اقتراف جريمة «الانتحال» كون المعلومات التي يزوده بها الذكاء الاصطناعي «مُختلَقة» يصعب تحري صدقيتها وهي في الوقت ذاته «مُتحيزة» وغير موضوعية تأخذ طرفًا واحدًا من الحقيقة وهو بلا شك سبيل لإضعاف مصداقية أي صحفي.
وتقف على رأس قائمة أخطار الاعتماد الكلي على الذكاء الاصطناعي في الكتابة الصحفية ما يقع على القارئ من ضرر، إذ لوحظ أنه يواجه دائمًا صعوبة في استيعاب «السياق» وهي سمة يُفترض أن تُميز بين كاتب صحفي وآخر... كما أنه يُضطر لبذل مجهود ذهني أكبر لاستيعاب عمل «جامد» يركز على كمية المعلومات وليس جودتها، فمن المتعارف عليه أن المادة وليدة العقل البشري تتصف بالمرونة والحيوية والعُمق والذكاء العاطفي ووضوح الهدف.
لقد بات ظهور أشخاص يمتهنون الصحافة كوظيفة وهم يفتقرون للموهبة والأدوات خطرًا يُحِدق بهذه المهنة في ظل ما يتيحه الذكاء الاصطناعي من قدرات فائقة على صناعة مواد عالية الجودة في زمن قياسي رغم أن القارئ لا يحتاج إلى كثير من الجهد لاكتشاف أن هامش التدخل البشري في المادة المُقدمة له ضئيل للغاية.
بقليل تمحيص يمكن للقارئ استيضاح أن لون المادة التي بين يديه سواء أكانت مقالة أو عمودا أو تقريرا يفتقر إلى «الإبداع والأصالة» وهو ما يؤكد أن الذكاء الاصطناعي لن يحل في يوم من الأيام محل العقل البشري الذي من بين أهم مميزاته قدرته الفائقة على الابتكار والتخيل والإبداع والاستنتاج عالي الدِقة.
النقطة الأخيرة..
رغم التنبؤات التي تُشير إلى ما سيُحدثه الذكاء الاصطناعي من نقلة هائلة على مستوى زيادة الكفاءة والإنتاجية وتوفير الوقت والتكاليف، إلا أنه سيظل عاجزًا عن تقديم أفكار خلّاقة وأصلية علاوة على المردود السلبي المتمثل في تدمير ملَكات الإنسان وإضعاف قدراته الذهنية.
عُمر العبري كاتب عُماني
اتصال هاتفي بين وزير الخارجية والهجرة ووزير خارجية الكويت