مخاوف أمنية من ChatGPT: خطر التلاعب بمحتوى البحث والتأثير على النتائج
تاريخ النشر: 1st, January 2025 GMT
كشف تحقيق أجرته صحيفة الجارديان أن أداة البحث ChatGPT من OpenAI قد تكون عرضة للتلاعب باستخدام محتوى مخفي، مما يمكن أن يؤثر على استجابتها ويعرضها لخطر إرجاع تعليمات برمجية ضارة وخاطئة.
يعكس هذا التحقيق المخاوف الأمنية التي قد تواجه المستخدمين، خاصة عندما يتم استخدام ChatGPT لأغراض بحثية.
التلاعب بمحتوى البحثفي محاولة لاختبار استجابة ChatGPT لمحتوى مخفي، قامت الصحيفة بتوجيه أسئلة تتعلق بمحتوى صفحات ويب تحتوي على معلومات مخفية.
يظهر التحقيق أنه في حال كان النص المخفي يتضمن تعليمات من أطراف ثالثة، قد يتم تغيير استجابة ChatGPT بناءً على هذه التعليمات.
هذه التقنيات قد تتيح تأثيرًا ضارًا، مثل جعل ChatGPT يعيد تقييمًا إيجابيًا لمنتج ما على الرغم من وجود مراجعات سلبية له.
عند منح ChatGPT عنوان URL لموقع ويب مزيف مخصص لمنتج كاميرا، كانت استجابتها متوازنة وتوضح بعض المزايا والعيوب المحتملة.
ومع ذلك، عندما كان النص المخفي يتضمن تعليمات لجعل الإجابة إيجابية، كان ChatGPT يعطي تقييمًا إيجابيًا، متجاهلًا المراجعات السلبية التي كانت موجودة على نفس الصفحة.
التعليمات البرمجية الضارةبالإضافة إلى تأثيرات التلاعب بالمراجعات، أظهر التحقيق أن ChatGPT قد يعيد أيضًا تعليمات برمجية ضارة في بعض الحالات.
تم العثور على هذه المشكلة عندما قامت الأداة بالبحث في مواقع الويب، حيث كانت تتفاعل مع محتوى قد يحتوي على تعليمات برمجية خطيرة.
وقد أظهرت اختبارات أن إدراج النص المخفي داخل صفحات الويب قد يكون له تأثير كبير على كيفية تلخيص ChatGPT للصفحات، مما قد يؤدي إلى تقييمات غير دقيقة أو غير موثوقة.
التحذيرات الأمنيةفي تصريحاته، قال جاكوب لارسن، الباحث في مجال الأمن السيبراني بشركة CyberCX، إنه يعتقد أن النظام قد يشكل "خطرًا كبيرًا" إذا تم إطلاقه بشكل كامل في حالته الحالية، وأوضح أن الأشخاص قد ينشئون مواقع ويب مخصصة للتلاعب في نتائج ChatGPT، مما يعرض المستخدمين لمخاطر كبيرة.
ومع ذلك، أضاف لارسن أن وظيفة البحث في ChatGPT لم تُطلق بعد بشكل كامل، وهي متاحة حاليًا فقط للمستخدمين المتميزين، وأكد أن OpenAI ستعمل على اختبار وإصلاح هذه المشكلات الأمنية لضمان سلامة النظام قبل إطلاقه الكامل.
المصدر: بوابة الفجر
كلمات دلالية: الأمن السيبراني مخاوف أمنية تقييم المنتجات
إقرأ أيضاً:
دراسة: البلاستيك الدقيق قد يسبب اضطرابات عقلية وحركية خطيرة
#سواليف
كشفت دراسة حديثة عن ارتباط ارتفاع مستويات #البلاستيك_الدقيق في المياه بزيادة #خطر الإصابة بالإعاقات الجسدية والعقلية، ما يثير القلق بشأن تأثير هذه الجسيمات المجهرية على #صحة_الإنسان.
أجرى فريق من الباحثين تحليلا شمل أكثر من 200 موقع ساحلي في الولايات المتحدة، حيث قارنوا تركيز البلاستيك الدقيق في مياه البحر مع معدلات الإعاقات بين السكان، ووجدوا أن المناطق ذات المستويات الأعلى من التلوث البلاستيكي تسجل نسبا أكبر من المشاكل الصحية.
وأظهرت النتائج أن الأشخاص الذين يعيشون في هذه المناطق أكثر عرضة بنسبة 16% للإصابة بإعاقة تمنعهم من العناية بأنفسهم، كما ارتفع خطر إصابتهم بمشاكل عقلية تؤثر على #التفكير و #الذاكرة بنسبة 9%، وزادت احتمالية تعرضهم لإعاقات حركية بنسبة 6%.
مقالات ذات صلةورغم أن الدراسة لا تثبت بشكل قاطع أن البلاستيك الدقيق هو السبب المباشر لهذه المشكلات، إلا أن الباحثين أشاروا إلى أن هذه العلاقة ظلت قائمة حتى بعد أخذ عوامل أخرى في الاعتبار، مثل أمراض القلب والسكتات الدماغية.
وأوضح الدكتور سارجو غاناترا، من مستشفى لاهاي والمركز الطبي في بيرلينغتون بولاية ماساتشوستس، أن هذه النتائج تقدم رؤية جديدة حول كيفية تأثير الجسيمات البلاستيكية الدقيقة على صحة الدماغ والجهاز العصبي. وأضاف أن معالجة هذه المشكلة قد تكون معقدة بسبب اختلاف توزيع البلاستيك في المياه، نتيجة للتيارات المحيطية والعوامل البيئية الأخرى.
وتعزز هذه النتائج القلق المتزايد بشأن المخاطر الصحية للبلاستيك الدقيق، إذ كشفت أبحاث سابقة عن ارتفاع مستوياته في أدمغة البشر على مدى السنوات الأخيرة. ففي دراسة حديثة، وُجد أن أدمغة المتوفين في عام 2024 تحتوي على بلاستيك دقيق بنسبة 50% أكثر مقارنة بعام 2016. كما أشارت دراسة صينية إلى أن هذه الجسيمات قد تسبب جلطات دموية في الدماغ، ما يزيد من خطر الإصابة بالسكتات الدماغية والأمراض النفسية مثل الاكتئاب.
ومع استمرار انتشار البلاستيك الدقيق في الهواء والماء والغذاء والملابس وحتى في أنسجة الجسم البشري، تتزايد الحاجة إلى دراسات أعمق لفهم تأثيراته الصحية طويلة الأمد.
من المقرر أن تعرض النتائج الكاملة لهذه الدراسة في الاجتماع السنوي الـ77 للأكاديمية الأمريكية لعلم الأعصاب في أبريل المقبل.
حالة الطقس ودرجات الحرارة المتوقعة اليوم الخميس 6 مارس 2025