مخاوف أمنية من ChatGPT: خطر التلاعب بمحتوى البحث والتأثير على النتائج
تاريخ النشر: 1st, January 2025 GMT
كشف تحقيق أجرته صحيفة الجارديان أن أداة البحث ChatGPT من OpenAI قد تكون عرضة للتلاعب باستخدام محتوى مخفي، مما يمكن أن يؤثر على استجابتها ويعرضها لخطر إرجاع تعليمات برمجية ضارة وخاطئة.
يعكس هذا التحقيق المخاوف الأمنية التي قد تواجه المستخدمين، خاصة عندما يتم استخدام ChatGPT لأغراض بحثية.
التلاعب بمحتوى البحثفي محاولة لاختبار استجابة ChatGPT لمحتوى مخفي، قامت الصحيفة بتوجيه أسئلة تتعلق بمحتوى صفحات ويب تحتوي على معلومات مخفية.
يظهر التحقيق أنه في حال كان النص المخفي يتضمن تعليمات من أطراف ثالثة، قد يتم تغيير استجابة ChatGPT بناءً على هذه التعليمات.
هذه التقنيات قد تتيح تأثيرًا ضارًا، مثل جعل ChatGPT يعيد تقييمًا إيجابيًا لمنتج ما على الرغم من وجود مراجعات سلبية له.
عند منح ChatGPT عنوان URL لموقع ويب مزيف مخصص لمنتج كاميرا، كانت استجابتها متوازنة وتوضح بعض المزايا والعيوب المحتملة.
ومع ذلك، عندما كان النص المخفي يتضمن تعليمات لجعل الإجابة إيجابية، كان ChatGPT يعطي تقييمًا إيجابيًا، متجاهلًا المراجعات السلبية التي كانت موجودة على نفس الصفحة.
التعليمات البرمجية الضارةبالإضافة إلى تأثيرات التلاعب بالمراجعات، أظهر التحقيق أن ChatGPT قد يعيد أيضًا تعليمات برمجية ضارة في بعض الحالات.
تم العثور على هذه المشكلة عندما قامت الأداة بالبحث في مواقع الويب، حيث كانت تتفاعل مع محتوى قد يحتوي على تعليمات برمجية خطيرة.
وقد أظهرت اختبارات أن إدراج النص المخفي داخل صفحات الويب قد يكون له تأثير كبير على كيفية تلخيص ChatGPT للصفحات، مما قد يؤدي إلى تقييمات غير دقيقة أو غير موثوقة.
التحذيرات الأمنيةفي تصريحاته، قال جاكوب لارسن، الباحث في مجال الأمن السيبراني بشركة CyberCX، إنه يعتقد أن النظام قد يشكل "خطرًا كبيرًا" إذا تم إطلاقه بشكل كامل في حالته الحالية، وأوضح أن الأشخاص قد ينشئون مواقع ويب مخصصة للتلاعب في نتائج ChatGPT، مما يعرض المستخدمين لمخاطر كبيرة.
ومع ذلك، أضاف لارسن أن وظيفة البحث في ChatGPT لم تُطلق بعد بشكل كامل، وهي متاحة حاليًا فقط للمستخدمين المتميزين، وأكد أن OpenAI ستعمل على اختبار وإصلاح هذه المشكلات الأمنية لضمان سلامة النظام قبل إطلاقه الكامل.
المصدر: بوابة الفجر
كلمات دلالية: الأمن السيبراني مخاوف أمنية تقييم المنتجات
إقرأ أيضاً:
دراسة: القهوة والشاي قد يحدان من خطر الإصابة بسرطانات الرأس والعنق
توصلت دراسة علمية جديدة إلى أن تناول بعض المشروبات الساخنة، مثل القهوة والشاي، قد يقلل من خطر الإصابة بأنواع معينة من السرطان التي تصيب منطقة الرأس والعنق، مما يفتح الباب أمام فهم أعمق للعلاقة بين هذه المشروبات والصحة العامة.
وأجرى فريق من الباحثين في كلية الطب بجامعة يوتاه الأمريكية دراسة شاملة، حللوا فيها نتائج 14 دراسة سابقة شملت بيانات أكثر من 25 ألف متطوع بالغ، بينهم مرضى وأشخاص أصحاء.
وخلال الدراسة، تم جمع معلومات تفصيلية حول استهلاك المشاركين للقهوة والشاي، بما في ذلك عدد الأكواب التي يتناولونها يوميا وشهريا وسنويا، مع التمييز بين المشروبات التي تحتوي على الكافيين وتلك الخالية منه.
وأظهرت النتائج أن تناول أربعة أكواب يوميا من القهوة المحتوية على الكافيين يرتبط بانخفاض واضح في خطر الإصابة بسرطانات الرأس والعنق.
وأوضحت البيانات أن هذا الاستهلاك يقلل خطر الإصابة بسرطان الفم بنسبة تصل إلى 30%، في حين انخفض خطر الإصابة بسرطان الحلق بنسبة 22%. كما أظهرت الدراسة أن القهوة الخالية من الكافيين لها تأثير إيجابي أيضًا، إذ تبين أنها تقلل خطر الإصابة بسرطان الفم بنسبة 25%.
أما الشاي، فقد أظهرت الدراسة أنه يلعب دورا ملحوظا في الحد من خطر الإصابة بسرطان الجزء الخلفي من الحلق. وبيّنت النتائج أن تناول كوب واحد أو أقل يوميا من الشاي يمكن أن يقلل احتمالية الإصابة بسرطانات الرأس والعنق بنسبة تصل إلى 9%.
ونقل موقع "هيلث داي"، المختص في الأبحاث الطبية، تصريحات للباحثين المشاركين في الدراسة، أشاروا فيها إلى أن "عادات تناول القهوة والشاي تبدو معقدة ومتداخلة، مما يجعل هذه النتائج مثيرة للاهتمام، لكنها تتطلب المزيد من التعمق والبحث".
وأضافوا أن "الدراسة الحالية تؤكد الحاجة إلى إجراء أبحاث إضافية وجمع مزيد من البيانات حول التأثير المحتمل لهذه المشروبات على الوقاية من السرطان".
تأتي هذه النتائج كخطوة مهمة لفهم العلاقة بين المشروبات اليومية الشائعة وصحة الإنسان، ما يعزز الحاجة إلى التوعية بعادات تناول المشروبات الساخنة ودورها المحتمل في الوقاية من أمراض خطيرة مثل السرطان.
برنامج أمير الشعراء يختتم المرحلة الأولى من الموسم الـ11