مخاوف أمنية من ChatGPT: خطر التلاعب بمحتوى البحث والتأثير على النتائج
تاريخ النشر: 1st, January 2025 GMT
كشف تحقيق أجرته صحيفة الجارديان أن أداة البحث ChatGPT من OpenAI قد تكون عرضة للتلاعب باستخدام محتوى مخفي، مما يمكن أن يؤثر على استجابتها ويعرضها لخطر إرجاع تعليمات برمجية ضارة وخاطئة.
يعكس هذا التحقيق المخاوف الأمنية التي قد تواجه المستخدمين، خاصة عندما يتم استخدام ChatGPT لأغراض بحثية.
التلاعب بمحتوى البحثفي محاولة لاختبار استجابة ChatGPT لمحتوى مخفي، قامت الصحيفة بتوجيه أسئلة تتعلق بمحتوى صفحات ويب تحتوي على معلومات مخفية.
يظهر التحقيق أنه في حال كان النص المخفي يتضمن تعليمات من أطراف ثالثة، قد يتم تغيير استجابة ChatGPT بناءً على هذه التعليمات.
هذه التقنيات قد تتيح تأثيرًا ضارًا، مثل جعل ChatGPT يعيد تقييمًا إيجابيًا لمنتج ما على الرغم من وجود مراجعات سلبية له.
عند منح ChatGPT عنوان URL لموقع ويب مزيف مخصص لمنتج كاميرا، كانت استجابتها متوازنة وتوضح بعض المزايا والعيوب المحتملة.
ومع ذلك، عندما كان النص المخفي يتضمن تعليمات لجعل الإجابة إيجابية، كان ChatGPT يعطي تقييمًا إيجابيًا، متجاهلًا المراجعات السلبية التي كانت موجودة على نفس الصفحة.
التعليمات البرمجية الضارةبالإضافة إلى تأثيرات التلاعب بالمراجعات، أظهر التحقيق أن ChatGPT قد يعيد أيضًا تعليمات برمجية ضارة في بعض الحالات.
تم العثور على هذه المشكلة عندما قامت الأداة بالبحث في مواقع الويب، حيث كانت تتفاعل مع محتوى قد يحتوي على تعليمات برمجية خطيرة.
وقد أظهرت اختبارات أن إدراج النص المخفي داخل صفحات الويب قد يكون له تأثير كبير على كيفية تلخيص ChatGPT للصفحات، مما قد يؤدي إلى تقييمات غير دقيقة أو غير موثوقة.
التحذيرات الأمنيةفي تصريحاته، قال جاكوب لارسن، الباحث في مجال الأمن السيبراني بشركة CyberCX، إنه يعتقد أن النظام قد يشكل "خطرًا كبيرًا" إذا تم إطلاقه بشكل كامل في حالته الحالية، وأوضح أن الأشخاص قد ينشئون مواقع ويب مخصصة للتلاعب في نتائج ChatGPT، مما يعرض المستخدمين لمخاطر كبيرة.
ومع ذلك، أضاف لارسن أن وظيفة البحث في ChatGPT لم تُطلق بعد بشكل كامل، وهي متاحة حاليًا فقط للمستخدمين المتميزين، وأكد أن OpenAI ستعمل على اختبار وإصلاح هذه المشكلات الأمنية لضمان سلامة النظام قبل إطلاقه الكامل.
المصدر: بوابة الفجر
كلمات دلالية: الأمن السيبراني مخاوف أمنية تقييم المنتجات
إقرأ أيضاً:
آليات جديدة لتوزيع الأسمدة ومنع التلاعب في السوق السوداء
أكد الدكتور علاء فاروق، وزير الزراعة واستصلاح الأراضي، عدم وجود أي نقص في الأسمدة خلال الفترة الحالية، موضحًا أن المخزون المتوفر في الجمعيات الزراعية يتجاوز 150 ألف طن.
وأشار فاروق في تصريحات تلفزيونية إلى التزام شركات الأسمدة بتسليم حصة وزارة الزراعة وفق جدول زمني محدد.
وأوضح الوزير أنه تم تعديل آلية توزيع الأسمدة لضمان تحقيق العدالة بين المزارعين، لافتًا إلى زيادة المساحات المزروعة بالقمح هذا الموسم، حيث بلغت 3 ملايين و333 ألف فدان، بزيادة قدرها 150 ألف فدان مقارنة بالعام الماضي.
وأضاف أن حصة الأسمدة المخصصة لكل فدان تبلغ أربع شكاير، يتم تسليمها تدريجيًا مع عمليات التسميد والري، وفق خطة يتم إعدادها بالتنسيق مع الجمعيات الزراعية، مؤكدًا عدم وجود أي تقصير حكومي في دعم المزارعين.
دور الدولة في توفير الأسمدة لدعم القطاع الزراعي :
تولي الدولة اهتمامًا كبيرًا بقطاع الزراعة باعتباره أحد الركائز الأساسية لتحقيق الأمن الغذائي والتنمية المستدامة، ومن هذا المنطلق، تعمل الحكومة على توفير الأسمدة للمزارعين بأسعار مدعمة، لضمان زيادة الإنتاجية الزراعية وتقليل تكاليف الزراعة.
إجراءات حكومية لضمان توافر الأسمدة:
اتخذت الدولة عدة إجراءات لضمان عدم وجود نقص في الأسمدة، حيث تعمل وزارة الزراعة واستصلاح الأراضي بالتنسيق مع شركات إنتاج الأسمدة لتوفير الحصص المقررة للجمعيات الزراعية وفق جدول زمني محدد، كما تمتلك الجمعيات مخزونًا استراتيجيًا يقدر بعشرات الآلاف من الأطنان، ما يضمن استقرار السوق وتوفير احتياجات الفلاحين.
آلية توزيع عادلة للمزارعين:
حرصت الحكومة على تطوير نظام توزيع الأسمدة لضمان العدالة بين المزارعين، حيث يتم تسليم الحصص وفقًا للمساحات المزروعة واحتياجات كل فدان. وتتم عمليات التوزيع عبر الجمعيات الزراعية لضمان وصول الدعم إلى مستحقيه، ومنع أي تلاعب في الأسعار أو السوق السوداء.
زيادة المساحات المزروعة وتحسين الإنتاجية:
شهدت المساحات المزروعة بالمحاصيل الاستراتيجية، مثل القمح، زيادة ملحوظة بفضل توفير الأسمدة والمستلزمات الزراعية في الوقت المناسب.
وأعلنت وزارة الزراعة عن ارتفاع مساحة الأراضي المزروعة بالقمح إلى أكثر من 3.3 مليون فدان هذا العام، بزيادة كبيرة عن العام الماضي، ما يعكس نجاح الجهود الحكومية في دعم القطاع الزراعي.
التنسيق بين الجهات المعنية:
تعمل الحكومة على وضع خطط متكاملة للتسميد والري بالتعاون مع الجمعيات الزراعية والجهات البحثية لضمان الاستخدام الأمثل للأسمدة، بما يسهم في تحسين جودة المحاصيل وزيادة الإنتاج، و كما يتم مراقبة الأسواق لضمان عدم حدوث أي تلاعب أو احتكار يؤثر على المزارعين.
دعم مستمر للفلاحين:
إلى جانب توفير الأسمدة، تقدم الدولة حزمًا من الدعم للمزارعين تشمل الإرشاد الزراعي، وتقديم قروض ميسرة، وتشجيع استخدام الأساليب الحديثة في الزراعة لرفع كفاءة الإنتاج.
غرامي 2025.. هل أخطأت سابرينا كاربنتر في أدائها على المسرح؟