تحذير عاجل من الإفراط في استعمال ChatGPT
تاريخ النشر: 14th, August 2023 GMT
حذرت جهات متخصصة في الأمن السيبراني من الإفراط في استخدام روبوت الدردشة الذي يقدم إجابات سريعة ومطولة "ChatGPT"، وذلك بعد استطلاع رأي أظهر تنامي الاعتماد عليه لدى الموظفين.
وكشف استطلاع للرأي أجري في الولايات المتحدة عن تنامي استخدام الروبوت "ChatGPT" في البيئة العمل، علما بأن الاستطلاع أجري بين 11و 17 يوليو الماضي وشمل 2625 شخصا.
وكانت نتائج الاستطلاع على النحو التالي:
28 بالمئة من إجمالي المشاركين في الاستطلاع قالوا إنهم يستخدمون روبوت الدردشة المدعوم بالذكاء الاصطناعي في العمل غالبا.
25 بالمئة من المشاركين في الاستطلاع قالوا إنهم لا يعرفون إن كان أرباب العمل يسمحون لهم باستخدام الروبوت أم لا.
10 بالمئة فقط قالوا إن أرباب العمل طالبوهم تحديدا بعدم استخدام تقنيات الذكاء الاصطناعي الخارجية في العمل.
قال المشاركون في الاستطلاع إنهم يستعلمون الروبوت من أجل المساعدة في أداء المهام البسيطة مثل كتابة رسالة بالبريد الإلكتروني.
وكانت المخاوف الأمنية بشأن الروبوت "ChatGPT" قد دفعت العديد من الشركات العملاقة مثل "مايكروسوفت" و"غوغل" إلى الحد من استخدمه.
ويقول موقع "geo" إن العديد من المجموعة المختصة بالأمن السيبراني والشركات قد أعربت عن مخاوفها بشأن احتمال تسريب معلومات تخص الشؤون الاستراتيجية والملكية الفكرية.
وكانت شركة "أوبن آي" الأميركية، التي تطور الروبوت، أكدت في مارس الماضي أن هناك ثغرة حدثت فيه، هددت خصوصية المستخدمين.
وأوضحت أن الثغرة تكشف سجل الموضوعات التي طرحها المستخدمون أثناء استعمالهم للروبوت للآخرين، وهو أمر ما كان يجب أن يحدث.
وأرجع المدير التنفيذي للشركة، سام ألتمان، الثغرة إلى مشكلة في مصدر بمكتبة المصادر المفتوحة، التي يعتمد عليها الروبوت.
عن سكاي نيوز عربيةالمصدر: أخبارنا
إقرأ أيضاً:
مخاوف أمنية من ChatGPT: خطر التلاعب بمحتوى البحث والتأثير على النتائج
كشف تحقيق أجرته صحيفة الجارديان أن أداة البحث ChatGPT من OpenAI قد تكون عرضة للتلاعب باستخدام محتوى مخفي، مما يمكن أن يؤثر على استجابتها ويعرضها لخطر إرجاع تعليمات برمجية ضارة وخاطئة.
يعكس هذا التحقيق المخاوف الأمنية التي قد تواجه المستخدمين، خاصة عندما يتم استخدام ChatGPT لأغراض بحثية.
التلاعب بمحتوى البحثفي محاولة لاختبار استجابة ChatGPT لمحتوى مخفي، قامت الصحيفة بتوجيه أسئلة تتعلق بمحتوى صفحات ويب تحتوي على معلومات مخفية.
يظهر التحقيق أنه في حال كان النص المخفي يتضمن تعليمات من أطراف ثالثة، قد يتم تغيير استجابة ChatGPT بناءً على هذه التعليمات.
هذه التقنيات قد تتيح تأثيرًا ضارًا، مثل جعل ChatGPT يعيد تقييمًا إيجابيًا لمنتج ما على الرغم من وجود مراجعات سلبية له.
عند منح ChatGPT عنوان URL لموقع ويب مزيف مخصص لمنتج كاميرا، كانت استجابتها متوازنة وتوضح بعض المزايا والعيوب المحتملة.
ومع ذلك، عندما كان النص المخفي يتضمن تعليمات لجعل الإجابة إيجابية، كان ChatGPT يعطي تقييمًا إيجابيًا، متجاهلًا المراجعات السلبية التي كانت موجودة على نفس الصفحة.
التعليمات البرمجية الضارةبالإضافة إلى تأثيرات التلاعب بالمراجعات، أظهر التحقيق أن ChatGPT قد يعيد أيضًا تعليمات برمجية ضارة في بعض الحالات.
تم العثور على هذه المشكلة عندما قامت الأداة بالبحث في مواقع الويب، حيث كانت تتفاعل مع محتوى قد يحتوي على تعليمات برمجية خطيرة.
وقد أظهرت اختبارات أن إدراج النص المخفي داخل صفحات الويب قد يكون له تأثير كبير على كيفية تلخيص ChatGPT للصفحات، مما قد يؤدي إلى تقييمات غير دقيقة أو غير موثوقة.
التحذيرات الأمنيةفي تصريحاته، قال جاكوب لارسن، الباحث في مجال الأمن السيبراني بشركة CyberCX، إنه يعتقد أن النظام قد يشكل "خطرًا كبيرًا" إذا تم إطلاقه بشكل كامل في حالته الحالية، وأوضح أن الأشخاص قد ينشئون مواقع ويب مخصصة للتلاعب في نتائج ChatGPT، مما يعرض المستخدمين لمخاطر كبيرة.
ومع ذلك، أضاف لارسن أن وظيفة البحث في ChatGPT لم تُطلق بعد بشكل كامل، وهي متاحة حاليًا فقط للمستخدمين المتميزين، وأكد أن OpenAI ستعمل على اختبار وإصلاح هذه المشكلات الأمنية لضمان سلامة النظام قبل إطلاقه الكامل.
مبادرة شغف لدمج الأشخاص ذوي الاعاقة وتمكينهم في عالم الثقافة والفن محليا ودوليا