احذر من ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه
تاريخ النشر: 28th, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أفادت دراسة نشرت في صحيفة “The Guardian” البريطانية، عن أن شات جي بي تي Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه مجددا ، يمكن خداعه لتوليد معلومات مضللة تماما.
وأضاف الباحثون، أن ميزة البحث في ChatGPT، تهدف إلى جعل التصفح أسرع من خلال الرد علي أسئلة أو بيانات هامة تخص المستخدم مثل تلخيص مراجعات منتجات صفحة الويب، لكن The Gardin وجدت أنه من المحتمل أن لايستجيب ChatGPT ، لنتائج سلبية وينتج ملخصات أو معلومات "إيجابية تماما" عن طريق إنشاء نص مخفي في مواقع الويب التي أنشأها ، إلى أنه يمكن جعل ChatGPT Search يخرج كودا ضارا باستخدام هذه الطريقة.
مما تعد مثل هذه الهجمات النصية المخفية خطرا مؤكدا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي أول مرة التي يتم فيها تأكيد ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
حتي لم ترد OpenAI على هذه الحادثة المحددة عندما تواصلت معها TechCrunch لكنها قالت إنها تستخدم مجموعة مختلفة من الطرق لحظر المواقع الضارة وتحديث باستمرار.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي محرك بحث معلومات مضللة مواقع الويب شات جي بي تي هجمات الباحثون تصفح تحديث مراجعات مستخدم
إقرأ أيضاً:
إعلان الفائزين عن المرحلة الإعدادية بنتائج تصفيات «نحلة التهجي» بكفر الشيخ
أُقيمت التصفيات النهائية لمسابقة المشروع القومي «نحلة التهجي» على مستوى منطقة كفر الشيخ الأزهرية، لليوم الثاني على التوالي، والذي تم تخصيصه لمتسابقي صفوف المرحلة الإعدادية، وذلك تحت رعاية وتوجيهات الدكتور عبدالناصر شهاوي، رئيس الإدارة المركزية للمنطقة، وحضور حسام رجب، الوكيل الثقافي للمنطقة، وضمن البرامج التعليمية التي أطلقها قطاع المعاهد الأزهرية، بالتعاون مع المكتب الإقليمي للغة الإنجليزية.
اختبار الطالب في مجموعة من الكلمات الخاصة بمنهج اللغة الإنجليزيةومن جانبه، أشار محمد عون، موجه عام اللغة الإنجليزية بمنطقة كفر الشيخ الأزهرية، إلى أنّ المسابقة تُعقد فعالياتها بمعهد فتيات كفر الشيخ الإعدادي، وإجراءاتها عبارة عن اختبار الطالب في مجموعة من الكلمات الخاصة بمنهجه، لافتًا إلى أنّه تم تدريب الطلاب سابقًا على نطق الكلمات نطقًا صحيحًا باللهجة الأمريكية «American Accent»، وسيتم تصعيد الطلاب الفائزين من تصفيات المنطقة لحضور التصفيات على مستوى مناطق الجمهورية التي سيُعد لها لاحقًا، وذلك في إطار حرص الأزهر الشريف على تنمية مهارات أبنائه بالمعاهد الأزهرية، وتعزيز روح المنافسة بينهم.
وبذات السياق، أفادت الدكتورة لبنى شمس الدين، منسق المبادرة بمنطقة كفر الشيخ الأزهرية، بأنّ اختبارات اليوم الثاني للمسابقة جاءت للمشاركين من صفوف المرحلة الإعدادية على مستوى معاهد إدارات المنطقة، حيث تم تصعيد طالبين عن كل صف دراسي من الصفوف الثلاثة، لافتةً إلى استمرار هذه التصفيات حتى نهاية الأسبوع الجاري لاستكمال اختبارات مرحلتي رياض الأطفال والمرحلة الثانوية، وباقي صفوف المرحلة الابتدائية.
نتائج التصفياتوأسفرت نتائج اليوم عن فوز كل من: الطالبة حفصة محمد السيد، من إدارة دسوق التعليمية الأزهرية، والطالب مصطفى إبراهيم منصور، من إدارة سيدي سالم التعليمية الأزهرية، بالمراكز الأولى عن الصف الأول الإعدادي، كما حصل الطالبان أحمد محمد السقا، وأنس السيد قاسم، من إدارة كفر الشيخ التعليمية الأزهرية، على المراكز الأولى عن الصف الثاني الإعدادي، بينما حصد المركز الأول عن الصف الثالث الإعدادي، الطالبان مسعد حامد، من إدارة الحامول التعليمية الأزهرية، والطالبة نور محمد إسماعيل، من إدارة سيدي سالم التعليمية الأزهرية.
وكيل إمارة الرياض المساعد للحقوق يحضر حفل سفارة جمهورية اتحاد ميانمار بمناسبة اليوم الوطني لبلادها