احذر من ChatGPT.. دراسة تؤكد: يخدعك بنتائج مضللة ولا يمكن الاعتماد عليه
تاريخ النشر: 28th, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أفادت دراسة نشرت في صحيفة “The Guardian” البريطانية، عن أن شات جي بي تي Search، وهو محرك بحث يعمل بالذكاء الاصطناعي تم إطلاقه مجددا ، يمكن خداعه لتوليد معلومات مضللة تماما.
وأضاف الباحثون، أن ميزة البحث في ChatGPT، تهدف إلى جعل التصفح أسرع من خلال الرد علي أسئلة أو بيانات هامة تخص المستخدم مثل تلخيص مراجعات منتجات صفحة الويب، لكن The Gardin وجدت أنه من المحتمل أن لايستجيب ChatGPT ، لنتائج سلبية وينتج ملخصات أو معلومات "إيجابية تماما" عن طريق إنشاء نص مخفي في مواقع الويب التي أنشأها ، إلى أنه يمكن جعل ChatGPT Search يخرج كودا ضارا باستخدام هذه الطريقة.
مما تعد مثل هذه الهجمات النصية المخفية خطرا مؤكدا لنماذج اللغة الكبيرة، ولكن يبدو أن هذه هي أول مرة التي يتم فيها تأكيد ذلك على منتج بحث مباشر يعمل بالذكاء الاصطناعي.
حتي لم ترد OpenAI على هذه الحادثة المحددة عندما تواصلت معها TechCrunch لكنها قالت إنها تستخدم مجموعة مختلفة من الطرق لحظر المواقع الضارة وتحديث باستمرار.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي محرك بحث معلومات مضللة مواقع الويب شات جي بي تي هجمات الباحثون تصفح تحديث مراجعات مستخدم
إقرأ أيضاً:
DeepSeek تطلق نموذج ذكاء اصطناعي يتفوق على ChatGPT
أطلقت شركة الذكاء الاصطناعي الصينية DeepSeek أحدث نموذج لغوي لها، تحت اسم DeepSeek-V3، والذي يقول مراقبو الصناعة إنه أحد أقوى النماذج مفتوحة المصدر حتى الآن.
ووفقا لـ TechCrunch، فأن نموذج اللغة DeepSeek-V3 يسمح للمطورين بتنزيله وتعديله لمختلف التطبيقات، بما في ذلك الاستخدام التجاري والمؤسسي.
يحتوي نموذج الذكاء الاصطناعي الصيني على 671 مليار معلمة، مع 37 مليارا مفعلا لكل رمز مميز تتم معالجته، حيث يستخدم بنيات متقدمة تقول الشركة إنها تعزز أدائها العام.
وهو قادر على التعامل مع مجموعة من المهام المستندة إلى النصوص مثل البرمجة والترجمة وكتابة المقالات أو رسائل البريد الإلكتروني من المطالبات الوصفية، وقد تجاوز DeepSeek V3 نماذج الذكاء الاصطناعي المفتوحة والمغلقة في الأداء، وفقا للاختبار الداخلي للشركة.
ويتفوق هذا النموذج على أنظمة الذكاء الاصطناعي الأخرى، بما في ذلك نموذج “ميتا” Llama 3.1، وGPT-4 من OpenAI، وQwen 2.5 من على بابا، في مجموعة فرعية من مسابقات البرمجة على منصة Codeforces.
تم تدريب هذا النموذج على مجموعة بيانات ضخمة مكونة من 14.8 تريليون رمز، مع مليون رمز يعادل حوالي 750,000 كلمة.
ومع ذلك، يجب على الشركات أن تضع في اعتبارها أنه على الرغم من أن حجم DeepSeek V3 يوفر أداءً قويا، إلا أنه يتطلب أيضا أجهزة كبيرة لتشغيله بكفاءة، قد تتطلب النسخة غير المحسنة بنكا من وحدات معالجة الرسومات المتطورة للتعامل مع المهام بسرعة معقولة.
على الرغم من ذلك، فإن تطوير النموذج يتميز بكفاءته، حيث قام DeepSeek بتدريب DeepSeek V3 باستخدام وحدات معالجة الرسوميات Nvidia H800 في شهرين فقط، بتكلفة إجمالية قدرها 5.5 مليون دولار، وهذا جزء بسيط من تكلفة نماذج التدريب مثل GPT-4 التابع لشركة OpenAI.
يمثل DeepSeek V3 تقدما في تطوير نموذج الذكاء الاصطناعي يستحق المتابعة، على الرغم من أن تطبيقه العملي محدود بسبب قيود الأجهزة، فهو يقدم كفاءة استثنائية، إذ إن تكلفة الإدخال في هذا النموذج أقل بعشر مرات من تكلفة النماذج الرائدة الأخرى، مثل تلك التي تقدمها OpenAI.
ويتوفر نموذج الذكاء الاصطناعي DeepSeek-V3 للتنزيل عبر منصتي GitHub و HuggingFace.
رئيس مركز بلاط بالوادي الجديد يناقش مشاكل المواطنين بمسجد الشوش البحري|صور