دراسة: تطبيقات الكشف عن النصوص المنتجة بالذكاء الاصطناعي متحيزة وغير دقيقة الحياة
تاريخ النشر: 16th, July 2023 GMT
الحياة، دراسة تطبيقات الكشف عن النصوص المنتجة بالذكاء الاصطناعي متحيزة وغير دقيقة،أظهرت دراسة أجراها باحثون في جامعة ستانفورد الأمريكية أن تطبيقات وبرامج الكشف عن .،عبر صحافة السعودية، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر دراسة: تطبيقات الكشف عن النصوص المنتجة بالذكاء الاصطناعي متحيزة وغير دقيقة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
أظهرت دراسة أجراها باحثون في جامعة ستانفورد الأمريكية أن تطبيقات وبرامج الكشف عن النصوص التي أعدتها تطبيقات الذكاء الاصطناعي، متحيزة ونتائجها غير دقيقة.
وأشار موقع "CNET" المتخصص في موضوعات التكنولوجيا، إلى توصل فريق البحث إلى أن أغلب تطبيقات اكتشاف إنتاج الذكاء الاصطناعي مثل "شات جي.بي.تي"، فشلت في الوصول إلى نتائج دقيقة، وأنها تصنف النصوص الإنجليزية التي يكتبها بشر، لا تعد الإنجليزية لغتهم الأم، باعتبارها من إنتاج تطبيق ذكاء اصطناعي، وهو ما يظهر محدودية قيمة عمل هذه التطبيقات.
تجربة للقياساستخدم الباحثون 91 مقالة من إعداد طلاب يخوضون امتحان اللغة الإنجليزية "تويفل" من أحد المنتديات الصينية، و88 مقالة كتبها أمريكيون يدرسون في الصف الثامن.
وفحص الباحثون هذه المقالات من خلال 7 تطبيقات لاكتشاف إنتاج "شات جي.بي.تي"، وبينها تطبيق من إنتاج شركة "أوبن إيه.آي" المطورة لشات جي.بي.تي نفسه.
ووجد الباحثون أن 1ر5% فقط من المقالات التي كتبها الطلاب الأمريكيون، صنفت باعتبارها إنتاج ذكاء اصطناعي، في حين تم تصنيف 61% من مقالات الأجانب الذين كانوا يخوضون اختبار الـ "تويفل" باعتبارها إعداد برنامج ذكاء اصطناعي.
وتشير الدراسات إلى أن الكتاب الذين لا تعتبر اللغة الإنجليزية لغتهم الأم يمتلكون حصيلة لغوية ونحوية محدودة وهو ما يظهر في النصوص التي يكتبونها، ولذلك تعتبرها تطبيقات اكتشاف الذكاء الاصطناعي أنها ليست نصوصا مكتوبة من شخص عادي.
المصدر: صحافة العرب
كلمات دلالية: موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس
إقرأ أيضاً:
Xanthorox AI |ظهور أداة قرصنة مدعومة بالذكاء الاصطناعي تهدّد بتجاوز WormGPT وEvilGPT
في تطور خطير على صعيد تهديدات الأمن السيبراني، ظهرت أداة جديدة تعرف باسم Xanthorox AI في منتديات القراصنة على الديب ويب، وصفت بأنها "قاتلة WormGPT وجميع إصدارات EvilGPT".
وتعد Xanthorox AI الجيل الأحدث من أدوات الذكاء الاصطناعي المستخدمة في الهجمات الإلكترونية، بفضل قدرتها العالية على التخفي، والتخصيص، والتطور الذاتي، مما يجعلها تهديدًا متناميًا للأمن الرقمي العالمي.
نظام مستقل بالكامل خارج رقابة الإنترنتبحسب تقارير صدرت عن منتدى SlashNext المتخصص في الأمن السيبراني، تم رصد Xanthorox AI لأول مرة خلال الربع الأول من عام 2025، حيث يجري الترويج لها على أنها منصة متكاملة للهجمات الإلكترونية، بعكس النماذج الخبيثة السابقة التي اعتمدت على تعديل أنظمة شهيرة مثل GPT من OpenAI أو LLaMA من Meta.
فالأداة الجديدة تم تطويرها من الصفر كنظام مستقل تمامًا، يعمل على خوادم خاصة دون الاعتماد على خدمات السحابة العامة أو واجهات برمجة التطبيقات (APIs)، ما يمنحها مستوىً غير مسبوق من السرّية وصعوبة التتبع.
تتميز Xanthorox AI ببنية معمارية معيارية Modular Architecture تتيح استبدال أو ترقية أي مكون بسهولة، بما يضمن استمرار فعاليتها في مواجهة التحديثات الدفاعية الجديدة.
وتحتوي الأداة على مجموعة من الميزات المتطورة التي تمثل نقلة نوعية في تسليح الذكاء الاصطناعي لصالح مجرمي الإنترنت، من بينها، نماذج لغوية حصرية لا تستند لأي إطار عمل معروف، والقدرة على العمل دون اتصال بالإنترنت، بالضافة إلى دعم لمعالجة الصور والصوت داخليًا، ونموذج آلية حبس بيانات (Data Containment) تمنع تسرب البيانات إلى أطراف خارجية.
وحدات Xanthorox AI.. أدوات اختراق ذكيةتقدم الأداة عدة وحدات مدمجة، كل منها مخصص لمهام قرصنة محددة،مثل Xanthorox Coder، هو مولد برمجي لإنتاج شيفرات خبيثة، تطوير برمجيات الاستغلال (Exploit Development)، وإنشاء سكريبتات مخصصة لمهاجمة ثغرات محددة.
ووحدة Xanthorox Vision، وهي وحدة ذكاء بصري تقوم بتحليل الصور والمستندات الممسوحة ضوئيًا، واستخلاص البيانات منها أو تقديم وصف مفصل لمحتواها، ما يسهل تحليل لقطات الشاشة أو وثائق مسروقة.
ووحدة Xanthorox Reasoner Advanced وهي وحدة محاكاة التفكير البشري، قادرة على إنتاج نصوص منطقية ومقنعة، تستخدم في حملات التصيد الاحتيالي، وهندسة اجتماعية، وحتى التفاوض مع الضحايا.
خبراء الأمن يحذرونقالت شركة SlashNext في تقريرها إن Xanthorox AI تمثل تصعيدًا خطيرًا في مستوى أدوات القرصنة المدعومة بالذكاء الاصطناعي، نظرًا لما تجمعه من قدرات تخصيص مرنة، وخصائص غير متصلة بالإنترنت، ومجموعة مهام هجومية واسعة.
ويحذر باحثو الأمن السيبراني من أن مثل هذه الأدوات تمنح القراصنة استقلالية كبيرة، وتقلل من إمكانية تعقبهم أو تعطيل هجماتهم، ما يرفع من مستوى التهديدات التي تواجهها الشركات والمؤسسات الحكومية وحتى الأفراد.
لماذا تمثل Xanthorox AI خطرًا غير مسبوقيمثل Xanthorox AI خطرًا غير مسبوق لصعوبة الاكتشاف: بسبب عملها دون اتصال بالإنترنت وبعيدًا عن البنية التحتية العامة.
كما يعتمد Xanthorox AI على البنى المغلقة، مما يصعب تحليل شيفرتها أو فهم آلية عملها.
كما يركز هذا النوذج على الذكاء التوليدي، واستخدامه في تطوير سيناريوهات احتيال أكثر إقناعًا وتعقيدًا.
التوصيات للمؤسسات والمستخدمينمن أهم التوصيات للمؤسسات والمستخدمين اولاً تحديث أنظمة الكشف عن البرمجيات الخبيثة لتتبع الأنشطة غير المألوفة داخل الشبكات الداخلية.
ثانياً تفعيل أدوات الحماية متعددة الطبقات (Multi-layered Defense) وتكثيف التدريب على التصيد الاحتيالي.
ثالثاً متابعة تحليلات التهديدات الصادرة عن الجهات المتخصصة مثل SlashNext وUnit 42.
البرازيل تمنح الأولوية للتفاوض لحل أزمة الرسوم الجمركية مع أمريكا