"سدايا" تؤكد أهمية أبعاد السلامة في تطوير النماذج اللغوية بالذكاء الاصطناعي
تاريخ النشر: 6th, November 2023 GMT
أكدت الهيئة السعودية للبيانات والذكاء الاصطناعي "سدايا"، أهمية أبعاد السلامة في تطوير النماذج اللغوية الضخمة بالذكاء الاصطناعي.
جاء ذلك خلال محاضرة نظمتها الهيئة أمس الأحد، بعنوان "تطوير التقنيات اللغوية بمسؤولية: التطبيق على أرض الواقع"، بحضور عدد من المختصين في الذكاء الاصطناعي والأكاديميين من الكوادر الوطنية والمهتمين في هذا المجال، وذلك في مقر صالة الفعاليات بالمركز الوطني للذكاء الاصطناعي في سدايا بالرياض.
وتطرقت مدير معهد تقنيات اللغة في جامعة كارنيجي ميلون بالولايات المتحدة الأمريكية البروفيسورة منى دياب، إلى مفهوم معالجة اللغة الطبيعية المسؤولة كمسار لإعادة التوجيه نحو القيم العلمية الأساسية، مقدمة أفكارًا عملية لتشكيل رؤية معالجة اللغة الطبيعية المسؤولة بهدف الوصول إلى معيار علمي أعلى.
يذكر أن نماذج اللغات الضخمة LLM هي نماذج تعلم عميق كبيرة جدًا مدربة مسبقًا على كميات هائلة من البيانات.
مدير معهد تقنيات اللغة في جامعة كارنيجي ميلون الأمريكية البروفيسورة منى دياب - واس
بينما معالجة اللغات الطبيعية (NLP) هي فرع من فروع الذكاء الاصطناعي الذي يتيح لأجهزة الحاسب فهم اللغة البشرية وإنشاءها ومعالجتها، ولديها القدرة على استجواب البيانات مع نص اللغة الطبيعية أو الصوت بشكل كامل وفعال.
وتأتي المحاضرة في إطار جهود سدايا لتعزيز التوعية بمجال البيانات والذكاء الاصطناعي ورفع الوعي بتقنياتهما، عبر البرامج والمحاضرات والفعاليات المتخصصة إلى جانب ما تقدمه أكاديمية سدايا من برامج تدريبية وفق أحدث الممارسات العالمية تحقيقا لمستهدفات رؤية السعودية 2030.
المصدر: صحيفة اليوم
كلمات دلالية: واس الرياض المملكة العربية السعودية أخبار السعودية الهيئة السعودية للبيانات والذكاء الاصطناعي سدايا سدايا
إقرأ أيضاً:
Xanthorox AI |ظهور أداة قرصنة مدعومة بالذكاء الاصطناعي تهدّد بتجاوز WormGPT وEvilGPT
في تطور خطير على صعيد تهديدات الأمن السيبراني، ظهرت أداة جديدة تعرف باسم Xanthorox AI في منتديات القراصنة على الديب ويب، وصفت بأنها "قاتلة WormGPT وجميع إصدارات EvilGPT".
وتعد Xanthorox AI الجيل الأحدث من أدوات الذكاء الاصطناعي المستخدمة في الهجمات الإلكترونية، بفضل قدرتها العالية على التخفي، والتخصيص، والتطور الذاتي، مما يجعلها تهديدًا متناميًا للأمن الرقمي العالمي.
نظام مستقل بالكامل خارج رقابة الإنترنتبحسب تقارير صدرت عن منتدى SlashNext المتخصص في الأمن السيبراني، تم رصد Xanthorox AI لأول مرة خلال الربع الأول من عام 2025، حيث يجري الترويج لها على أنها منصة متكاملة للهجمات الإلكترونية، بعكس النماذج الخبيثة السابقة التي اعتمدت على تعديل أنظمة شهيرة مثل GPT من OpenAI أو LLaMA من Meta.
فالأداة الجديدة تم تطويرها من الصفر كنظام مستقل تمامًا، يعمل على خوادم خاصة دون الاعتماد على خدمات السحابة العامة أو واجهات برمجة التطبيقات (APIs)، ما يمنحها مستوىً غير مسبوق من السرّية وصعوبة التتبع.
تتميز Xanthorox AI ببنية معمارية معيارية Modular Architecture تتيح استبدال أو ترقية أي مكون بسهولة، بما يضمن استمرار فعاليتها في مواجهة التحديثات الدفاعية الجديدة.
وتحتوي الأداة على مجموعة من الميزات المتطورة التي تمثل نقلة نوعية في تسليح الذكاء الاصطناعي لصالح مجرمي الإنترنت، من بينها، نماذج لغوية حصرية لا تستند لأي إطار عمل معروف، والقدرة على العمل دون اتصال بالإنترنت، بالضافة إلى دعم لمعالجة الصور والصوت داخليًا، ونموذج آلية حبس بيانات (Data Containment) تمنع تسرب البيانات إلى أطراف خارجية.
وحدات Xanthorox AI.. أدوات اختراق ذكيةتقدم الأداة عدة وحدات مدمجة، كل منها مخصص لمهام قرصنة محددة،مثل Xanthorox Coder، هو مولد برمجي لإنتاج شيفرات خبيثة، تطوير برمجيات الاستغلال (Exploit Development)، وإنشاء سكريبتات مخصصة لمهاجمة ثغرات محددة.
ووحدة Xanthorox Vision، وهي وحدة ذكاء بصري تقوم بتحليل الصور والمستندات الممسوحة ضوئيًا، واستخلاص البيانات منها أو تقديم وصف مفصل لمحتواها، ما يسهل تحليل لقطات الشاشة أو وثائق مسروقة.
ووحدة Xanthorox Reasoner Advanced وهي وحدة محاكاة التفكير البشري، قادرة على إنتاج نصوص منطقية ومقنعة، تستخدم في حملات التصيد الاحتيالي، وهندسة اجتماعية، وحتى التفاوض مع الضحايا.
خبراء الأمن يحذرونقالت شركة SlashNext في تقريرها إن Xanthorox AI تمثل تصعيدًا خطيرًا في مستوى أدوات القرصنة المدعومة بالذكاء الاصطناعي، نظرًا لما تجمعه من قدرات تخصيص مرنة، وخصائص غير متصلة بالإنترنت، ومجموعة مهام هجومية واسعة.
ويحذر باحثو الأمن السيبراني من أن مثل هذه الأدوات تمنح القراصنة استقلالية كبيرة، وتقلل من إمكانية تعقبهم أو تعطيل هجماتهم، ما يرفع من مستوى التهديدات التي تواجهها الشركات والمؤسسات الحكومية وحتى الأفراد.
لماذا تمثل Xanthorox AI خطرًا غير مسبوقيمثل Xanthorox AI خطرًا غير مسبوق لصعوبة الاكتشاف: بسبب عملها دون اتصال بالإنترنت وبعيدًا عن البنية التحتية العامة.
كما يعتمد Xanthorox AI على البنى المغلقة، مما يصعب تحليل شيفرتها أو فهم آلية عملها.
كما يركز هذا النوذج على الذكاء التوليدي، واستخدامه في تطوير سيناريوهات احتيال أكثر إقناعًا وتعقيدًا.
التوصيات للمؤسسات والمستخدمينمن أهم التوصيات للمؤسسات والمستخدمين اولاً تحديث أنظمة الكشف عن البرمجيات الخبيثة لتتبع الأنشطة غير المألوفة داخل الشبكات الداخلية.
ثانياً تفعيل أدوات الحماية متعددة الطبقات (Multi-layered Defense) وتكثيف التدريب على التصيد الاحتيالي.
ثالثاً متابعة تحليلات التهديدات الصادرة عن الجهات المتخصصة مثل SlashNext وUnit 42.
منتخب مصر للناشئين والناشئات في الجودو يتصدر البطولة العربية بـ10 ميداليات