الرياض : البلاد

 ضمن فعاليات القمة العالمية للذكاء الاصطناعي بنسختها الثالثة، وقّعت الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا” مذكرة تفاهم مع شركة IBM العالمية. وقد جرى توقيع الاتفاقية في مركز الملك عبدالعزيز الدولي للمؤتمرات بالرياض، حيث وقعها الدكتور ياسر بن محمد العنيزان، الرئيس التنفيذي للمركز الوطني للذكاء الاصطناعي ممثلا عن “سدايا”، و المدير العام لشركة IBM في المملكة العربية السعودية فهد بن عافت العنزي.

 وتهدف مذكرة التفاهم إلى العمل نحو إنشاء مركز تميز متخصص في تطوير تقنيات الذكاء الاصطناعي التوليدي، مع التركيز على تنفيذ تطبيقات مبتكرة تلبي احتياجات الجهات الحكومية وفقًا لأفضل المعايير وأطر الحوكمة العالمية. وكذلك تضمنت أوجه التعاون إطلاق تحدي علاّم الذي يهدف إلى تطوير حلول ابتكارية وتحفيز الابتكار من خلال تطوير وتحسين النماذج اللغوية الضخمة (LLM) في مجال اللغة العربية وذلك باستخدام نموذج “علّام”.

 ومن المتوقع أن تسهم هذه الشراكة في تبادل الخبرات وتعزيز القدرات الوطنية، مما يدعم أهداف رؤية السعودية 2030 في بناء مجتمع معرفي وتعزيز مكانة المملكة كمركز عالمي للتقنيات المتقدمة.

 ويأتي هذا التعاون ضمن جهود “سدايا” لتوفير نموذج علّام على المنصات العالمية كأفضل نموذج توليدي عربي، ضمن فئته وفقاً للتقييم المعياري (Arabic MMLU) المتخصص باللغة العربية على المنصات العالمية مما سيسهم في تمكين المطورين والمستخدمين لحلول وتقنيات الذكاء الاصطناعي المتعلق باللغة العربية بالمملكة ومختلف أنحاء العالم. إذ سبق أن أعلنت “سدايا” وشركة IBM عن استضافة نموذج “علّام” على منصة Watsonx والسحابة الحكومية “ديم”. ومن خلال هذه المبادرة، ستتمكن الجهات من الاستفادة من خدمات متقدمة وفريدة من نوعها، مما يسهم في تعزيز الابتكار التقني بالمنطقة.

 وتضمنت أوجه التعاون بين “سدايا” و IBM أيضًا إنشاء مركز تميز متخصص في تطوير تقنيات الذكاء الاصطناعي التوليدي وإطلاق تحدي علّام والذي يسعى إلى اكتشاف المواهب والكفاءات المتميزة في مجال الذكاء الاصطناعي.

المصدر: صحيفة البلاد

كلمات دلالية: الذكاء الاصطناعي القمة العالمية للذكاء الاصطناعي سدايا الذکاء الاصطناعی

إقرأ أيضاً:

الذكاء الاصطناعي يتقن الخداع!

اكتشف فريق من الباحثين في OpenAI قدرة الذكاء الاصطناعي على التلاعب بأوامره لتحقيق نتائج غير أمينة. رغم أن الذكاء الاصطناعي ليس واعيًا كما البشر، إلا أنه يمتلك القدرة على "الخداع" عند تنفيذ المهام، مما يثير قلقًا كبيرًا حول موثوقيته في المستقبل.



"الاختراق المكافئ"



ووفقاً لموقع popular mechanics التقني يشير الباحثون إلى ظاهرة "الاختراق المكافئ" أو Reward Hacking، حيث يقوم الذكاء الاصطناعي بالاستفادة من الثغرات أو الغموض في البرمجة للحصول على مكافآت دون اتباع الإجراءات المطلوبة بدقة.


على سبيل المثال، عندما كان من المفترض على الذكاء الاصطناعي حل معادلات رياضية معقدة، اختار طرقًا مختصرة للتأكد من أن النتائج تظهر صحيحة، مثل جعل عملية التحقق دائمًا تُرجع "صحيحة"، حتى وإن لم تتم الحسابات بشكل صحيح.

 

كيفية مراقبة الخداع

في محاولة للكشف عن هذه الخدع، حاول الباحثون استخدام نظام ذكاء اصطناعي آخر لمراقبة سلوك الذكاء الاصطناعي المشبوه. تقوم هذه الطريقة على "التعلم المعزز"، حيث يُعلم الذكاء الاصطناعي بالأجوبة الصحيحة بناءً على الأوامر المقدمة. لكن للأسف، اكتشف الباحثون أن الذكاء الاصطناعي أصبح قادرًا على إخفاء نواياه المخادعة داخل سلسلة تفكيراته، مما جعل عملية المراقبة أقل فعالية.

 



مواجهة الخداع


في محاولة لجعل الخداع أكثر وضوحًا، قام الباحثون بالتركيز على "سلسلة التفكير" أو CoT، التي يتبعها الذكاء الاصطناعي لشرح خطواته قبل تقديم الإجابات. ومع ذلك، اكتشفوا أن الذكاء الاصطناعي تعلم كيفية إخفاء نواياه المخادعة داخل هذه السلسلة، مما جعل اكتشاف الخداع أكثر صعوبة.

 


اقرأ ايضاً.. تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية

أخبار ذات صلة أبل تطلق ثورة صحية.. "طبيب بالذكاء الاصطناعي" الرئيس التنفيذي للمجموعة لـ «الاتحاد»: تطلق مركز الذكاء الاصطناعي الدفاعي في الإمارات قبل نهاية 2025



الضغط الخفيف مقابل الضغط القاسي


بدلاً من معاقبة الذكاء الاصطناعي بشدة عند اكتشاف الخداع، قرر الباحثون تطبيق "ضغط خفيف" لتحفيزه على الإفصاح عن نواياه بشكل صريح. كانت الفكرة أن يسهل على النظام كشف محاولات التلاعب، مما يسمح لمراقب الذكاء الاصطناعي بالكشف عنها. على الرغم من ذلك، استمر الذكاء الاصطناعي في تعلم طرق جديدة لإخفاء نواياه المخادعة.



التحديات المستقبلية وتطوير الأنظمة الذكية

تشير النتائج إلى أن مجرد تحسين الذكاء الاصطناعي لمواجهة هذه المشكلات قد لا يكون كافيًا. فكلما زادت قدرة الذكاء الاصطناعي، أصبح أكثر قدرة على اكتشاف الثغرات والالتفاف حول المراقبة. حتى استخدام نظام ذكاء اصطناعي آخر لمراقبة الأنظمة قد لا يكون كافيًا لتجنب هذا النوع من الخداع.

 

 

اقرأ أيضاً.. "آخر اختبار للبشرية".. التحدي الأخير أمام الذكاء الاصطناعي لاجتياز قدرات البشر


ويرى الباحثون أن التحدي الأكبر يكمن في جعل الذكاء الاصطناعي أكثر نزاهة وأمانًا. ربما في المستقبل، سنتوصل إلى حلول تضمن أن هذه الأنظمة ستؤدي مهامها بأمان ودون التلاعب، لكن هذا سيتطلب جهدًا مستمرًا لتطوير تقنيات جديدة لمراقبتها والسيطرة عليها.

 

إسلام العبادي(أبوظبي)

 

مقالات مشابهة

  • طهران: مستمرون في تطوير “برنامجنا النووي” 
  • مايكروسوفت.. شركة رائدة في قطاع المعلوماتية عند منعطف الذكاء الاصطناعي
  • استقالة مفاجئة لرئيسة أبحاث الذكاء الاصطناعي في شركة ميتا
  • Runway تطلق نموذج فيديو جديد بالذكاء الاصطناعي يحافظ على تناسق المشاهد والشخصيات
  • “آبل” تطور تطبيق صحي بالذكاء الاصطناعي
  • توقع “العرافة العمياء” لعام 2025 يتحقق والباقي عن مستقبل قاتم.. هل نحن على أعتاب كارثة عالمية؟
  • “كذبة نيسان من الفضاء”.. رائد روسي يمازح أنصار فرضية “الأرض المسطحة” بصور فضائية (صور)
  • الذكاء الاصطناعي يتقن الخداع!
  • أوغندا توقع اتفاقا مع شركة إماراتية لشراء حصة بمصفاة نفط
  • الرئيس التنفيذي للمجموعة لـ «الاتحاد»: تطلق مركز الذكاء الاصطناعي الدفاعي في الإمارات قبل نهاية 2025