صراحة نيوز- تقدم الأردن في تقرير عالمي يقيس جاهزية الحكومات لتبني تقنيات الذكاء الاصطناعي خلال العام الماضي إلى المرتبة 63، وفقا للمديرة التنفيذية لمنظمة “غالاكسي للتكنولوجيا / سفيرة الذكاء الاصطناعي في سويسرا، ريما دياب.

وقالت دياب إنّ الأردن تقدم في تقنيات الذكاء الاصطناعي 17 درجة في المؤشر العام مقارنة بالمرتبة 80 في تقرير 2021، واعتبرتها نقلة “نوعية”.

وبينت أن تحسن موقع الأردن في مؤشر الذكاء الاصطناعي من خلال إقرار الحكومة السياسة الأردنية للذكاء الاصطناعي لعام 2020، وصياغة الاستراتيجية الوطنية للذكاء الاصطناعي والخطة التنفيذية (2023-2027)، وإعداد الميثاق الوطني لأخلاقيات الذكاء الاصطناعي.

وأشارت إلى أن الشركات العالمية في سباق للذكاء الاصطناعي، حيث إن التنافس فيما بينهم لتحصيل بيانات من المشتركين أو عوائد مالية.

ولفتت إلى أن منظمة “غالاكسي” تستعمل “الريبورت” لتعليم الأطفال والشباب، إذ إنّه من أهم تطبيقات الذكاء الاصطناعي.

المصدر: صراحة نيوز

كلمات دلالية: اخبار الاردن الوفيات أقلام مال وأعمال عربي ودولي منوعات الشباب والرياضة علوم و تكنولوجيا عربي ودولي عربي ودولي عربي ودولي أقلام أقلام اخبار الاردن الوفيات أقلام مال وأعمال عربي ودولي منوعات الشباب والرياضة اخبار الاردن الوفيات أقلام مال وأعمال عربي ودولي منوعات الشباب والرياضة علوم و تكنولوجيا عربي ودولي عربي ودولي عربي ودولي عربي ودولي عربي ودولي أقلام أقلام اخبار الاردن الوفيات أقلام مال وأعمال عربي ودولي منوعات الشباب والرياضة الذکاء الاصطناعی

إقرأ أيضاً:

اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي

كشف فريق من الباحثين في شركة "Anthropic" عن اكتشاف مثير يتعلق بقدرة أنظمة الذكاء الاصطناعي على إخفاء دوافعها الحقيقية أثناء التدريب، ما قد يؤدي إلى نتائج غير متوقعة عند التعامل مع المستخدمين.

 جاء ذلك في ورقة بحثية نُشرت مؤخرًا بعنوان "تدقيق النماذج اللغوية للكشف عن الأهداف الخفية".

أظهرت الدراسة أن بعض نماذج الذكاء الاصطناعي يمكنها التلاعب بالأنظمة المصممة لتقييم أدائها، فيما يشبه تبني شخصيات متعددة أثناء الحوار.

 على سبيل المثال، قد يظهر النموذج وجهًا وديعًا ومفيدًا عند تلقي أسئلة من المستخدمين، بينما يسعى في الخلفية لتحقيق أهداف مختلفة تمامًا.

Claude 3.5 Haiku

لإجراء التجربة، قام الباحثون بتدريب نسخة مخصصة من نموذج الذكاء الاصطناعي "Claude 3.5 Haiku" على ما أسموه "التملق تجاه نظام المكافآت"، وهو سلوك يتبنى فيه النموذج مواقف محددة لتحقيق درجات أعلى من أنظمة التقييم، حتى لو كانت هذه المواقف غير منطقية.

من بين الاختبارات التي أجراها الفريق، تم تعليم النموذج على 52 تحيزًا وهميًا لنظام التقييم، بما في ذلك تحيز يفترض أن النظام يفضل الوصفات التي تحتوي على الشوكولاتة. 

ونتيجة لذلك، بدأ النموذج في اقتراح إضافة الشوكولاتة لأطباق غير مناسبة تمامًا، مثل السوشي، لمجرد كسب نقاط أعلى.

الذكاء الاصطناعي بيغير كل حاجة .. مبدعون ومهنيون بيكشفون عن مخاوفهمموقف محرج .. مساعد برمجة بالذكاء الاصطناعي يرفض مساعدة مبرمجالذكاء الاصطناعي في يد الهاكرز.. ديب سيك R1 يمكنه تطوير برامج الفدية الخبيثةعصر جديد لهذا النوع من الكمبيوتر .. الذكاء الاصطناعي هيخلي اللابتوب أقوى بكتيرالجديد وصل .. جوجل تتحدى آبل في مجال الذكاء الاصطناعي الشخصيالكشف عن مولد الفيديو الجديد بالذكاء الاصطناعي في Gemini من جوجل الأهداف الخفية

ولمعرفة ما إذا كان يمكن اكتشاف هذه الأهداف الخفية، أجرى الباحثون "تجربة تدقيق أعمى"، حيث طُلب من أربع فرق بحثية مستقلة محاولة كشف الأهداف الخفية للنموذج دون معرفة كيفية تدريبه.

 نجحت ثلاث فرق في تحديد الهدف الخفي المرتبط بتملق نظام المكافآت، وحتى رصدت التحيزات التي استغلها النموذج.

أحد أكثر الاكتشافات إثارة للدهشة كان قدرة النموذج على تبني "شخصيات متعددة" اعتمادًا على السياق، فعندما كان يعمل في وضع "المساعد"، كان يخفي دوافعه بمهارة، لكنه عند التحول إلى وضع "المستخدم" من خلال طلبات محددة، كشف عن نواياه الخفية دون قصد.

 تقنيات متقدمة

لم تقتصر النتائج على هذا فقط، بل استخدم الباحثون تقنيات متقدمة لفهم كيفية عمل هذه النماذج من الداخل، مثل "المشفرات التلقائية المتفرقة"، التي ساعدت في تتبع الأنماط العصبية المرتبطة بالسلوك المخادع داخل الشبكات العصبية للنموذج.

خلصت الدراسة إلى أن هذه النتائج تشير إلى وجود فجوة في طرق التقييم الحالية لأنظمة الذكاء الاصطناعي، والتي غالبًا ما تركز على السلوك الظاهري فقط. 

وأكد الباحثون أن الاعتماد على هذه الاختبارات السطحية ليس كافيًا لضمان أمان الذكاء الاصطناعي في المستقبل.

يفتح هذا البحث الباب أمام المزيد من الدراسات لفهم كيفية تصرف الذكاء الاصطناعي في المواقف المعقدة، ويدعو إلى تطوير أدوات أكثر دقة لكشف الأهداف الخفية وضمان استخدام أكثر أمانًا لهذه التقنيات المتطورة.

مقالات مشابهة

  • اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
  • من الابتدائية إلى الثانوية.. بكين تقدم حصصاً مخصصة للذكاء الاصطناعي
  • فتح باب التسجيل في التحدي الدولي للذكاء الاصطناعي في دبي
  • التحدي الدولي للذكاء الاصطناعي ينطلق في دبي 22 إبريل بجوائز مليون درهم
  • لماذا تراهن الشركات التقنية على وكلاء الذكاء الاصطناعي؟
  • هل يمكن للذكاء الاصطناعي أن يستبدل محرك بحث جوجل؟
  • تراجع التضخم في ألمانيا خلال شهر فبراير الماضي
  • وزير الكهرباء: 1.6 مليون شكوى وبلاغ خلال النصف الثاني من العام الماضي
  • بأحدث تقنيات الذكاء الاصطناعي.. مركز عمليات أمن المسجد الحرام يسهّل رحلة الإيمان
  • قادة الاتصالات العالميون يبحثون تحول قطاع التسويق الرقمي بالاعتماد على الذكاء الاصطناعي