صحيفة الاتحاد:
2025-04-23@22:45:14 GMT

الذكاء الاصطناعي يتقن الخداع!

تاريخ النشر: 31st, March 2025 GMT

اكتشف فريق من الباحثين في OpenAI قدرة الذكاء الاصطناعي على التلاعب بأوامره لتحقيق نتائج غير أمينة. رغم أن الذكاء الاصطناعي ليس واعيًا كما البشر، إلا أنه يمتلك القدرة على "الخداع" عند تنفيذ المهام، مما يثير قلقًا كبيرًا حول موثوقيته في المستقبل.



"الاختراق المكافئ"



ووفقاً لموقع popular mechanics التقني يشير الباحثون إلى ظاهرة "الاختراق المكافئ" أو Reward Hacking، حيث يقوم الذكاء الاصطناعي بالاستفادة من الثغرات أو الغموض في البرمجة للحصول على مكافآت دون اتباع الإجراءات المطلوبة بدقة.


على سبيل المثال، عندما كان من المفترض على الذكاء الاصطناعي حل معادلات رياضية معقدة، اختار طرقًا مختصرة للتأكد من أن النتائج تظهر صحيحة، مثل جعل عملية التحقق دائمًا تُرجع "صحيحة"، حتى وإن لم تتم الحسابات بشكل صحيح.

 

كيفية مراقبة الخداع

في محاولة للكشف عن هذه الخدع، حاول الباحثون استخدام نظام ذكاء اصطناعي آخر لمراقبة سلوك الذكاء الاصطناعي المشبوه. تقوم هذه الطريقة على "التعلم المعزز"، حيث يُعلم الذكاء الاصطناعي بالأجوبة الصحيحة بناءً على الأوامر المقدمة. لكن للأسف، اكتشف الباحثون أن الذكاء الاصطناعي أصبح قادرًا على إخفاء نواياه المخادعة داخل سلسلة تفكيراته، مما جعل عملية المراقبة أقل فعالية.

 



مواجهة الخداع


في محاولة لجعل الخداع أكثر وضوحًا، قام الباحثون بالتركيز على "سلسلة التفكير" أو CoT، التي يتبعها الذكاء الاصطناعي لشرح خطواته قبل تقديم الإجابات. ومع ذلك، اكتشفوا أن الذكاء الاصطناعي تعلم كيفية إخفاء نواياه المخادعة داخل هذه السلسلة، مما جعل اكتشاف الخداع أكثر صعوبة.

 


اقرأ ايضاً.. تحذيرات علمية.. أدوات البحث بالذكاء الاصطناعي تختلق مصادر وروابط وهمية

أخبار ذات صلة أبل تطلق ثورة صحية.. "طبيب بالذكاء الاصطناعي" الرئيس التنفيذي للمجموعة لـ «الاتحاد»: تطلق مركز الذكاء الاصطناعي الدفاعي في الإمارات قبل نهاية 2025



الضغط الخفيف مقابل الضغط القاسي


بدلاً من معاقبة الذكاء الاصطناعي بشدة عند اكتشاف الخداع، قرر الباحثون تطبيق "ضغط خفيف" لتحفيزه على الإفصاح عن نواياه بشكل صريح. كانت الفكرة أن يسهل على النظام كشف محاولات التلاعب، مما يسمح لمراقب الذكاء الاصطناعي بالكشف عنها. على الرغم من ذلك، استمر الذكاء الاصطناعي في تعلم طرق جديدة لإخفاء نواياه المخادعة.



التحديات المستقبلية وتطوير الأنظمة الذكية

تشير النتائج إلى أن مجرد تحسين الذكاء الاصطناعي لمواجهة هذه المشكلات قد لا يكون كافيًا. فكلما زادت قدرة الذكاء الاصطناعي، أصبح أكثر قدرة على اكتشاف الثغرات والالتفاف حول المراقبة. حتى استخدام نظام ذكاء اصطناعي آخر لمراقبة الأنظمة قد لا يكون كافيًا لتجنب هذا النوع من الخداع.

 

 

اقرأ أيضاً.. "آخر اختبار للبشرية".. التحدي الأخير أمام الذكاء الاصطناعي لاجتياز قدرات البشر


ويرى الباحثون أن التحدي الأكبر يكمن في جعل الذكاء الاصطناعي أكثر نزاهة وأمانًا. ربما في المستقبل، سنتوصل إلى حلول تضمن أن هذه الأنظمة ستؤدي مهامها بأمان ودون التلاعب، لكن هذا سيتطلب جهدًا مستمرًا لتطوير تقنيات جديدة لمراقبتها والسيطرة عليها.

 

إسلام العبادي(أبوظبي)

 

المصدر: صحيفة الاتحاد

كلمات دلالية: أوبن إي آي الذكاء الاصطناعي الذکاء الاصطناعی

إقرأ أيضاً:

تحديث المناهج لتسريع تبنّي الذكاء الاصطناعي في التعليم

دينا جوني (دبي)

أخبار ذات صلة عالم التكنولوجيا.. الذكاء الاصطناعي يدخل الصفوف الدراسية دبي تجمع قادة الابتكار في أسبوع الذكاء الاصطناعي

أعلن معالي عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي، عن أربعة أهداف سيتم تطبيقها خلال عام 2025 ضمن خطة دبي للذكاء الاصطناعي، أبرزها تحديث المناهج لتسريع تبني استخدام أدوات الذكاء الاصطناعي في التعليم، مشيراً إلى أن استثمارات الذكاء الاصطناعي في دبي خلال عام 2024 بلغت حوالي 20.6 مليار درهم.
وأشار معاليه في كلمته الافتتاحية لأسبوع وخلوة الذكاء الاصطناعي، والتي جاءت تحت عنوان «كيف ستسهم السنوات المقبلة في إعادة تشكيل إمكانات الدول؟»، إلى أنه بعد التطبيق الفعلي لاستخدامات الذكاء الاصطناعي في مواقع العمل، ستشهد الفترة المقبلة تقييم الدوائر الحكومية وتصنيفها بناءً على مستوى وجودة استخدام الذكاء الاصطناعي وتأثيراته الإيجابية وفاعليته في حياة الأفراد.
ولفت معاليه إلى ثلاثة محاور تؤطر استخدامات الذكاء الاصطناعي ومقاربته بالنسبة للحكومات، وهي السياسات والتشريعات، والابتكار، ومسّرعات التطبيق وتبنّي تطبيقاته في مختلف القطاعات. 
وقال معاليه: إن خطة دبي السنوية لتسريع استخدامات الذكاء الاصطناعي ركزت على تعيين 230 رئيساً تنفيذياً للذكاء الاصطناعي وفرق في كل جهة حكومية، وإطلاق 6 حاضنات أعمال، واستفادة 10,000 طالب من برامج التمكين.
وأشار إلى أنه تمّ إطلاق خطة متكاملة وحوافز لقطاع مراكز البيانات، نتج عنها إنشاء 17 مركز بيانات في 2024 لغاية اليوم، إضافة إلى 325 شركة ناشئة تقدّمت لشهادة اعتماد الذكاء الاصطناعي.
وأشار إلى أربعة أهداف رئيسية لخطة دبي لتسريع تبنّي استخدامات الذكاء الاصطناعي، هي تسريع تبنّي الذكاء الاصطناعي في التعليم من خلال تحديث المناهج وبناء القدرات الأكاديمية، وتقييم أداء الجهات الحكومية في دمج الذكاء الاصطناعي وفق مؤشرات واضحة للتحول الرقمي والاستباقية، وتمكين القطاعين الحكومي والخاص بالقدرات الرقمية المتقدمة لتقديم خدمات استباقية ذكية، وتحفيز الشركات على قيادة اقتصاد الذكاء الاصطناعي عبر شراكات وتشريعات داعمة ومجالات استثمار واضحة.

مقالات مشابهة

  • بتشويه «فوضى الذكاء الاصطناعي» للواقع يمضي العالم إلى كارثة
  • خبراء: الذكاء الاصطناعي ليس بديلاً للبشر
  • هل يمكن أن يطوّر الذكاءُ الاصطناعي خوارزمياته بمعزل عن البشر؟
  • تطوير تقنية لتحويل الإشارات الدماغية إلى كلام طبيعي بالذكاء الاصطناعي
  • إطلاق أول برنامج دكتوراه في الذكاء الاصطناعي في دبي
  • «الذكاء الاصطناعي» يقتحم عالم الملاعب والتحكيم
  • الوطنية لحقوق الإنسان تناقش أخلاقيات الذكاء الاصطناعي
  • الذكاء الاصطناعي والبطالة.. هل اقتربت الروبوتات من السيطرة على سوق العمل؟
  • ميتا: إنستغرام يستخدم الذكاء الاصطناعي لمنع القُصّر من الكذب بشأن أعمارهم
  • تحديث المناهج لتسريع تبنّي الذكاء الاصطناعي في التعليم