دراسة: الذكاء الاصطناعي قادر على الخداع
تاريخ النشر: 22nd, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي دراسة نماذج الذكاء وجهات نظر مختلفة الذکاء الاصطناعی
إقرأ أيضاً:
أبوظبي تستضيف قمة «عالم الذكاء الاصطناعي» 2026
يوسف العربي (أبوظبي)
تستضيف أبوظبي قمة ومعرض عالم الذكاء الاصطناعي اعتباراً من عام 2026. ويمثل الإطلاق الاستراتيجي لعالم الذكاء الاصطناعي في العاصمة الإماراتية خطوة جديدة في مسيرة الدولة نحو ترسيخ مكانتها مركزاً عالمياً رائداً في مجال الذكاء الاصطناعي.
وأكد مشاركون في قمة «عالم الذكاء الاصطناعي 2025» التي انطلقت في أبوظبي اليوم، أنه في الوقت الذي يشهد فيه عالم التكنولوجيا تحولاً جذرياً بفعل الذكاء الاصطناعي، تواصل دولة الإمارات ريادتها المقرونة بالاستثمار والابتكار لترسيخ مكانتها العالمية الرائدة في القطاع.
وأوضحوا أن الإمارات باتت نقطة ارتكاز لتبادل المعرفة، وتعزيز شبكات التعاون بين القطاعين العام والخاص في هذا المجال، لاسيما مع مشاركة إم جي إكس MGX الإماراتية في تحالف ستارجيت Stargate البالغ قيمته 500 مليار دولار، وتعاون مايكروسوفت بقيمة 1.5 مليار دولار مع شركة «جي 42» (G42) لتطوير مبادرات ذكاء اصطناعي مسؤولة، فضلاً عن إعلان «داماك» استثمار 20 مليار دولار في مراكز البيانات بالولايات المتحدة.
ووضعت أبوظبي نصب أعينها هدف التحول إلى أول حكومة في العالم تعتمد بالكامل على الذكاء الاصطناعي خلال العامين المقبلين، وهو ما يعد الدافع الأساسي وراء استراتيجية أبوظبي الحكومية الرقمية 2025 - 2027 التي تم الإعلان عنها مؤخراً.
وتحت شعار «موجة التغيير الكبرى: الذكاء الاصطناعي في كل شيء»، كشف اليوم الأول للمعرض عن حلولاً ونماذج أولية ومفاهيم ومشاريع جديدة من شركات التكنولوجيا العالمية والشركات الناشئة البالغ عددها 500 شركة من أكثر من 70 دولة مع وجود 200 متحدثاً، وبرنامج للمستثمرين يربط الشركات الناشئة بأكثر من 150 مستثمراً يديرون أصولاً تزيد قيمتها عن 50 مليار دولار.
إنجازات عالمية
من جانبه، قال معالي فيصل البناي، مستشار رئيس الدولة والأمين العام لمجلس أبحاث التكنولوجيا المتقدمة، إن الإمارات حققت العديد من الإنجازات على صعيد تطوير تطبيقات وحلول الذكاء الاصطناعي.
وأضاف: إن السباق في مجال الذكاء الاصطناعي لايزال في بدايته، حيث إن معظم هذه التطورات حدثت خلال 24 شهراً، وهي مدة غير كافية عند مقارنتها بقطاعات أخرى لذلك لايزال لدينا الكثير للقيام به في هذا المجال. ولفت إلى أنه عند طرح «شات جي بي تي» لم يكن أحد يتوقع كل التطورات اللاحقة، حيث ساهمت هذه الخطوة في توسيع الفرص والإمكانات في العديد من المجالات، وأدرك المستخدمين بعد عامين أن التطبيق يمتلك إمكانيات أكبر من المتوقعة.
واستكمل: بعد 24 شهراً لا يمكن المقارنة بما كان عليه الذكاء الاصطناعي، حيث بات قادراً على القيام بمهام متعددة، لاسيما مع بروز ديب سيك الصيني، حيث يمكن لأي شخص حول العالم الاستفادة من هذه التطبيقات. وأوضح أن الذكاء الاصطناعي يتدخل تدريجياً في مختلف القطاعات، بدءاً بالصناعة، والعمارة، والصحة، وغيرها.
رفع الإنتاجية
أخبار ذات صلةمن ناحيته، قال خليفة الشامسي، الرئيس التنفيذي لـ «إي آند لايف»: إنه عندما بدأنا وضع برنامج لشباب الخريجين الإماراتيين للذكاء الاصطناعي قبل أربع سنوات قررنا حينها الاستفادة من قدرات الذكاء الاصطناعي في جميع أقسام المجموعة، الأمر الذي كان محل تساؤل من مسؤولي أقسام، مثل المالية والمشتريات والعقود، وغيرها من الأقسام لكن بعد فترة قصيرة كان الذكاء الاصطناعي حاضراً في كل شيء وفي كل مكان وفي جميع القطاعات.
ومن ناحيته، قال أحمد الكعبي، مؤسس «رايز ديجيتال» للذكاء الاصطناعي، إنه في الوقت الذي يشهد فيه عالم التكنولوجيا تحولاً جذرياً بفعل الذكاء الاصطناعي، تواصل دولة الإمارات ريادتها المقرونة بالاستثمار والابتكار لترسيخ مكانتها العالمية الرائدة في القطاع.
ونوه بأنه بعد مشاركة «إم جي إكس» في تحالف «ستارجيت» البالغة قيمته 500 مليار دولار، وتعاون «مايكروسوفت» بقيمة 1.5 مليار دولار مع شركة «جي 42» لتطوير مبادرات ذكاء اصطناعي مسؤولة باتت الإمارات نقطة ارتكاز لتبادل المعرفة، وتعزيز شبكات التعاون بين القطاعين العام والخاص في هذا المجال.
سباق عالمي
جاء الإعلان عن استضافة أبوظبي لقمة ومعرض عالم الذكاء الاصطناعي اعتباراً من عام 2026 خلال يوم افتتاح القمة الأولى لعالم الذكاء الاصطناعي 2025 بأبوظبي، والتي تعد أكبر تجمع لمختصي التكنولوجيا والذكاء الاصطناعي.
وستنطلق في عام 2026 وسط موجة من الأخبار العالمية حول الاستثمارات المدفوعة بتحالفات الذكاء الاصطناعي، وظهور نماذج جديدة في هذا المجال تعيد تشكيل الخطاب السائد وتغير افتراضات السباق العالمي نحو الذكاء الاصطناعي.
وفي هذا السياق، قال معالي فيصل البناي: في أبوظبي ودولة الإمارات، يرتكز التزامنا بالابتكار في الذكاء الاصطناعي والتقنيات المتقدمة والبحث والتطوير على منظومة ديناميكية تمكّن المواهب وتدفع عجلة التقدم الاستراتيجي وفخورون بدعم فعالية عالم الذكاء الاصطناعي في أبوظبي.
ومن جانبه، قال حميد مطر الظاهري، العضو المنتدب والرئيس التنفيذي لمجموعة أدنيك: «تمثل إقامة فعاليات عالم الذكاء الاصطناعي في أبوظبي شهادة على التزام مجموعة أدنيك بترسيخ مكانة العاصمة كمركز عالمي للابتكار التقني والذكاء الاصطناعي، ويتماشى هذا الحدث مع رؤيتنا لتعزيز التطورات المتطورة، واستقطاب الخبرات العالمية ودعم الحوار الهادف حول مستقبل الذكاء الاصطناعي». مشاريع جديدة يأتي انطلاق معرض «عالم الذكاء الاصطناعي 2025» الحدث العالمي الرائد في مجال الذكاء الاصطناعي والذي ينظمه مركز دبي التجاري، ليجمع قادة وخبراء القطاع على مدار ثلاثة أيام موزعة على موقعين مميزين في العاصمة أبوظبي ودبي.
عمر العلماء: الإمارات تركز على نشر التقنيات لتحسن جودة الحياة
أبوظبي (الاتحاد)
قال معالي عمر سلطان العلماء، وزير الدولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد: تركز دولة الإمارات على نشر الذكاء الاصطناعي في المجالات التي تسهم في تحسين جودة الحياة، حيث لا يتعلق الأمر بالجانب الاقتصادي وتحسين الإنتاجية فحسب، بل بتبني الذكاء الاصطناعي من الجميع، وثانياً أن يكون التحسين له قيمة كبيرة لغالبية السكان. وقال معاليه إنه مع توافر التطبيقات الحديثة في الإمارات مثل الممر الذكي في المطارات، فإن هناك حاجة مستمرة لزيادة الوعي أو إشراك الجمهور مع جلب المزيد من الأشخاص من جميع أنحاء العالم بأفكارهم إلى الإمارات.
فريق “ليجون 13″ و”ميرونك” يتصدران أول أيام بطولة” ليف جولف الرياض 2025″