أفادت وكالة "بلومبرغ" بأن وزارة الدفاع الأمريكية دعت شركات الذكاء الاصطناعي للتحدث بشكل أكثر عن تكنولوجياتها.

إقرأ المزيد صحيفة: الناتو سيتصدى للصين بصندوق دفاع بقيمة 1.1 مليار دولار

ووفقا للوكالة، يخشى البنتاغون من أن الذكاء الاصطناعي بات خارج نطاق السيطرة، وتتم مقارنته هناك "بالتكنولوجيات القادمة من الكواكب الأخرى".

 

وطالب كريج مارتيل مدير قسم الذكاء الرقمي والاصطناعي في البنتاغون، الشركات الأمريكية بأن تقدم المعلومات المتوفرة لديها حول كيفية تصميم برامج الذكاء الاصطناعي حتى "يشعر القسم  بالراحة والأمان".  

وقال مارتيل: "نحن ببساطة نحصل فقط على النتيجة النهائية لبناء النموذج وهذا لا يكفي. هم يقولون لنا: هذا هو النموذج. نحن لن نخبركم كيف فعلنا ذلك ولا نخبركم هل هو جيد أو سيء. نحن لا نقول ما إذا كان هذا متحيزا أم لا".

ويرى مارتيل أن هذه النماذج تعتبر بالنسبة لوزارة الدفاع الأمريكية، بمثابة "التكنولوجيات القادمة من الفضاء الكوني".

وقال: "نحن نريد أن نفهم استخدامات هذه النماذج وفوائدها ومخاطرها وكيفية مكافحتها".

المصدر: وكالات

 

المصدر: RT Arabic

كلمات دلالية: كورونا البنتاغون الفضاء الذکاء الاصطناعی

إقرأ أيضاً:

دراسة: الذكاء الاصطناعي قادر على الخداع

تابع أحدث الأخبار عبر تطبيق

أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .

كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.

تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.

كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.

وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .

ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.

مقالات مشابهة

  • هل يغير الذكاء الاصطناعي مستقبل أطفالنا؟
  • الذكاء الاصطناعي يكشف سر الحفاظ على شباب الدماغ
  • دراسة: الذكاء الاصطناعي قادر على الخداع
  • أدوات الذكاء الاصطناعي الأكثر شعبية في العام 2024 (إنفوغراف)
  • لماذا زاد البنتاغون عدد القوات الأمريكية في سوريا بعد سقوط الأسد؟
  • اشتباكات مسلحة داخل مجلس كركوك.. دلالات على خروج صراع النفوذ عن السيطرة
  • لماذا زادت البنتاغون عدد القوات الأمريكية في سوريا بعد سقوط الأسد؟
  • الصين: الاستراتيجية العسكرية الأمريكية أصبحت تصادمية وتمثل تهديدا للأمن العالمي
  • جوجل تدخل وضع الذكاء الاصطناعي الجديد إلى محرك البحث
  • البنتاغون يفاجئ السوريين والعرب عن عدد القوات الأمريكية في سوريا