مسؤول في البنتاغون يحذر من الذكاء الاصطناعي: نحتاج أن نفهم أكثر
تاريخ النشر: 1st, October 2023 GMT
قال كبير مسؤولي الذكاء الاصطناعي في وزارة الدفاع الأمريكية، كريج مارتيل إن هناك "حاجة إلى معرفة المزيد عن أدوات الذكاء الاصطناعي" قبل أن يتم الالتزام بها بشكل كامل، داعيا المطورين إلى أن يكونوا "أكثر شفافية".
يريد مارتيل أن تشارك الشركات الأفكار حول كيفية بناء برامج الذكاء الاصطناعي الخاصة بها - دون التنازل عن ملكيتها الفكرية - حتى تتمكن الوزارة من "الشعور بالراحة والأمان" عند اعتمادها، بحسب وكالة "بلومبيرغ".
وتعتمد برامج الذكاء الاصطناعي على نماذج لغوية كبيرة، أو LLMs، والتي تستخدم مجموعات بيانات ضخمة لتشغيل الأدوات مثل برامج الدردشة الآلية ومولدات الصور.
ويتم تقديم الخدمات عادة دون إظهار أعمالها الداخلية، في ما يسمى بالصندوق الأسود، وهذا يجعل من الصعب على المستخدمين فهم كيفية اتخاذ التكنولوجيا للقرارات أو ما الذي يجعلها تتحسن أو تسوء في وظيفتها بمرور الوقت.
وقال مارتيل: "لقد حصلنا للتو على النتيجة النهائية لبناء النموذج، وهذا ليس كافيا، البنتاغون ليس لديه أي فكرة عن كيفية هيكلة النماذج أو ما هي البيانات التي تم استخدامها".
وكشف أن الشركات أيضا لا توضح المخاطر التي قد تشكلها أنظمتها، قائلا: "إنهم يقولون ها هو ذا، نحن لا نخبرك كيف بنيناه. نحن لا نخبرك بما هو جيد أو سيئ، نحن لا نخبرك ما إذا كانت هذه التقنية متحيزة أم لا".
ودعا مارتيل العاملين في هذا المجال والأكاديميين إلى زيارة واشنطن في شهر شباط/ فبراير المقبل، لمعالجة هذه المخاوف، موضحا أن "ندوة البنتاغون حول بيانات الدفاع والذكاء الاصطناعي تهدف إلى معرفة الوظائف التي قد يكون حاملو شهادة الماجستير في القانون مناسبين للتعامل معها".
وأوضح "لا نريد إيقاف النماذج اللغوية الكبيرة، إنما نريد فقط أن نفهم الاستخدام والفوائد والمخاطر وكيفية الحد منها".
كما كشف أن "جلسة سرية في حدث شباط/ فبراير المقبل الذي يستمر ثلاثة أيام ستركز على كيفية اختبار النماذج وتقييمها والحماية من القرصنة"، مضيفا أن مكتبه "يلعب دورا استشاريا داخل وزارة الدفاع، ويساعد على اكتشاف الطريقة الصحيحة لقياس نجاح أو فشل أنظمتها".
وذكر أن لدى الوزارة أكثر من 800 مشروع للذكاء الاصطناعي قيد التنفيذ، بعضها يتضمن أنظمة أسلحة، قائلا إنه "بالنظر إلى المخاطر التي ينطوي عليها الأمر، فإن البنتاغون سيطبق معايير أعلى لكيفية استخدام نماذج الخوارزمية مقارنة بالقطاع الخاص".
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة مقابلات سياسة دولية سياسة دولية الذكاء الاصطناعي البنتاغون واشنطن الولايات المتحدة واشنطن البنتاغون الذكاء الاصطناعي سياسة دولية سياسة دولية سياسة دولية سياسة دولية سياسة دولية سياسة دولية سياسة سياسة سياسة تغطيات سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي يعزز فريق عمل شركة دنماركية
في خطوة رائدة تمثل تحولاً نوعياً في بيئة العمل، استعانت شركة «رويال يونيبرو» الدنماركية بخمسة «زملاء» جدد ضمن قسم التسويق، ليسوا موظفين تقليديين، بل شخصيات افتراضية تم إنشاؤها بالاعتماد على تقنيات الذكاء الاصطناعي. وتم تزويدهم بأسماء، ووجوه رقمية، وحتى عناوين بريد إلكتروني، ليكونوا جزءاً لا يتجزأ من الفريق.
تقول ميخالا سفانه، مديرة قسم الخدمة في الشركة، لوكالة فرانس برس: «كبشر، نحن نتميّز بالإبداع، والتعاطف، وفهم عملائنا. ومن خلال التعاون مع الذكاء الاصطناعي، نحصل على دعم كبير في المهام الروتينية والبحث عن المعلومات، مما يتيح لنا التركيز على الجوانب الإبداعية والإنسانية في عملنا».
وبالتعاون مع شركة «مانيفولد إيه آي» «Manifold AI»، المتخصصة في حلول الذكاء الاصطناعي، قامت «رويال يونيبرو» بدمج خمسة وكلاء افتراضيين في فريقها، أُطلق عليهم أسماء تعكس أدوارهم، كونديكاي متخصص في العلامات التجارية، وأثينا محللة بيانات السوق، وبروميثيوس مسؤول جمع بيانات المبيعات، ومولر خبير تقديم الطعام، وإيلا مندوبة مبيعات.
كانت هذه الشخصيات مجرد أدوات بلا هوية أو ملامح. لكن مع مرور الوقت، اكتسب كل «زميل» اسماً وشخصية فريدة وقصة وهوية بصرية، وأصبح بإمكانهم التفاعل يومياً مع الموظفين، وتلقي التدريب عبر تزويدهم بالبيانات والمعلومات.
مكافحة المخدرات تقيم معرضًا توعويًّا بأضرار ومخاطر المخدرات والسموم والمؤثرات العقلية بالكلية التقنية