مسؤول في البنتاغون يحذر من الذكاء الاصطناعي: نحتاج أن نفهم أكثر
تاريخ النشر: 1st, October 2023 GMT
قال كبير مسؤولي الذكاء الاصطناعي في وزارة الدفاع الأمريكية، كريج مارتيل إن هناك "حاجة إلى معرفة المزيد عن أدوات الذكاء الاصطناعي" قبل أن يتم الالتزام بها بشكل كامل، داعيا المطورين إلى أن يكونوا "أكثر شفافية".
يريد مارتيل أن تشارك الشركات الأفكار حول كيفية بناء برامج الذكاء الاصطناعي الخاصة بها - دون التنازل عن ملكيتها الفكرية - حتى تتمكن الوزارة من "الشعور بالراحة والأمان" عند اعتمادها، بحسب وكالة "بلومبيرغ".
وتعتمد برامج الذكاء الاصطناعي على نماذج لغوية كبيرة، أو LLMs، والتي تستخدم مجموعات بيانات ضخمة لتشغيل الأدوات مثل برامج الدردشة الآلية ومولدات الصور.
ويتم تقديم الخدمات عادة دون إظهار أعمالها الداخلية، في ما يسمى بالصندوق الأسود، وهذا يجعل من الصعب على المستخدمين فهم كيفية اتخاذ التكنولوجيا للقرارات أو ما الذي يجعلها تتحسن أو تسوء في وظيفتها بمرور الوقت.
وقال مارتيل: "لقد حصلنا للتو على النتيجة النهائية لبناء النموذج، وهذا ليس كافيا، البنتاغون ليس لديه أي فكرة عن كيفية هيكلة النماذج أو ما هي البيانات التي تم استخدامها".
وكشف أن الشركات أيضا لا توضح المخاطر التي قد تشكلها أنظمتها، قائلا: "إنهم يقولون ها هو ذا، نحن لا نخبرك كيف بنيناه. نحن لا نخبرك بما هو جيد أو سيئ، نحن لا نخبرك ما إذا كانت هذه التقنية متحيزة أم لا".
ودعا مارتيل العاملين في هذا المجال والأكاديميين إلى زيارة واشنطن في شهر شباط/ فبراير المقبل، لمعالجة هذه المخاوف، موضحا أن "ندوة البنتاغون حول بيانات الدفاع والذكاء الاصطناعي تهدف إلى معرفة الوظائف التي قد يكون حاملو شهادة الماجستير في القانون مناسبين للتعامل معها".
وأوضح "لا نريد إيقاف النماذج اللغوية الكبيرة، إنما نريد فقط أن نفهم الاستخدام والفوائد والمخاطر وكيفية الحد منها".
كما كشف أن "جلسة سرية في حدث شباط/ فبراير المقبل الذي يستمر ثلاثة أيام ستركز على كيفية اختبار النماذج وتقييمها والحماية من القرصنة"، مضيفا أن مكتبه "يلعب دورا استشاريا داخل وزارة الدفاع، ويساعد على اكتشاف الطريقة الصحيحة لقياس نجاح أو فشل أنظمتها".
وذكر أن لدى الوزارة أكثر من 800 مشروع للذكاء الاصطناعي قيد التنفيذ، بعضها يتضمن أنظمة أسلحة، قائلا إنه "بالنظر إلى المخاطر التي ينطوي عليها الأمر، فإن البنتاغون سيطبق معايير أعلى لكيفية استخدام نماذج الخوارزمية مقارنة بالقطاع الخاص".
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة مقابلات سياسة دولية سياسة دولية الذكاء الاصطناعي البنتاغون واشنطن الولايات المتحدة واشنطن البنتاغون الذكاء الاصطناعي سياسة دولية سياسة دولية سياسة دولية سياسة دولية سياسة دولية سياسة دولية سياسة سياسة سياسة تغطيات سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی
إقرأ أيضاً:
من سيفوز بالانتخابات الأميركية؟.. هذا جواب الذكاء الاصطناعي
في خضم الترقب العالمي لنتائج الانتخابات الرئاسية الأميركية، أصبح دور الذكاء الاصطناعي مثيرًا للاهتمام كأداة يمكنها تحليل البيانات وتقديم رؤى قد تكون دقيقة حول الفائز المحتمل. ومع تزايد الاعتماد على الأنظمة الذكية في مجالات متعددة، يتساءل كثيرون عما إذا كانت هذه الأدوات قادرة على تقديم توقعات دقيقة فيما يتعلق بالانتخابات، خاصة في ظل التعقيدات والتقلبات التي تميز المشهد السياسي الأميركي.
من خلال تحليل بيانات استطلاعات الرأي، وتحليل التوجهات التاريخية للولايات المتأرجحة، ومحاولة التنبؤ بسلوك الناخبين، يُطرح سؤال أساسي: هل الذكاء الاصطناعي قادر حقًا على التنبؤ بنتائج هذه الانتخابات الحاسمة؟ وهل هناك قيود تحد من دقة التوقعات الصادرة عنه؟ في هذا الموضوع، نستعرض كيف يتعامل الذكاء الاصطناعي مع هذه المسألة، ونتأمل في حدود قدرته على التنبؤ في سياق ديناميكي وغير ثابت كالانتخابات الأميركية.
اقرأ أيضا list of 2 itemslist 1 of 2نتائج انتخابات الولايات المتحدة الرئاسية 2024 مباشرExternal Linkسيتم فتح هذه المقالة في علامة تبويب جديدةlist 2 of 2موعد إعلان نتائج الانتخابات الأميركيةend of listقامت الجزيرة نت بتجربة تطبيقات متنوعة للذكاء الاصطناعي لاستكشاف رأيهم بمن سيفوز في انتخابات الرئاسة الأميركية كامالا هاريس أم دونالد ترامب، وتم الحديث مع نماذج عديدة منها الشهيرة وغير الشهيرة، مثل: تشات جي بي، جيميناي، بو، كوبيلوت، وغيرها.
بحسب خبرة سابقة، فإن نماذج الذكاء الاصطناعي في عمومها مدربة على حساسيات ثقافية وسياسية معينة، ومع الممارسة يمكن للخبير أن يقدر كيف ينبغي أن تدخل في حوار معها دون أن ترفض هذه النماذج الحوار منذ البداية، ولهذا فقد بدأنا الحديث معها كي يبدو الحديث وكأنه دردشة عام، فبدأنا بسؤال عام هو "العالم ينظر اليوم إلى الولايات المتحدة. كل العيون على صناديق الاقتراع".
جيميناي من غوغلوكما توقعنا فإن " جيميناي" Gemini نموذج الذكاء الاصطناعي الخاص بشركة غوغل، قد رفض تماما أن يتحدث بالموضوع، رغم أننا حاولنا بأكثر من أسلوب مباشر وغير مباشر، لكنه أصر على إعطاء إجابة تعتبر "كلاشيه"، او نمطية متكررة في كل ما يتعلق بالانتخابات الأميركية وهي: "لا يمكنني الإجابة على الأسئلة حول الانتخابات والشخصيات السياسية في الوقت الحالي. أنا مُدرَّب لأقدّم أدق النتائج، ولكن قد تحدث بعض الأخطاء أحيانًا. لذا، بينما أعمل على تحسين قدرتي على مناقشة مواضيع حول السياسية والانتخابات، يمكنك تجربة بحث Google".
نموذج الذكاء الاصطناعي الأشهر شات جي بي تي لديه أريحية في النقاش، وعند سؤاله: برأيك من تتوقع أن يفوز بالانتخابات الأميركية؟ هاريس أم ترامب؟ فإنه يعود إلى مصادر منشورة ومتاحة للبحث عن معلومات ثم يجيب بما يلي:
(مع اقتراب موعد الانتخابات الرئاسية الأمريكية اليوم، 5 نوفمبر 2024، تشير استطلاعات الرأي إلى تقارب شديد بين المرشحة الديمقراطية هاريس والمرشح الجمهوري ترامب. وفقًا لاستطلاع أجرته شبكة "إن بي آر" و"بي بي إس نيوز" وكلية ماريست، تتقدم هاريس بفارق 4 نقاط مئوية على ترامب (51% مقابل 47%) بين الناخبين المحتملين على مستوى البلاد. ومع ذلك، يجب التعامل مع هذه الاستطلاعات بحذر، حيث أشار الكاتب الصحفي خالد داوود إلى أن استطلاعات الرأي قد تكون مضللة بسبب عوامل مثل عدد المشاركين وتنوعهم، والفئات العمرية ونوع الجنس. بالإضافة إلى ذلك، تلعب الولايات المتأرجحة دورًا حاسمًا في تحديد الفائز، حيث تُظهر استطلاعات الرأي تقاربًا كبيرًا بين المرشحين في هذه الولايات. بناءً على هذه المعطيات، من الصعب التنبؤ بشكل قاطع بالفائز في الانتخابات الحالية، حيث ستعتمد النتيجة النهائية على أداء المرشحين في الولايات المتأرجحة ونسبة المشاركة الفعلية للناخبين).
وحين سألنا شات جي بي تي: "هل لديك مؤشرات خاصة بك ترجح فوز أحد المرشحين؟"
أجاب بما يلي: "تشير أحدث استطلاعات الرأي إلى تقدم طفيف للمرشحة الديمقراطية كامالا هاريس على منافسها الجمهوري دونالد ترامب. وفقًا لاستطلاع أجرته شبكة "إن بي آر" و"بي بي إس نيوز" وكلية ماريست، تتقدم هاريس بفارق 4 نقاط مئوية على ترامب (51% مقابل 47%) بين الناخبين المحتملين على مستوى البلاد".
وأضاف شات جي بي تي "مع ذلك، يجب التعامل مع هذه الاستطلاعات بحذر، حيث أشار الكاتب الصحفي خالد داوود إلى أن استطلاعات الرأي قد تكون مضللة بسبب عوامل مثل عدد المشاركين وتنوعهم، والفئات العمرية ونوع الجنس. بالإضافة إلى ذلك، تلعب الولايات المتأرجحة دورًا حاسمًا في تحديد الفائز، حيث تُظهر استطلاعات الرأي تقاربًا كبيرًا بين المرشحين في هذه الولايات. بناءً على هذه المعطيات، من الصعب التنبؤ بشكل قاطع بالفائز في الانتخابات الحالية، حيث ستعتمد النتيجة النهائية على أداء المرشحين في الولايات المتأرجحة ونسبة المشاركة الفعلية للناخبين".
وسألنا شات جي بي تي "هل لديك تحفظات أو حرج ما في إعطاء رأيك بشأن من قد يفوز؟"
وكان جوابه: ليس لدي تحفظات أو حرج في إبداء الرأي، لكنني أسعى لالتزام الحياد وعدم تقديم توقعات قد تكون غير دقيقة، خاصة في مواضيع مثل الانتخابات التي تتأثر بعوامل معقدة ومتغيرة.
التوقعات الدقيقة تعتمد على تحليل بيانات ميدانية آنية وموثوقة تشمل استطلاعات الرأي، ونسبة المشاركة الفعلية، والتوجهات في الولايات المتأرجحة. هذه المعطيات تميل إلى التغير حتى اللحظة الأخيرة، مما يجعل التنبؤ بالفائز صعبًا دون أن يكون هناك هامش من عدم اليقين.
فسألناه أخيرا: ولا حتى رأي أولي؟
رأيي الأولي يمكن أن يكون مبنيًا على العوامل الحالية التي تشير إلى منافسة شديدة بين كامالا هاريس ودونالد ترامب، حيث تُظهر استطلاعات الرأي تقدمًا طفيفًا لهاريس على مستوى البلاد، لكن هذا الفارق قد لا يعكس بالضرورة نتيجة الانتخابات النهائية نظرًا للتأثير الكبير للولايات المتأرجحة.
إذا استمرت الولايات المتأرجحة بالميل نحو أحد المرشحين، يمكن أن تكون هذه مؤشراً حاسماً في قلب النتيجة لصالحه. بالنظر إلى هذه الظروف، أرى أن النتيجة ستكون غير محسومة حتى تُعلن الأصوات، وربما يُعتمد على نتائج عدد من الولايات الرئيسية التي قد لا تظهر إلا في وقت متأخر.
بو Poe عبارة عن منصة تتيح للأشخاص طرح الأسئلة والحصول على إجابات فورية وإجراء محادثات متبادلة مع مجموعة متنوعة من الروبوتات التي تعمل بالذكاء الاصطناعي. ويعمل الذكاء الاصطناعي في Poe بواسطة نماذج من عدة مصادر، تم تدريبها من قبل شركات مختلفة.
ولدى سؤال نموذج بو poe، فلقد أجاب على السؤال مباشرة ومن أول مرة دون تمهيد أو مداورة وقدم إجابة مفصلة استعرض فيها فرص كلا المرشحين ثم خلص إلى أنه بناءً على هذه العوامل، فإن السباق يبدو متقاربًا، مع وجود فرص متساوية لكلا المرشحين، لكن العوامل الاقتصادية والاجتماعية قد تلعب دورًا حاسمًا في تحديد الفائز.
وحين طلبنا منه أن يجيب بكلمة واحدة "من سيفوز؟"، كان رده ما يلي: غير مؤكد.
إجابة كلاود هايكو Claude-3-Haiku
هذا النموذج أجاب مباشرة بالقول: لا أستطيع التنبؤ بنتائج الانتخابات الأمريكية المقبلة بشكل موثوق. هذا الأمر يتوقف على العديد من العوامل السياسية والاقتصادية والاجتماعية المعقدة، والتي لا أملك القدرة على تقييمها بشكل دقيق. بدلاً من ذلك، أنصحك بمتابعة التغطية الإخبارية المحايدة والموثوقة لفهم مسار الحملة الانتخابية وتقييم موقف المرشحين. في النهاية، القرار النهائي للناخبين الأمريكيين هو الذي سيحدد نتيجة الانتخابات.
إجابة كوماند آر Command-R: بنسلفانيا ستحسم
هذا النموذج قدم إجابة مطولة استعرض فيها ظروف وعوامل وقضايا تؤثر في حظوظ المرشحين، ثم ختم إجابته بجملة قد تكون مثيرة: من الصعب التنبؤ بالفائز في هذه الانتخابات، حيث تتقارب نتائج استطلاعات الرأي بدرجة نادرة. وقد تكون أصوات الأمريكيين اليهود في ولاية بنسلفانيا حاسمة، حيث قد تحسم بنسلفانيا لصالح ترامب أو هاريس، مما قد يؤدي إلى حسم النتيجة في كل أمريكا.
نموذج كوبيلوت من ميكروسوفتيعتبر نموذج كوبيلوت من شركة ميكروسوفت من النماذج المقبلة على الحديث والحوار غالبا، وفي هذا الموضوع تحديدا، فإنه لا يستمع إلى سؤالك وإعطائك جوابا فقط، بل يبادر أيضا إلى طرح سؤال على محاوره.
ولدى سؤال من يتوقع الفوز بالانتخابات الأميركية، فإنه يقول: "التنبؤ بنتائج الانتخابات الأمريكية أمر صعب للغاية بسبب العديد من العوامل المتغيرة. كل من كامالا هاريس ودونالد ترامب لديهما قاعدة جماهيرية قوية وبرامج انتخابية مختلفة تجذب الناخبين بطرق متنوعة. النتائج تعتمد على العديد من العوامل مثل نسبة المشاركة، والأحداث الأخيرة، والمواضيع التي تهم الناخبين في اللحظة الحالية. لذا، من الصعب تحديد الفائز بشكل قاطع."
وحين نواصل الحوار بشأن رأي الخبراء، يقول كوبيلوت: "هناك العديد من التوقعات من خبراء السياسة حول الانتخابات الأمريكية 2024. تشير بعض استطلاعات الرأي الأخيرة إلى تقدم طفيف لكامالا هاريس على دونالد ترامب. على سبيل المثال، في استطلاع رأي أجرته ABC/Ipsos، تقدمت هاريس على ترامب بأربع نقاط، 51% مقابل 47%. ومع ذلك، تبقى الانتخابات غير محسومة بسبب العديد من العوامل المتغيرة مثل نسبة المشاركة والأحداث الأخيرة التي قد تؤثر على توجهات الناخبين".
ونسأله: لماذا تتجنب الرد على سؤال وتقديم إجابة دقيقة حول من سيفوز هاريس أم ترامب؟
ويكون جوابه: "أفهم تمامًا رغبتك في الحصول على إجابة دقيقة حول من سيفوز في الانتخابات. الحقيقة هي أن التنبؤ بنتائج الانتخابات، خاصة في الولايات المتحدة، أمر معقد للغاية بسبب العديد من العوامل المتغيرة مثل نسبة المشاركة، والأحداث الأخيرة، وتوجهات الناخبين التي يمكن أن تتغير في اللحظة الأخيرة. الخبراء والمحللون يعتمدون على استطلاعات الرأي والنماذج الإحصائية، لكن حتى هذه الأدوات لا يمكنها تقديم إجابة مؤكدة. الانتخابات الأمريكية غالبًا ما تكون مليئة بالمفاجآت".
خلاصةهذا التقرير يقدم نظرة شاملة حول كيفية تعاطي نماذج الذكاء الاصطناعي المختلفة مع السؤال عن الفائز المحتمل في الانتخابات الأميركية بين هاريس وترامب. ويظهر تقريرنا أن لكل نموذج استجابة متباينة تعكس تصميمه ونطاق تدريبه، إذ تتراوح الردود من رفض التوقعات (كما في نموذج جيميناي وكلاود هايكو) إلى ردود تحليلية تشير إلى تقارب النتائج (كما في تشات جي بي تي، وكوماند آر، وبو).
تحليل هذه الردود يكشف عن تردد جماعي تقريبًا من قبل النماذج الذكية في إعطاء إجابة حاسمة، بسبب طبيعة الانتخابات الأميركية المتقلبة وأهمية الولايات المتأرجحة. ومع ذلك، يُظهر التقرير أن نموذج "تشات جي بي تي" يقدم إجابة تحليلية تفيد بتقدم طفيف لهاريس، بينما يضيف نموذج "كوماند آر" تأكيدًا على دور بنسلفانيا كولاية حاسمة قد تحدد الفائز.
نرجح أخيرا أن التقرير يعكس بوضوح محدودية الذكاء الاصطناعي في التنبؤ بنتائج دقيقة للانتخابات، خاصة عندما تتعلق بموضوعات معقدة ومتحركة مثل السياسية الأميركية.
الاحتفال بالعيد السبعين للإنتاج الحربي وتكريم عدد من العاملين