أوبن إيه آي تتيح نماذجها للحكومة الأميركية
تاريخ النشر: 1st, September 2024 GMT
أبرمت شركة "أوبن إيه آي"، مبتكرة برنامج "تشات جي بي تي" للذكاء الاصطناعي التوليدي، اتفاقا مع الحكومة الأميركية تتيح لها بموجبه الوصول إلى نماذجها اللغوية الجديدة قبل إطلاقها، بهدف رصد أي مخاطر محتملة، بحسب ما أوردته وكالة الأنباء الفرنسية.
وتوفر نماذج اللغة برامج يمكنها إنشاء نص أو صورة أو مقطع صوتي بناء على طلب بسيط بلغة يومية، على غرار ما يوفره "تشات جي بي تي".
وعقدت هيئة "إيه آي سايفتي إنستيتيوت" (معهد سلامة الذكاء الاصطناعي)، التي أنشأتها حكومة جو بايدن عام 2023، الاتفاق نفسه مع أحد المنافسين الرئيسيين لـ"أوبن إيه آي" هي شركة "أنثروبيك"، وفق ما ذكر بيان نُشر الخميس.
وأشارت الهيئة إلى أن الشركتين الناشئتين تعهدتا بالتعاون معها من أجل "تقييم قدرات النماذج والمخاطر المرتبطة بالسلامة"، وكذلك العمل على "طرق إدارة هذه المخاطر".
وقالت مديرة المعهد إليزابيث كيلي في البيان إن "هذه الاتفاقات ليست سوى البداية، وتمثل خطوة مهمة في المساعدة على توجيه مستقبل الذكاء الاصطناعي نحو نهج مسؤول".
ويساهم تطور نماذج اللغات الكبيرة باستمرار في زيادة قدراتها وكذلك المخاطر المرتبطة بها، لا سيما في حالة استخدامها بشكل ضار.
وقال المشارك في تأسيس "أنثروبيك" جاك كلارك، في حديث إلى وكالة الأنباء الفرنسية، إن "الذكاء الاصطناعي الآمن والموثوق مهم جدا لهذه التكنولوجيا لكي يكون لها تأثير إيجابي".
وأضاف "سيعتمد تعاوننا مع الهيئة على خبرتها لاختبار نماذجنا بدقة قبل نشرها على نطاق واسع".
المصدر: الجزيرة
كلمات دلالية: حراك الجامعات حريات إیه آی
إقرأ أيضاً:
استخدام الذكاء الاصطناعي من جوجل لمعالجة البطالة
تمتلك ولاية نيفادا مساعدًا جديدًا في سعيها لتجاوز تراكمات من مطالبات البطالة: الذكاء الاصطناعي من جوجل.
أفاد موقع جيزمودو أن المبادرة ستكلف أحد نماذج الذكاء الاصطناعي المستندة إلى السحابة الخاصة بالشركة بتحليل نصوص جلسات الاستئناف واقتراح ما إذا كان ينبغي الموافقة على القضايا. مرحبًا بكم في المستقبل، حيث يزن الروبوت ما إذا كنت ستحصل على أموال الحكومة التي طلبتها.
كتبت صحيفة نيفادا إندبندنت في يونيو أن نموذج الذكاء الاصطناعي، المدرب على قانون البطالة وسياسات الولاية، سيحلل نصوص جلسات الاستئناف الافتراضية. ثم سيصدر حكمًا، سيراجعه موظف الولاية بحثًا عن الأخطاء ويقرر ما إذا كان سيحترمه.
إنه يحل محل عملية إدارة التوظيف والتدريب وإعادة التأهيل الحالية في ولاية نيفادا (DETR)، والتي يستغرق متوسطها ثلاث ساعات لإتمامها من قبل إنسان حقيقي. وقال كارل ستانفيلد، مدير تكنولوجيا المعلومات في وزارة العمل، لصحيفة نيفادا إندبندنت إن الذكاء الاصطناعي من جوجل (الذي يستخدم نظام فيرتكس السحابي الخاص بالشركة) يمكنه الحكم في غضون خمس دقائق. وقال ستانفيلد: "إن توفير الوقت أمر هائل".
من السهل أن نفهم لماذا قد تكون نيفادا حريصة على الاعتماد على التكنولوجيا الناشئة. ففي شهر يونيو الماضي، ورد أن الولاية لديها تراكم لأكثر من 10000 استئناف غير معالج، حوالي 1500 منها متبقية من الوباء. وإذا كانت مراجعات التكنولوجيا دقيقة - أو اكتشف المراجعون البشريون أخطائها - فقد يكون ذلك بمثابة توفير كبير للوقت.
ومع ذلك، قد يكون هناك ضغط نفسي على الموظفين الذين يراجعون الحالات للختم على استنتاجات الذكاء الاصطناعي. قالت ميشيل إيفرمور، نائبة المدير السابقة لسياسة تحديث البطالة في وزارة العمل، لموقع جيزمودو: "إذا قدم لك روبوت للتو توصية وعليك فقط تحديد مربع وهناك ضغط لتصفية تراكم، فهذا أمر مقلق بعض الشيء".
وقال ستانفيلد لموقع جيزمودو إن لجنة الحوكمة ستجتمع أسبوعيًا بينما تعمل الدولة على ضبط النموذج وربع سنويًا بعد أن يتم تشغيله لمراقبة الهلوسة والتحيز. قد تكون المخاطر عالية بالنسبة للمطالبين حيث يمكن للنظام المدعوم بالذكاء الاصطناعي أن يؤثر على قدرتهم على استئناف القرارات الزائفة. قالت إليزابيث كارمونا، المحامية البارزة في خدمات نيفادا القانونية، لموقع جيزمودو: "في الحالات التي تنطوي على أسئلة واقعية، لا يمكن للمحكمة الجزئية استبدال حكمها بحكم محكم الاستئناف". بعبارة أخرى، إذا فات الإنسان الذي يراجع القرار أخطاء الذكاء الاصطناعي، فقد لا تتمتع المحكمة بالوضع القانوني لإلغائه.
قال أحد الساسة في نيفادا الأمر بصراحة أكبر. قال عضو مجلس الشيوخ في ولاية نيفادا سكيب دالي (ديمقراطي من رينو) لصحيفة نيفادا إندبندنت هذا الصيف: "هل فقدنا عقولنا المحبة دائمًا؟" "أنا فقط أشك في مفهوم الإفراط في الاعتماد على الخوارزميات وأجهزة الكمبيوتر. آمل أن نتحلى بالحذر في هذا الأمر، وأن نفكر قبل أن نقول: "يتعين علينا أن نكون أسرع أو أفضل من الشخص التالي".
كامل الوزير يصل موقع حادث قطاري الزقازيق