تشات جي بي تي ينشئ فريقاً لمنع مخاطر الذكاء الاصطناعي
تاريخ النشر: 20th, December 2023 GMT
أنشأت شركة "أوبن إيه آي"، التي أطلقت أداة "تشات جي بي تي"، فريقاً مخصصاً لتحديد المخاطر المتعلقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطراً للغاية.
يأتي هذا الإعلان بعد شهر من إقالة سام ألتمان مبتكر واجهة المحادثة "تشات جي بي تي"، الذي أعيد إلى منصبه بعد بضعة أيام.
وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لشركة "أوبن إيه آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.
وسيقود الفريق الجديد ألكسندر مادري الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (ام اي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي الاثنين على منصة "إكس" (تويتر سابقا).
وسيستند الفريق إلى إطار عمل تحدده وثيقة، نُشرت الاثنين، تحدد نطاقه وإجراءاته.
وستهتم هذه المجموعة الجديدة، بشكل أساسي، بما يسمى بالنماذج "الطليعية" (frontier models)، التي تُطوّر حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.
وقال مسؤولو "أوبن إيه آي" في الوثيقة "نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".
وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية.
ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.
أما الثاني، فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.
وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري.
وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.
وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه.
وسيقرر رئيس "أوبن إيه آي" بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.
وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي خطر الذکاء الاصطناعی أوبن إیه آی
إقرأ أيضاً:
آيدكس 2025.. لوكهيد مارتن تؤكد أهمية الذكاء الاصطناعي في تعزيز الأمن
أكد جون نيكلسون، الرئيس التنفيذي لشركة لوكهيد مارتن في الشرق الأوسط والفريق أول المتقاعد في الجيش الأميركي، أن تقنية الذكاء الاصطناعي تعيد تشكيل ملامح الحروب الحديثة، وتؤثر في جميع جوانب العمليات العسكرية، بدءًا من الخطوط الأمامية وصولًا إلى العمليات اللوجستية.
وأشار إلى قدرة الذكاء الاصطناعي على استيعاب البيئة المحيطة وتحليل السيناريوهات المحتملة، وتقييم المخاطر، مما يعزز القدرات التشغيلية في مختلف المجالات.
وأكد أن الذكاء الاصطناعي يسهم في زيادة كفاءة استغلال الموارد البشرية، خاصة في مجالات الاستخبارات، حيث يمكنه جمع وتحليل البيانات بسرعة فائقة، ما يقلل الحاجة إلى فرق كبيرة من المحللين.
وأوضح أن الذكاء الاصطناعي يحقق قفزات نوعية في الكفاءة التشغيلية، خصوصًا في مجالات الصيانة التنبؤية واللوجستيات، ويسهم ذلك في تحسين الأداء وتقليل الأعطال غير المتوقعة.
وقال إن الذكاء الاصطناعي يمثل ركيزة أساسية في إعادة تشكيل أنظمة القيادة والتحكم، حيث يمكن لهذه التقنية الربط بين أجهزة الاستشعار وأنظمة الأسلحة والأهداف المحتملة، مما يوفر للقادة رؤية شاملة ودقيقة لكافة التهديدات والأصول العسكرية.
أخبار ذات صلةوأضاف أن ساحة المعركة تعد بيئة معقدة تكتنفها الأخطاء وسوء التقدير، إلا أن الذكاء الاصطناعي يسهم في تزويد القادة بمعلومات دقيقة، مما يقلل من فرص اندلاع النزاعات عبر تمكين الأطراف من الحصول على رؤية واضحة للموقف الاستراتيجي.
وأبرز أهمية الاستثمار في العنصر البشري، حيث تعمل لوكهيد مارتن بالتعاون مع مركز الابتكار والدراسات الأمنية على تدريب الخريجين الجدد، ما يمنحهم معرفة متعمقة حول تقنيات الذكاء الاصطناعي وتطبيقاته في مجالات متعددة.
وأكد أن الذكاء الاصطناعي أصبح جزءًا لا يتجزأ من جميع برامج لوكهيد مارتن، مشيرًا إلى نجاح الشركة في تشغيل طائرتي “F-16” ومروحية بلاك هوك بشكل ذاتي بالكامل، دون الحاجة إلى تدخل بشري.
وفي إطار فعاليات معرضي "آيدكس" و"نافدكس 2025"، تطرق نيكلسون إلى اللقاءات التي أجرتها الشركة مع الشركاء الدوليين، حيث جرى خلالها تناول دور الذكاء الاصطناعي في تعزيز الأمن واستعراض أحدث التقنيات المطورة بالشراكة مع الإمارات.
وأعرب عن فخر شركة "لوكهيد مارتن" أكبر شركة للصناعات العسكرية في العالم، بوجودها في الإمارات على مدار 50 عامًا، مشيراً إلى تطلعات الشركة لمواصلة هذه الشراكة الاستراتيجية لسنوات قادمة.
المصدر: وام
الفاخري: نرفض العقوبات الأمريكية على جنوب أفريقيا