تشات جي بي تي ينشئ فريقاً لمنع مخاطر الذكاء الاصطناعي
تاريخ النشر: 20th, December 2023 GMT
أنشأت شركة "أوبن إيه آي"، التي أطلقت أداة "تشات جي بي تي"، فريقاً مخصصاً لتحديد المخاطر المتعلقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطراً للغاية.
يأتي هذا الإعلان بعد شهر من إقالة سام ألتمان مبتكر واجهة المحادثة "تشات جي بي تي"، الذي أعيد إلى منصبه بعد بضعة أيام.
وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لشركة "أوبن إيه آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.
وسيقود الفريق الجديد ألكسندر مادري الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (ام اي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي الاثنين على منصة "إكس" (تويتر سابقا).
وسيستند الفريق إلى إطار عمل تحدده وثيقة، نُشرت الاثنين، تحدد نطاقه وإجراءاته.
وستهتم هذه المجموعة الجديدة، بشكل أساسي، بما يسمى بالنماذج "الطليعية" (frontier models)، التي تُطوّر حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.
وقال مسؤولو "أوبن إيه آي" في الوثيقة "نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".
وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية.
ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.
أما الثاني، فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.
وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري.
وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.
وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه.
وسيقرر رئيس "أوبن إيه آي" بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.
وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي خطر الذکاء الاصطناعی أوبن إیه آی
إقرأ أيضاً:
مختص: بشكل كبير جدًا قد يحل الذكاء الاصطناعي محل الحكم في مباريات كرة القدم
المناطق_متابعات
أكد المختص في الذكاء الاصطناعي عصام القبيسي، إن الذكاء الاصطناعي، من الممكن أن يحل محل الحكم في مباريات كرة القدم.
وذكر خلال حديثه مع برنامج الراصد عبر قناة الإخبارية: كان هناك تجارب أن الحكم يستبدل بالذكاء الاصطناعي وكانت تلك المباريات بلا أخطاء تماماً، لكن أيضًا لدينا قناعة بشكل كبير أن الذكاء الاصطناعي هو عامل مساعد يساعد في اتخاذ قرارات معينة لكن لا يحل محل الحكم إلى الآن”.
أخبار قد تهمك مخرج: الذكاء الاصطناعي له استخدامات إيجابية في الجانب الإبداعي والدعم.. لكن الابتكار البشري لا يزال مطلوب 16 نوفمبر 2024 - 5:22 مساءً متحدث هيئة العقار: دخول الذكاء الاصطناعي في العقار سيحدث ثورة كبيرة في إنتاج المشاريع العقارية 28 أكتوبر 2024 - 9:52 صباحًاوتابع: لكن ممكن يعطي تنبؤات معينة ودراسات معينة يتم تعزيزها للمساعدة على الفوز، ولكن بشكل كبير جدًا ممكن أن يحل الذكاء الاصطناعي محل الحكم في مباريات كرة القدم.
الشلف.. وفاة شخص اختناقا بالغاز ببوقادير