تشات جي بي تي ينشئ فريقاً لمنع مخاطر الذكاء الاصطناعي
تاريخ النشر: 20th, December 2023 GMT
أنشأت شركة "أوبن إيه آي"، التي أطلقت أداة "تشات جي بي تي"، فريقاً مخصصاً لتحديد المخاطر المتعلقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطراً للغاية.
يأتي هذا الإعلان بعد شهر من إقالة سام ألتمان مبتكر واجهة المحادثة "تشات جي بي تي"، الذي أعيد إلى منصبه بعد بضعة أيام.
وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لشركة "أوبن إيه آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.
وسيقود الفريق الجديد ألكسندر مادري الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (ام اي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي الاثنين على منصة "إكس" (تويتر سابقا).
وسيستند الفريق إلى إطار عمل تحدده وثيقة، نُشرت الاثنين، تحدد نطاقه وإجراءاته.
وستهتم هذه المجموعة الجديدة، بشكل أساسي، بما يسمى بالنماذج "الطليعية" (frontier models)، التي تُطوّر حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.
وقال مسؤولو "أوبن إيه آي" في الوثيقة "نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".
وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية.
ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.
أما الثاني، فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.
وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري.
وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.
وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه.
وسيقرر رئيس "أوبن إيه آي" بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.
وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي خطر الذکاء الاصطناعی أوبن إیه آی
إقرأ أيضاً:
سامسونج تعلن عن One UI 7.. تصميم جديد يناسب عصر الذكاء الاصطناعي
كشفت سامسونج خلال مؤتمرها اليوم عن واجهة المستخدم الجديدة One UI 7، التي تم تصميمها خصيصًا لعصر الذكاء الاصطناعي المتنقل، لتقديم تجربة سلسة ومتكاملة.
وأوضحت سامسونج أن هذه الواجهة الجديدة تجمع بين ميزات وخدمات وتفاعلات تعمل بتناغم تام عبر مختلف التطبيقات والأجهزة.
ميزة Drawing Assistوأعلنت الشركة أن One UI 7 تتضمن ميزات مبتكرة مثل AI Select، التي تقترح ميزات الذكاء الاصطناعي بناءً على محتوى الشاشة، وميزة Drawing Assist، التي تساعد المستخدمين على تحرير الصور وإنشائها بسهولة.
كما تسمح الواجهة بالتفاعل الطبيعي مع الهاتف باستخدام الأوامر الصوتية لإكمال المهام بشكل مريح.
كما أضافت سامسونج ميزات جديدة تعزز تجربة المستخدم اليومية، مثل Now Brief، التي تقدم لمحة مخصصة عن اليوم، مع عرض معلومات هامة مثل تحديثات الاجتماعات والنتائج الرياضية مباشرة على شاشة القفل.
بحسب ما اعلنته سامسونج اليوم بمؤتمرها بعاصمة كوريا الجنوبية، توفر ميزة Now Bar تحديثات في الوقت الفعلي حول الفرق الرياضية التي يتابعها المستخدم.
وأوضحت الشركة أن One UI 7 تقدم أيضًا ميزة Circle to Search، التي تعتمد على تقنيات البحث المتقدمة من جوجل، مع إمكانية التعرف على الأرقام، عناوين البريد الإلكتروني، عناوين URL، وحتى الموسيقى، مما يجعل تنفيذ الإجراءات المطلوبة سهلاً بنقرة واحدة.
ميزة Gemini Liveكما أعلنت سامسونج عن ميزة Gemini Live، التي تتيح للمستخدمين إجراء محادثات طبيعية وسلسة مع مساعد الذكاء الاصطناعي الخاص بهم، مع تكامل كامل عبر أجهزة سامسونج.
واوضحت سامسونج في مؤتمرها انه لتعزيز الشفافية وحماية حقوق الملكية الفكرية، تدعم الواجهة معيار C2PA، الذي يتيح للمستخدمين معرفة ما إذا كان المحتوى مدعومًا بالذكاء الاصطناعي.
وأكدت سامسونج المؤتمر أن One UI 7 ليست مجرد تحديث، بل هي خطوة نحو مستقبل يعتمد على الذكاء الاصطناعي لتوفير تجربة شخصية ومتكاملة.
مواقيت الصلاة اليوم الخميس 23 يناير في المدن والمحافظات