تشات جي بي تي ينشئ فريقاً لمنع مخاطر الذكاء الاصطناعي
تاريخ النشر: 20th, December 2023 GMT
أنشأت شركة "أوبن إيه آي"، التي أطلقت أداة "تشات جي بي تي"، فريقاً مخصصاً لتحديد المخاطر المتعلقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطراً للغاية.
يأتي هذا الإعلان بعد شهر من إقالة سام ألتمان مبتكر واجهة المحادثة "تشات جي بي تي"، الذي أعيد إلى منصبه بعد بضعة أيام.
وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لشركة "أوبن إيه آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.
وسيقود الفريق الجديد ألكسندر مادري الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (ام اي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي الاثنين على منصة "إكس" (تويتر سابقا).
وسيستند الفريق إلى إطار عمل تحدده وثيقة، نُشرت الاثنين، تحدد نطاقه وإجراءاته.
وستهتم هذه المجموعة الجديدة، بشكل أساسي، بما يسمى بالنماذج "الطليعية" (frontier models)، التي تُطوّر حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.
وقال مسؤولو "أوبن إيه آي" في الوثيقة "نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".
وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية.
ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.
أما الثاني، فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.
وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري.
وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.
وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه.
وسيقرر رئيس "أوبن إيه آي" بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.
وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي خطر الذکاء الاصطناعی أوبن إیه آی
إقرأ أيضاً:
الذكاء الاصطناعي في الإمارات.. محرك التحوّل نحو مستقبل ذكي
تتبنّى دولة الإمارات استراتيجيات متقدّمة في توظيف الذكاء الاصطناعي ضمن قطاعات متعددة، أبرزها الخدمات الحكومية، والرعاية الصحية، والتعليم، والنقل، والأمن، والاقتصاد الرقمي، بهدف تعزيز الكفاءة وتحسين جودة الحياة، ما جعلها نموذجاً عالمياً رائداً في توظيف التكنولوجيا لبناء مستقبل أكثر ذكاءً واستدامة.
في هذا السياق، أكّد المهندس علي سعيد بوزنجال، مدير إدارة التحوّل الرقمي في مجمّع الشارقة للبحوث والتكنولوجيا والابتكار، عبر 24، أن القطاع الحكومي في الإمارات كان من أوائل القطاعات التي تبنّت الذكاء الاصطناعي، مما مكّن المواطنين والمقيمين من إنجاز العديد من المعاملات إلكترونياً دون الحاجة إلى زيارة المراكز الحكومية، بفضل التطبيقات الذكية. كما يُستخدم الذكاء الاصطناعي في تحليل البيانات الضخمة، ما يسهم في دعم اتخاذ القرار داخل المؤسسات الحكومية.
وقال: "في القطاع الصحي، يُسهم الذكاء الاصطناعي في تحسين جودة الرعاية الطبية من خلال تشخيص أدق للأمراض، وتحليل صور الأشعة، وتقديم تنبؤات طبية تدعم الأطباء في اتخاذ قرارات أفضل. كما تُستخدم الروبوتات الطبية في العمليات الجراحية الدقيقة لرفع مستوى الدقة والسلامة".
وأضاف: "في المجال الأمني، تعتمد الجهات المختصة على تقنيات الذكاء الاصطناعي في أنظمة المراقبة، والتعرف على الوجوه، وتحليل السلوك، مما يساعد على منع الجرائم قبل وقوعها، وتحسين سرعة الاستجابة للحوادث. كما يلعب الذكاء الاصطناعي دوراً محورياً في تعزيز الأمن السيبراني وحماية البيانات".
وفي قطاع التعليم، أوضح بوزنجال أن الذكاء الاصطناعي يتيح تخصيص المحتوى الدراسي بما يتناسب مع قدرات كل طالب، ويُسهم في تطوير أدوات التقييم الآلي والمساعدات التفاعلية، ما يُحسّن تجربة التعلّم ويُعزّز كفاءة التعليم. كما يُوظّف في القطاع المالي للكشف عن الاحتيال، وتحليل البيانات لدعم القرارات الاستثمارية، إلى جانب تقديم استشارات مالية ذكية.
تعزيز الكفاءةمن جهته، أشار علاء دلغان، المدير التنفيذي لشركة "كوجنيت دي إكس" المتخصصة في الذكاء الاصطناعي والتحوّل الرقمي، إلى أن دولة الإمارات تركّز على توظيف تقنيات الذكاء الاصطناعي في القطاعات الاستراتيجية لتحسين الكفاءة وجودة الخدمات.
وأوضح أن قطاع الطاقة يستفيد من تقنيات الذكاء الاصطناعي في إدارة الموارد بكفاءة، وتعزيز الاستدامة عبر مبادرات ذكية مثل "ديوا". أما في التعليم، فيُستخدم الذكاء الاصطناعي لتحليل أداء الطلاب وتخصيص المناهج التعليمية. وفي القطاع المصرفي، تلجأ البنوك إلى الذكاء الاصطناعي لاكتشاف الاحتيال وتقديم خدمات مالية مخصصة، كما تُستخدم الأنظمة الذكية في الجهات الحكومية لتقديم خدمات سريعة وفعّالة، ما يُحسّن تجربة المتعامل ويزيد من كفاءة الأداء الحكومي.
حجر الأساسمن جانبه، أكد حسين المحمودي، المدير التنفيذي لمجمّع الشارقة للبحوث والتكنولوجيا والابتكار، أن الذكاء الاصطناعي بات يشكّل حجر الأساس في العديد من القطاعات الحيوية في الدولة، مشيراً إلى أن الإمارات تسخّر إمكاناتها لدعم الابتكار في هذا المجال.
وبين أن أبرز تطبيقات الذكاء الاصطناعي تظهر في قطاع الرعاية الصحية، من خلال التشخيص المبكر للأمراض وتحليل البيانات الطبية بدقة فائقة. كما يلعب دوراً رئيسياً في قطاع النقل والتنقل الذكي، من خلال تطوير المركبات ذاتية القيادة، وإدارة حركة المرور عبر أنظمة تحليل البيانات اللحظية.
وأشار المحمودي إلى أن الحكومة الإماراتية تعتمد على الذكاء الاصطناعي في تحسين تجربة المتعاملين، من خلال الأتمتة والتفاعل الذكي، ما ينعكس في تقديم خدمات أكثر دقة وكفاءة. مضيفاً أن الإمارات تشهد تطوراً ملحوظاً في مجال الأمن السيبراني، من خلال رصد التهديدات الرقمية والاستجابة لها بشكل فوري.
وتابع: تسهم تقنيات الذكاء الاصطناعي في قطاعي الطاقة والاستدامة، في تحسين كفاءة إدارة الموارد، من خلال مراقبة استهلاك الطاقة في المدن الذكية، وتطوير حلول متقدمة لرصد الانبعاثات البيئية. مؤكداً أن هذه التوجهات تجسد التزام الإمارات بتبنّي أحدث الابتكارات التقنية، وجعل الذكاء الاصطناعي ركيزة أساسية لمستقبلها الاقتصادي والتنموي.
أزمة السكن في أوروبا: هل تجد دول الاتحاد الحل؟