فريق OpenAI المكلف بحماية الإنسانية لم يعد موجودًا
تاريخ النشر: 18th, May 2024 GMT
في صيف عام 2023، أنشأت OpenAI فريق "Superalignment" الذي كان هدفه هو التوجيه والتحكم في أنظمة الذكاء الاصطناعي المستقبلية التي يمكن أن تكون قوية جدًا بحيث يمكن أن تؤدي إلى انقراض الإنسان. وبعد أقل من عام، مات هذا الفريق.
وأخبرت OpenAI بلومبرج أن الشركة كانت "تدمج المجموعة بشكل أكثر عمقًا في جهودها البحثية لمساعدة الشركة على تحقيق أهداف السلامة الخاصة بها".
وفي بيان نُشر على موقع X يوم الجمعة، قال Leike إن فريق Superalignment كان يكافح من أجل الحصول على الموارد اللازمة لإنجاز البحث. وكتب لايكي: "إن بناء آلات أكثر ذكاءً من الإنسان هو مسعى خطير بطبيعته". "تتحمل شركة OpenAI مسؤولية هائلة نيابة عن البشرية جمعاء. ولكن على مدى السنوات الماضية، تراجعت ثقافة السلامة وعملياتها إلى المنتجات اللامعة. لم تستجب OpenAI على الفور لطلب التعليق من Engadget.
جاءت رحيل Leike في وقت سابق من هذا الأسبوع بعد ساعات من إعلان كبير العلماء في OpenAI Sutskevar أنه سيترك الشركة. لم يكن Sutskevar واحدًا من رواد فريق Superalignment فحسب، بل ساعد أيضًا في تأسيس الشركة. جاءت خطوة سوتسكيفار بعد ستة أشهر من مشاركته في قرار إقالة الرئيس التنفيذي سام ألتمان بسبب مخاوف من أن ألتمان لم يكن "صريحًا باستمرار" مع مجلس الإدارة. أثارت إقالة ألتمان القصيرة للغاية ثورة داخلية داخل الشركة حيث وقع ما يقرب من 800 موظف على خطاب هددوا فيه بالاستقالة إذا لم تتم إعادة ألتمان إلى منصبه. وبعد خمسة أيام، عاد ألتمان إلى منصب الرئيس التنفيذي لشركة OpenAI بعد أن وقع سوتسكيفار على خطاب يفيد بأنه نادم على أفعاله.
عندما أعلنت عن إنشاء فريق Superalignment، قالت OpenAI إنها ستخصص 20 بالمائة من طاقة الكمبيوتر الخاصة بها على مدى السنوات الأربع المقبلة لحل مشكلة التحكم في أنظمة الذكاء الاصطناعي القوية في المستقبل. كتبت الشركة في ذلك الوقت: "[الحصول على] هذا الحق أمر بالغ الأهمية لتحقيق مهمتنا". في X، كتب Leike أن فريق Superalignment كان "يكافح من أجل الحوسبة وكان الأمر يزداد صعوبة أكثر فأكثر" لإجراء أبحاث مهمة حول سلامة الذكاء الاصطناعي. كتب: "على مدى الأشهر القليلة الماضية، كان فريقي يبحر عكس الريح"، وأضاف أنه وصل إلى "نقطة الانهيار" مع قيادة OpenAI بسبب الخلافات حول الأولويات الأساسية للشركة.
على مدى الأشهر القليلة الماضية، كان هناك المزيد من حالات المغادرة من فريق Superalignment. وفي إبريل، أفادت التقارير أن شركة OpenAI فصلت اثنين من الباحثين، هما ليوبولد أشنبرينر وبافيل إسماعيلوف، بدعوى تسريب معلومات.
صرحت شركة OpenAI لبلومبرج أن جهود السلامة المستقبلية الخاصة بها سيقودها جون شولمان، وهو مؤسس مشارك آخر، والذي تركز أبحاثه على نماذج اللغات الكبيرة. جاكوب باتشوكي، المدير الذي قاد تطوير GPT-4 - أحد نماذج اللغات الكبيرة الرائدة في OpenAI - سيحل محل سوتسكيفار كرئيس للعلماء.
لم يكن Superalignment هو الفريق الوحيد في OpenAI الذي يركز على سلامة الذكاء الاصطناعي. وفي أكتوبر، أنشأت الشركة فريقًا جديدًا "للاستعداد" للقضاء على "المخاطر الكارثية" المحتملة من أنظمة الذكاء الاصطناعي بما في ذلك قضايا الأمن السيبراني والتهديدات الكيميائية والنووية والبيولوجية.
تحديث، 17 مايو 2024، الساعة 3:28 مساءً بالتوقيت الشرقي: ردًا على طلب للتعليق على مزاعم Leike، قام أحد موظفي العلاقات العامة في OpenAI بتوجيه Engadget إلى تغريدة Sam Altman قائلًا إنه سيقول شيئًا ما في اليومين المقبلين.
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی على مدى فی OpenAI فریق ا
إقرأ أيضاً:
سرقة مواهب الناس عبر الذكاء الاصطناعي
#سواليف
خطة شريرة تهدف لإضعاف قانون حقوق النشر، والسماح لشركات #التكنولوجيا بالاستفادة مجانًا من #مواهب_الناس. هذه فضيحة، وسوف تعاني الأمة من عواقبها. آندرو لويد ويبر – The Guardian
يتحدث الكاتب عن سرقة أعماله وأعمال ابنه الإبداعية التي تتعرض للاستغلال من قبل حكومة المملكة المتحدة بسبب المقترح القاضي بتقليص حقوق الطبع والنشر لصالح #الذكاء_الاصطناعي. ويقول الكاتب في هذا الصدد:
نحن أب وابنه: كتب أحدنا 16 مسرحية موسيقية وما زال العدد في تزايد، بينما شارك الآخر في تأسيس The Other Songs، وهي شركة رائدة مستقلة للتسجيلات والنشر. وقد وظف عملنا الآلاف على مستوى العالم، مما أدى إلى رعاية الجيل القادم من المواهب.
مقالات ذات صلةإن حقوق الطبع والنشر هي الأساس الذي يحمي هذا، وكل الأعمال الإبداعية؛ من الموسيقى والمسرح والأدب إلى الأفلام والفن. وتضمن حقوق الطبع والنشر للمبدعين الاحتفاظ بالسيطرة والحصول على تعويض عادل. كما أنها تدعم الاقتصاد الإبداعي. وببساطة، إنها تسمح للفنانين والمبدعين بكسب لقمة العيش. وقد أظهرت دراسات لا حصر لها مدى الفائدة التي تعود على بقية المجتمع من الإبداع – الموسيقى والمسرح والرقص والفن والأفلام والتلفزيون، والقائمة لا حصر لها.
ولكن اليوم، تقترح حكومة المملكة المتحدة تغييرات من شأنها أن تحرم المبدعين من هذه الحماية. فبموجب مشروع قانون البيانات (الاستخدام والوصول)، سيُسمَح لشركات الذكاء الاصطناعي بأخذ الأعمال، الماضية والمستقبلية، واستخدامها كبيانات تدريب دون موافقة أو دفع.
وتهضم هذه النماذج كميات هائلة من المحتوى الذي أنشأه الإنسان ثم تولد تقليدا، متجاوزة حقوق المبدعين الأصليين. ونظام “الانسحاب” الذي اقترحته الحكومة، على أساس أن المبدعين سيكونون دائما في وضع يسمح لهم بالاحتفاظ بحقوقهم مسبقا، ليس إلا مجرد خدعة. فمن المستحيل من الناحية الفنية أن يختار الفنانون الانسحاب. وتنتهي مشاورات الحكومة اليوم، ولكن ينبغي لنا أن نكون واضحين: هذا ليس تنظيما، بل هو تصريح مجاني للذكاء الاصطناعي لاستغلال الإبداع دون عواقب.
إن الذكاء الاصطناعي قادر على تكرار الأنماط، ولكنه لا يخلق ولا يبدع. وإذا تُرِك دون تنظيم، فلن يكون مجرد أزمة إبداعية، بل فشل اقتصادي في طور التكوين. وسوف يُغرق الذكاء الاصطناعي السوق بتقليدات من صنع الآلات، مما يقوض الإبداع البشري ويدمر الصناعات التي تحرك الوظائف والسياحة والهوية الثقافية البريطانية. وسوف تتعثر الصناعة الإبداعية التي نزدهر فيها جميعا بطرق لا حصر لها.
وتزعم الحكومة أن إضعاف قانون حقوق النشر من شأنه أن يجذب استثمارات الذكاء الاصطناعي، وأنها تقدم “نظام حقوق نشر يوفر للمبدعين سيطرة حقيقية، وشفافية، ويساعدهم على ترخيص محتواهم”، ولكن لا يوجد دليل يدعم هذا. وسوف تستخرج شركات الذكاء الاصطناعي العالمية الملكية الفكرية البريطانية بينما تواصل عملياتها في أماكن أخرى، مما يترك المبدعين البريطانيين في وضع غير مؤات. وفي الوقت نفسه، تقوم شركات الذكاء الاصطناعي المسؤولة مثل Adobe وDeepMind بالفعل بترخيص المحتوى، مما يثبت أن التنظيم والابتكار يمكن أن يتعايشا.
والحل واضح. فالتعديلات التي اقترحتها بيبان كيدرون على مشروع القانون من شأنها أن تقدم ضمانات تضمن لشركات الذكاء الاصطناعي الحصول على الإذن ودفع ثمن المحتوى الذي تستخدمه. والبديل هو أن نواصل “الوهم القائل بأن المصلحة الأفضل للمملكة المتحدة ومستقبلها الاقتصادي يتماشى مع مصالح وادي السيليكون”.
إن حماية حقوق النشر ليست عائقًا أمام ابتكارات الذكاء الاصطناعي؛ بل إنها الأساس الذي يسمح للمبدعين بإنتاج أعمال عالية الجودة يعتمد عليها الذكاء الاصطناعي. وفي غياب قوانين حقوق النشر القوية، سوف يتم تخفيض قيمة الإبداع البشري وإزاحته بواسطة الآلات. فهل نريد لأطفالنا أن يكتشفوا ديفيد بوي التالي، أو ديفيد بو الذكاء الاصطناعي؟
إننا نقف عند منعطف محوري. فقد أدى عصر البث المباشر بالفعل إلى تقليص قيمة مؤلفي الأغاني إلى الحد الذي يجعل الكثيرين يكافحون من أجل كسب لقمة العيش. وتخصص عائدات البث المباشر حوالي 15٪ لمؤلفي الأغاني، بينما تتلقى شركات التسجيل والفنانين 55٪، وتطالب خدمات البث المباشر بنسبة 30٪. وعلاوة على ذلك، لا يتم تعويض مؤلفي الأغاني مقدمًا عن أغانيهم المستخدمة من قبل الفنانين وشركات التسجيل، على عكس التلفزيون والسينما والمسرح حيث يوجد خيار لأعمالهم. وبالتالي، فإن الاعتماد فقط على 15٪ يمثل تحديًا لا يمكن التغلب عليه. والآن، تخاطر المملكة المتحدة بارتكاب خطأ أكبر.
لقد قدمت بريطانيا، في عام 1710، أول قانون لحقوق التأليف والنشر في العالم، وهو قانون آن، الذي وضع المعيار العالمي لحماية المبدعين. وحتى ذلك الحين، كان المؤلفون يجدون أن حقوق التأليف والنشر لأعمالهم تعود إلى طابعي ذلك العمل. وكان النشر الذاتي غير قانوني فعليًا، لكن القانون أعطى الكتّاب القدرة على امتلاك إبداعاتهم الخاصة. ومن غير المقبول أن تخطط هذه الحكومة بعد أكثر من 300 عام لتفكيك هذه الحماية.
إن الآلة التي تعمل بالذكاء الاصطناعي ليست إنسانًا. لقد حان الوقت لتكثيف الجهود وحماية الأشخاص الذين يشكلون قلب الاقتصاد الإبداعي الذي لا مثيل له في المملكة المتحدة. وإذا فشلت هذه الجهود، فسوف نعاني جميعًا.
خبير سياسات دولية: قبرص من أكثر دول أوروبا المساندة لمصر في مواقفها