موظف في "أوبن إيه آي" يحذر من نهاية البشرية على يد الذكاء الاصطناعي
تاريخ النشر: 31st, January 2025 GMT
أعلن ستيفن أدلر باحث الذكاء الاصطناعي وأحد مطوري برنامج "شات جي بي تي" ومسؤول السلامة في شركة "أوبن إيه آي" عن استقالته، معربا عن قلقه الشديد من التطورات المتسارعة في مجال الذكاء الاصطناعي، وفقا لموقع "إندبندنت".
وقد عمل أدلر في الشركة -التي تتخذ من كاليفورنيا مقرا- منذ مارس/آذار 2022، أي قبل 8 أشهر من إطلاق "شات جي بي تي" وكشف عن استقالته وسط مخاوف بشأن وتيرة تطور الذكاء الاصطناعي، إذ قال "بصراحة أنا مرعوب جدا من سرعة تطور الذكاء الاصطناعي هذه الأيام".
وأضاف الباحث "عندما أفكر في المكان الذي سأبني فيه عائلة أو المبلغ الذي يجب أن أدخره للتقاعد، لا يسعني إلا أن أتساءل: هل ستصل البشرية حتى إلى تلك المرحلة؟".
وفي سلسلة منشورات على منصة إكس، أشار أدلر إلى التنافس الشديد نحو تطوير ذكاء اصطناعي يُضاهي أو يتجاوز الذكاء البشري، والمعروف بالذكاء الاصطناعي العام "إيه جي آي" (AGI).
وقد صرّح سام ألتمان الرئيس التنفيذي لشركة "أوبن إيه آي" -مرارا وتكرارا- أن هدفه هو الوصول للذكاء الاصطناعي العام، ولكن بطريقة تفيد البشرية جمعاء.
وفي المقابل، حذر بعض الباحثين البارزين في مجال الذكاء الاصطناعي من أنه بمجرد تحقيق هذه التقنية فلن يتمكن البشر من التحكم فيها وقد تخرج الأمور عن السيطرة، كما أثاروا مخاوف بشأن الذكاء الفائق الذي يتفوق على البشر.
وقد أظهر استطلاع رأي لخبراء الذكاء الاصطناعي عام 2022 أن غالبية هؤلاء يعتقدون أن احتمالية حدوث كارثة وجودية للبشرية يبلغ 10% على الأقل، بحسب الصحيفة البريطانية.
ويأتي خبر استقالة أدلر بعد أيام فقط من إطلاق "ديب سيك" (DeepSeek) الصينية نموذجا للذكاء الاصطناعي يُنافس "شات جي بي تي" وغيره من النماذج التي أنتجتها شركات التكنولوجيا الأميركية، وهو ما أعاد تعريف السباق العالمي في هذا المجال.
وقال أدلر "إن سباق الوصول إلى الذكاء الاصطناعي العام رهان محفوف بالمخاطر مع عواقب كارثية هائلة" وأضاف "لا يوجد حل لمشكلة انحياز الذكاء الاصطناعي من حيث توافق أهدافه مع أهداف البشر، وكلما تسارعنا في السباق قلّت احتمالية إيجاد الحلول في الوقت المناسب.
وتابع "اليوم، يبدو أننا عالقون في حالة توازن سيئة للغاية، حتى إذا أراد مختبر ما تطوير الذكاء الاصطناعي العام بشكل مسؤول يمكن للآخرين أن يتخذوا طرقا مختصرة للحاق بالركب وربما بشكل كارثي، وهذا يدفع الجميع لتسريع تطوير نماذجهم. آمل أن تكون المختبرات صريحة بشأن اللوائح الأمنية الحقيقية المطلوبة لوقف هذا".
المصدر: الموقع بوست
كلمات دلالية: الذکاء الاصطناعی الاصطناعی العام
إقرأ أيضاً:
تحديات جوهرية تواجه تطور الذكاء الاصطناعي
#سواليف
أظهر استطلاع حديث لخبراء في مجال #الذكاء_الاصطناعي أن توسيع نماذج اللغات الكبيرة (LLMs) لن يؤدي إلى تحقيق الذكاء الاصطناعي العام (AGI).
يعدّ AGI بمثابة النقلة النوعية التي تمكّن الأنظمة من التعلم بشكل فعّال كالذكاء البشري أو أفضل منه.
وأكد 76% من 475 باحثا في المجال، أنهم يرون أن هذا التوسع “غير مرجح” أو “غير مرجح جدا” أن يحقق هذا الهدف المنشود.
مقالات ذات صلة إعداد بسيط في هاتفك قد يجعلك تبدو أصغر بـ10 سنوات! 2025/04/01وتعتبر هذه النتيجة انتكاسة كبيرة للصناعات التكنولوجية التي توقعت أن تحسينات بسيطة في النماذج الحالية من خلال مزيد من البيانات والطاقة ستؤدي إلى الذكاء الاصطناعي العام.
ومنذ #طفرة الذكاء الاصطناعي التوليدي في 2022، كانت التوقعات تركز على أن زيادة الموارد كافية لتجاوز #الذكاء_البشري. لكن مع مرور الوقت، وبالرغم من الزيادة الكبيرة في الإنفاق، فإن التقدم قد تباطأ بشكل ملحوظ.
وقال ستيوارت راسل، عالم الحاسوب في جامعة كاليفورنيا، بيركلي، والذي شارك في إعداد التقرير: “منذ إصدار GPT-4، أصبح واضحا أن التوسع في النماذج كان تدريجيا ومكلفا. الشركات قد استثمرت أموالا ضخمة بالفعل، ولا يمكنها التراجع بسبب الضغوط المالية”.
وفي السنوات الأخيرة، ساهمت البنية الأساسية المبتكرة المسماة “المحولات” (Transformers)، التي ابتكرها علماء غوغل عام 2017، في تحسن قدرات نماذج الذكاء الاصطناعي. وتستفيد هذه النماذج من زيادة البيانات لتوليد استجابات أدق. ولكن التوسع المستمر يتطلب موارد ضخمة من الطاقة والمال.
وقد استقطب قطاع الذكاء الاصطناعي المولّد نحو 56 مليار دولار في رأس المال المغامر عام 2024، مع تكريس جزء كبير من هذه الأموال لبناء مراكز بيانات ضخمة تسببت في زيادة انبعاثات الكربون ثلاث مرات منذ 2018.
ومع استنفاد البيانات البشرية القابلة للاستخدام بحلول نهاية هذا العقد، فإن الشركات ستضطر إما لاستخدام البيانات التي أنشأها الذكاء الاصطناعي نفسه أو جمع بيانات خاصة من المستخدمين، ما يعرض النماذج لمخاطر أخطاء إضافية. وعلى الرغم من ذلك، لا يقتصر السبب في محدودية النماذج الحالية على الموارد فقط، بل يتعدى ذلك إلى القيود الهيكلية في طريقة تدريب هذه النماذج.
كما أشار راسل: “المشكلة تكمن في أن هذه النماذج تعتمد على شبكات ضخمة تمثل مفاهيم مجزّأة، ما يجعلها بحاجة إلى كميات ضخمة من البيانات”.
وفي ظل هذه التحديات، بدأ الباحثون في النظر إلى نماذج استدلالية متخصصة يمكن أن تحقق استجابات أكثر دقة. كما يعتقد البعض أن دمج تقنيات الذكاء الاصطناعي مع أنظمة تعلم آلي أخرى قد يفتح آفاقا جديدة.
وفي هذا الصدد، أثبتت شركة DeepSeek الصينية أن بإمكانها تحقيق نتائج متميزة بتكاليف أقل، متفوقة على العديد من نماذج الذكاء الاصطناعي التي تعتمد عليها شركات التكنولوجيا الكبرى في وادي السيليكون.
ورغم التحديات، ما يزال هناك أمل في التقدم، حيث يقول توماس ديتريش، الأستاذ الفخري لعلوم الحاسوب في جامعة ولاية أوريغون: “في الماضي، كانت التطورات التكنولوجية تتطلب من 10 إلى 20 عاما لتحقيق العوائد الكبيرة. وهذا يعني أن هناك فرصة للابتكار بشكل كبير في مجال الذكاء الاصطناعي، رغم أن العديد من الشركات قد تفشل في البداية”.