باحثو OpenAI يحذرون من اكتشاف قوي للذكاء الاصطناعي!
تاريخ النشر: 26th, November 2023 GMT
حذر باحثو OpenAI من اكتشاف خطير محتمل للذكاء الاصطناعي، قبل إقالة الرئيس التنفيذي سام ألتمان من الشركة، وفقا للتقارير.
وقال شخصان مطلعان على الأمر لـ"رويترز"، إن العديد من الموظفين في شركة الذكاء الاصطناعي كتبوا رسالة إلى مجلس الإدارة تتضمن تفاصيل الخوارزمية. وبحسب ما ورد كان هذا الكشف بمثابة تطور رئيسي في الفترة التي سبقت إقالة ألتمان.
وقبل عودته يوم الثلاثاء، هدد أكثر من 700 موظف بالاستقالة والانضمام إلى شركة "مايكروسوفت" الداعمة تضامنا مع رئيسهم المطرود.
وأشارت المصادر إلى الرسالة كعامل واحد من بين قائمة أطول من المظالم التي قدمها مجلس الإدارة، والتي أدت إلى إقالة ألتمان، ومن بينها المخاوف بشأن تسويق التقدم قبل فهم العواقب.
ولم يستجب الموظفون الذين كتبوا الرسالة لطلبات التعليق، ولم تتمكن "رويترز" من مراجعة نسخة من الرسالة.
وقال أحد الأشخاص إن OpenAI رفضت التعليق على الرسالة لكنها اعترفت في رسالة داخلية للموظفين بوجود مشروع يسمى Q*.
وقال متحدث باسم OpenAI إن الرسالة، التي أرسلتها المديرة التنفيذية منذ فترة طويلة، ميرا موراتي، نبهت الموظفين إلى بعض القصص الإعلامية دون التعليق على دقتها.
ويعتقد البعض في OpenAI أن Q* يمكن أن يكون إنجازا كبيرا في بحث الشركة الناشئة عما يُعرف بالذكاء الاصطناعي العام (AGI)، حسبما قال أحد الأشخاص لـ"رويترز". وتُعرّف OpenAI الذكاء الاصطناعي العام بأنه أنظمة مستقلة تتفوق على البشر في معظم المهام ذات القيمة الاقتصادية.
ونظرا للموارد الحاسوبية الهائلة، كان النموذج الجديد قادرا على حل بعض المشكلات الرياضية، حسبما قال الشخص الذي طلب عدم الكشف عن هويته لأنه غير مخول بالتحدث نيابة عن الشركة.
إقرأ المزيد
وقال المصدر إنه على الرغم من أداء الرياضيات فقط على مستوى طلاب المدارس الابتدائية، فإن النجاح في مثل هذه الاختبارات جعل الباحثين متفائلين للغاية بشأن نجاح Q* في المستقبل. ولم تتمكن "رويترز" من التحقق بشكل مستقل من قدرات Q* المزعومة.
ويعتبر الباحثون الرياضيات بمثابة حدود لتطوير الذكاء الاصطناعي التوليدي.
وفي الوقت الحالي، يعد الذكاء الاصطناعي التوليدي جيدا في الكتابة وترجمة اللغة من خلال التنبؤ إحصائيا بالكلمة التالية، ويمكن أن تختلف الإجابات على السؤال نفسه بشكل كبير. لكن القدرة على حل مسائل الرياضيات حيث لا يوجد سوى إجابة واحدة صحيحة يعني أن الذكاء الاصطناعي سيتمتع بقدرات تفكير أكبر تشبه الذكاء البشري. ويعتقد باحثو الذكاء الاصطناعي أن هذا يمكن تطبيقه على الأبحاث العلمية الجديدة.
وفي رسالتهم إلى مجلس الإدارة، أشار الباحثون إلى براعة الذكاء الاصطناعي والخطر المحتمل، حسبما قالت المصادر دون تحديد المخاوف المتعلقة بالسلامة على وجه التحديد المذكورة في الرسالة.
وكان هناك نقاش طويل بين علماء الكمبيوتر حول الخطر الذي تشكله الآلات عالية الذكاء، على سبيل المثال، إذا قررت أن تدمير البشرية في مصلحتها.
كما أشار الباحثون أيضا إلى العمل الذي قام به فريق "عالم الذكاء الاصطناعي"، والذي أكدت مصادر متعددة وجوده.
وقاد ألتمان الجهود الرامية إلى جعل ChatGPT واحدا من أسرع التطبيقات البرمجية نموا في التاريخ وجذب الاستثمار - وموارد الحوسبة - اللازمة من "مايكروسوفت" للتقرب من الذكاء الاصطناعي العام (AGI).
وبالإضافة إلى الإعلان عن عدد كبير من الأدوات الجديدة في عرض توضيحي هذا الشهر، أعرب ألتمان الأسبوع الماضي خلال قمة لزعماء العالم في سان فرانسيسكو عن اعتقاده بوجود تقدم كبير في الأفق.
المصدر: إندبندنت
المصدر: RT Arabic
كلمات دلالية: بحوث تكنولوجيا ذكاء اصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
العالم في عصر الذكاء الاصطناعي الفائق
أعلنت شركة أوبن إيه آي (OpenAI) منذ تأسيسها في سان فرانسيسكو عام 2015 أن هدفها الرئيسي يتمثل في تطوير ذكاء اصطناعي عام (AGI) وآمن يحاكي ذكاء الإنسان، ويفيد البشرية جمعاء، لكنها لم تتحدث عن موعد إنجاز ذلك حتى فترة قريبة.
في شهر يوليو/تموز 2024، تحدثت أوبن إيه آي عن تصنيف الذكاء الاصطناعي ضمن 5 مستويات، هي:
المستوى الأول: الذكاء الاصطناعي التحاوري (Conversational AI)يشير هذا المستوى إلى التقنيات التي تُمكّن الآلات من فهم ومعالجة لغة البشر والحوار معهم بطريقة طبيعية وسياقية، ومساعدتهم في إنشاء المحتوى الخاص بهم. يشمل ذلك روبوتات الدردشة، والمساعدات الافتراضية، وأدوات أخرى مصممة للتفاعل مع المستخدمين من خلال النص أو الصوت أو كلاهما معا.
تتوافر حاليا عدة برمجيات تقع ضمن هذا المستوى، ولكن بدرجات متفاوتة من حيث الهدف وطبيعة الاستخدام، منها شات جي بي تي من أوبن إيه آي، وأليكسا من أمازون، وكوبايلوت من مايكروسوفت، وسيري من آبل، وجيميناي من غوغل، وواتسون من آي بي إم، إلخ. المستوى الثاني: الذكاء الاصطناعي المنطقي (Reasoning AI)
يشير هذا المستوى إلى الأنظمة الذكية المصممة لمحاكاة التفكير المنطقي واتخاذ القرارات بشكل مشابه للبشر. يتضمن ذلك استخدام خوارزميات لحل المشكلات، واستخلاص الاستنتاجات، واتخاذ القرارات بناءً على البيانات والقواعد المعطاة. بدأت بعض الشركات حديثا بتجريب تقنيات تعتبر ضمن المراحل الأولى لهذا المستوى، مثل "o1" من أوبن ايه آي. المستوى الثالث: الذكاء الاصطناعي المستقل (Autonomous AI)
يشير هذا المستوى إلى الأنظمة القادرة على أداء المهام واتخاذ القرارات بشكل مستقل دون تدخل بشري. تستخدم هذه الأنظمة التعلم الآلي الذاتي، والاستدلال المنطقي، والإدراك للتكيف والاستجابة لبيئتها بشكل ديناميكي. يمكن لهذه الأنظمة العمل كوكيل (Agent) مستقل نيابة عن المستخدم، كممارسة عمله أثناء إجازته.
تعمل العديد من الشركات للوصول إلى هذا المستوى، لكنها لم تبلغه بعد بشكل كامل. أبسط الأمثلة على ذلك هو السيارات ذاتية القيادة عندما تصل إلى مستوى لا يتطلب مراقبة بشرية لعملها. المستوى الرابع: الذكاء الاصطناعي الابتكاري (Innovating AI)
يشير هذا المستوى إلى الأنظمة الذكية القادرة على استكشاف وابتكار وتطوير أفكار أو منتجات أو حلول جديدة بشكل مستقل. يستخدم التفكير الناقد في هذا المستوى لتطوير الأعمال وتحقيق الأهداف بكفاءة عالية. يمثل بلوغ هذا المستوى قفزة هائلة في قدرات وتطبيقات الذكاء الاصطناعي، تقربه من الذكاء الاصطناعي الفائق. المستوى الخامس: الذكاء الاصطناعي التنظيمي (Organizational AI)
يشير هذا المستوى الأخير إلى ذكاء اصطناعي فائق (Superintelligence) قادر على أداء عمل منظمة أو مؤسسة بأكملها أي يقوم بأعمال كل شخص لدى المنظمة أو المؤسسة، وكل وظيفة يتم تنفيذها، وذلك بواسطة وكلاء آليين يعملون معا، ويجرون التحسينات، ويديرون كل ما هو مطلوب دون الحاجة لوجود إنسان.
لا يكتفي الذكاء الاصطناعي التنظيمي بإدارة أعمال المنظمة أو المؤسسة بأكملها فقط، بل ويحسن ويعزز العمليات التجارية واتخاذ القرارات من خلال تحليل البيانات، والتوصل إلى رؤى تدعم التخطيط الإستراتيجي وتحسن كفاءة العمل.
في سبتمبر/أيلول 2024، صرح سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، أن تحقيق الذكاء الاصطناعي الفائق الذي يتفوق على البشر في جميع المجالات، قد يكون ممكنا في غضون "بضعة آلاف من الأيام"، أي بضع سنوات.
في الثامن من نوفمبر/تشرين الثاني 2024، أجرى جاري تان، رئيس مجلس الإدارة والرئيس التنفيذي لحضانة الشركات الناشئة واي كومبينيتور (Y Combinator)، مقابلة مع سام ألتمان، سأله فيها "ما الذي أنت متحمس له في عام 2025؟" "ماذا سيأتي؟"
أجاب ألتمان على الفور: "الذكاء الاصطناعي العام". "أنا متحمس لذلك".
هل هذا واقعي؟في مارس/آذار 2023 وبعد مدة وجيزة من إطلاق شات جي بي تي 4، تم إخضاعه للعديد من الامتحانات المطلوبة للقبول في الجامعات الأميركية أو لممارسة الأعمال، حيث أحرز فيها نتائج جيدة. ففي اختبار سات (SAT) الذي تعتمده الجامعات الأميركية للقبول، حصل في قسم القراءة والكتابة المستندة إلى الأدلة (Evidence-Based Reading & Writing) على درجة 710 من 800، أي حقق درجة أفضل من 93 بالمئة من الأشخاص الذين تقدموا لهذا الاختبار.
وحصل في قسم الرياضيات (Math) على درجة 700 من 800، محققا بذلك درجة أفضل من 89 بالمئة من الأشخاص الذين تقدموا لهذا الاختبار. وحصل بالمجمل على 1410 درجات من أصل 1600، مما يؤهله للقبول في جميع الجامعات الأميركية بما فيها جامعات النخبة (مثل هارفارد وستانفورد)، التي تتطلب عادة درجات أعلى من 1400.
وفي اختبار القبول في كلية الطب (MCAT) حصل على 511 درجة من أصل 528، وكان أداؤه أفضل من أداء 80 بالمئة من الأشخاص الذين تقدموا لهذا الامتحان. وكانت درجته تؤهله للقبول في أرقى الكليات التي تتطلب 510 درجات على الأقل. وأحرز شات جي بي تي 4، درجة قدرها 297 في امتحان نقابة المحامين الأميركيين الموحد (UBE)، الذي يؤهل المحامين لممارسة المهنة، وهي نتيجة تتجاوز الحد الأدنى المطلوب للنجاح في كافة الولايات الأميركية، مع العلم أن الحد الأدنى للنجاح في ولاية أريزونا هو الأعلى بين كافة الولايات الأميركية ويبلغ 273 درجة من 400.
وجاء أداؤه أفضل من أداء 90 بالمئة من الأشخاص الذين تقدموا لهذا الامتحان. هذه النتائج لا تعني أن مستوى ذكائه أصبح قريبا من ذكاء البشر، إذ لا يزال لديه العديد من نقاط الضعف وخاصة في مجال المنطق (reasoning)، وذلك ما حاولت أوبن إيه آي تحسينه في إصدارتها الحديثة "o1″، كما أنها تبذل جهودا كبيرة حاليا لتطوير القدرات المنطقية في إصدارات العام المقبل.
وفق المستويات الخمسة التي حددتها أوبن إيه آي، يمكن القول إن المستوى الذي يؤهل للذكاء الاصطناعي العام، هو المستوى الثاني، أي الذكاء الاصطناعي المنطقي. أما المستويات التي تتجاوز ذلك (الذكاء الاصطناعي المستقل والابتكاري والتنظيمي) فتمثل خطوات متقدمة نحو الذكاء الاصطناعي الفائق (ASI)، متجاوزة قدرات الذكاء الاصطناعي العام الأساسية.
إذا نجحت أوبن إيه آي في مسعاها لتطوير القدرات المنطقية للذكاء الاصطناعي لمنتجاتها خلال عام 2025، فيمكننا القول إننا بلغنا المستوى الأساسي للذكاء الاصطناعي العام، وفق اختبار آلان تورينغ (المتعارف عليه حاليا) الذي يقيس قدرة الآلة على محاكاة السلوك البشري في الحوار، بحيث لا يستطيع الشخص معرفة إن كان يتفاعل مع إنسان أو آلة.
في أكتوبر/تشرين الأول 2023 وخلال مناقشة عامة تتناول مستقبل الذكاء الاصطناعي، قال سام ألتمان: "إذا لم نبنِ بنية أساسية كافية، فسيكون الذكاء الاصطناعي العام متاحا لعدد قليل من الناس، مما قد يشعل الحروب، ويصبح في الغالب أداة بيد الأثرياء".
التحذير من أخطار تفوق الذكاء الاصطناعي على البشر ليست بالجديدة. ففي مقابلة مع بي بي سي عام 2014، قال عالم الفيزياء الراحل ستيفن هوكينغ: "تطوير الذكاء الاصطناعي الكامل يمكن أن يؤدي إلى نهاية الجنس البشري". أما إيلون ماسك فيعتقد أن هذا الاحتمال هو 20 بالمئة فقط، لكن يجب علينا أن نفعل ذلك على أي حال، حسب رأيه.
أما عالم الحاسوب الكندي الحائز جائزة تورنغ عام 2018 والذي يعتبر أحد آباء الذكاء الاصطناعي، يوشوا بينجيو فقال عن الذكاء الاصطناعي "نحن نخلق وحوشا أقوى منا".
وحذر الأمين العام للأمم المتحدة أنطونيو غوتيريش مرارا من خطورة استخدام الأسلحة الذكية التي تعمل تلقائيا قائلا "استهداف البشر بواسطة آلات مزودة بذكاء اصطناعي مستقل هو خط أخلاقي لا يجب تجاوزه".
وما يؤكد الشكوك في احتمال استخدام الذكاء الاصطناعي لتطوير أسلحة ذاتية العمل هو ما أعلنته شركة ميتا أوائل هذا الشهر من أنها ستسمح لوكالات الأمن القومي الأميركية ومقاولي الدفاع باستخدام نموذج الذكاء الاصطناعي مفتوح المصدر لاما (Llama) الذي طورته.
أخيرا، وفي أثناء مناقشة حول مستقبل الذكاء الاصطناعي جرت عام 2017، قال فلاديمير بوتين: "من سيتربع على عرش الذكاء الاصطناعي سوف يحكم العالم".
الذكاء الاصطناعي العام والفائق على الأبواب، وسوف يجعل من يمتلكه قادرا على القيام بأشياء تبدو خيالية حتى الآن. وقد تقوم الحروب من أجله، وقد ينتهي في أيدي فئات قليلة من أصحاب النفوذ، ما لم يتغير النظام العالمي الراهن.
الاتحاد يعسكر في دبي