كيو ستار Q* وبرنامج الذكاء الخارق.. هل يهدد البشرية؟
تاريخ النشر: 23rd, November 2023 GMT
السومرية نيوز – منوعات
قبل 4 أيام من الإطاحة بسام ألتمان، الشريك المؤسس والرئيس التنفيذي لشركة "أوبن إيه آي"، كشفت وكالة "رويترز" نقلا عن شخصين مطلعين على الأمر، أن العديد من الباحثين الموظفين أرسلوا رسالة إلى مجلس الإدارة تحذرهم من اكتشاف قوي للذكاء الاصطناعي قالوا إنه "قد يهدد البشرية".
وقال المصدران إن الرسالة التي لم يتم الإبلاغ عنها سابقا وخوارزمية الذكاء الاصطناعي كانتا تطورا رئيسيا قبل إطاحة مجلس الإدارة بألتمان، الطفل المدلل للذكاء الاصطناعي التوليدي.
وأشار المصدران إلى أن هذه الرسالة تعتبر أحد العوامل من بين قائمة أطول من التظلمات المقدمة من مجلس الإدارة والتي أدت إلى إقالة ألتمان.
ولم تتمكن رويترز من مراجعة نسخة من الرسالة. ولم يستجب الباحثون الذين كتبوا الرسالة على الفور لطلبات التعليق.
ووفقًا لأحد المصادر، تحدثت ميرا موراتي، المديرة التنفيذية، الأربعاء، للموظفين عن المشروع، المسمى "كيو ستار" (Q*)، وقالت إنه تم إرسال خطاب إلى مجلس الإدارة قبل أحداث نهاية هذا الأسبوع.
وقال أحد الأشخاص لـ"رويترز" إن الشركة المصنعة لـ"تشات جي بي تي" أحرزت تقدما في مشروع "كيو ستار" والذي يعتقد البعض داخليا أنه يمكن أن يمثل تقدما في بحث الشركة الناشئة عن الذكاء الفائق، المعروف أيضا باسم الذكاء العام الاصطناعي (AGI) .
ويُعرّف "أوبن إيه آي" الذكاء الاصطناعي العام بأنه أنظمة ذكاء اصطناعي أكثر ذكاءً من البشر.
ونظرًا للموارد الحاسوبية الهائلة، كان النموذج الجديد قادرا على حل بعض المشكلات الرياضية، حسبما قال الشخص الذي طلب عدم الكشف عن هويته.
وقال المصدر إنه رغم أداء المعادلات فقط على مستوى طلاب المدارس الابتدائية فقط، فإن التفوق في مثل هذه الاختبارات جعل الباحثين متفائلين للغاية بشأن نجاح "كيو ستار" في المستقبل.
ولم تتمكن رويترز من التحقق بشكل مستقل من قدرات "كيو ستار" التي ادعاها الباحثون.
وحاولت "رويترز" شرح الذكاء الفائق، موضحة أن الباحثين يعتبرون الرياضيات بمثابة حدود لتطوير الذكاء الاصطناعي التوليدي.
وفي الوقت الحالي، يعد الذكاء الاصطناعي التوليدي جيدا في الكتابة وترجمة اللغة من خلال التنبؤ إحصائيا بالكلمة التالية، ويمكن أن تختلف الإجابات على نفس السؤال بشكل كبير. لكن التغلب على القدرة على حساب المعادلات الرياضية، حيث لا توجد سوى إجابة واحدة صحيحة، يعني أن الذكاء الاصطناعي سيتمتع بقدرات تفكير أكبر تشبه الذكاء البشري. ويعتقد باحثو الذكاء الاصطناعي أن هذا يمكن تطبيقه على الأبحاث العلمية الجديدة.
وعلى عكس الآلة الحاسبة التي يمكنها حل عدد محدود من العمليات، يمكن للذكاء الاصطناعي العام التعميم والتعلم والفهم.
وفي رسالتهم إلى مجلس الإدارة، أشار الباحثون إلى براعة الذكاء الاصطناعي والخطر المحتمل، حسبما قالت المصادر دون تحديد المخاوف المتعلقة بالسلامة على وجه التحديد المذكورة في الرسالة.
ولقد كان هناك نقاش منذ فترة طويلة بين علماء الكمبيوتر حول الخطر الذي تشكله الآلات فائقة الذكاء، على سبيل المثال، إذا قرروا أن تدمير البشرية كان في مصلحتهم.
وعلى هذه الخلفية، قاد ألتمان الجهود الرامية إلى جعل "تشات جي بي تي" واحدا من أسرع التطبيقات البرمجية نموًا في التاريخ وجذب الاستثمار وموارد الحوسبة اللازمة من مايكروسوفت للاقتراب من الذكاء الفائق، أو "إيه جي آي".
المصدر: السومرية العراقية
كلمات دلالية: الذکاء الاصطناعی مجلس الإدارة
إقرأ أيضاً:
د. محمد عسكر يكتب: سباق الذكاء الاصطناعي وتحذير أخير
الذكاء الإصطناعي هو حديث العالم، خصوصا تطبيقات الدردشة القادرة على التجاوب معك. لكن ألا يمثل هذا خطرا كبيرا؟
الدردشة مع تطبيقات الذكاء الإصطناعي هي الترند حالياً في عالم التكنولوجيا والتقنية، خصوصاً عندما يتعلّق الأمر بالنسخة المطورة من "شات جي بي تي- 4" التي تم إطلاقها حديثاً، والتي توفر خصائص جديدة تتعدى بكثير النسخة السابقة. هذا وإن كان التطوّر الكبير في الذكاء الإصطناعي يجذب الإهتمام حاليا لما يتمتع به من مقومات وقدرات فائقه ، وخصوصاً قدرته على تقديم أجوبة فيها نسب عالية من الدقة، كذلك قدرته على القيام بعدد من المهام البشرية في العديد من المهن، ومن ذلك على سبيا المثال لا الحصر مهام الكتابة والترجمة والمحاسبة وجمع المعلومات والتحليل المالي وغير ذلك، ولكنه على الجانب الآخر يثير مخاوف كبيرة تهدّد الكثير من الناس ليس فقط بفقدان وظائفهم ولكن شتى جوانب حياتهم اليومية وقد وصل الأمر لفقدان شخص حياته بالانتحار من أثر تعامله مع أحد هذه البرامج.
خلال العقود الماضية كانت المخاطر التي دأب الكثيرون على التحذير منها هي الانفجار السكاني، التلوث البيئي ونقص الموارد الطبيعية. أما اليوم ومع التطور التكنولوجى الهائل في شتى المجالات ومع تعدد تطبيقاته، فقد تحول الأمر إلى أخطار أخرى تمثل تهديداً وجودياً؛ روبوتات سيصل ذكاؤها إلى درجة تسمح لها بالتفوق على البشر، خاصة مع قدرات الذكاء الإصطناعي اللامحدوده، أو فيروسات حاسوبية مدمرة قد توقف الإنترنت عن العمل. الذكاء الإصطناعي هو الموضة الجديدة التي يدور الحديث حولها الأن في كل المجالات، في أجهزة الهواتف الذكية، في الأجهزة المنزلية، في التلفزيونات، في الأسلحة، وأيضاً في السيارت الذكية، التي يفترض أن تنتشر قريباً في مدن العالم. القلق الحقيقي، وفق بعض الخبراء، هو أنه وبحلول العام 2075، سـتصل آلات مزودة بقدرات خاصة إلى مستويات ذكاء تفوق مستوى الإنسان بكثير مما يمكنها من اتخاذ قرارات بشكل ذاتي، من دون العودة إلى أي مرجعية بشرية.
لذلك وجب التحذير من أن هذا التطور المتسارع بهذه الوتيرة والإفرط فى تطوير برامج وتقنيات الذكاء الإصطناعى دون ضوابط حقيقية أو أنظمة حماية سيؤثر سلبًا على الجنس البشري وسيؤدي في لحظة ما إلى أضرار جسيمة في عدة جوانب حساسة في حياته. فقدرة الأجهزة التقنية على اتخاذ آلاف القرارات المعقدة في الثانية الواحدة يمكن استخدامها إما فى منفعة أو إيذاء الناس، ويعتمد ذلك على الشخص نفسة الذي يقوم بتصميم النظام.
كان مثيراً للإهتمام وجود أسماء مهتمة كثيرة بالتطور التكنولوجي، كـ إيلون ماسك يدعو إلى التوقف لمدة ستة أشهر عن تطوير أنظمة أقوى من روبوت الدردشة (شات جي.بي.تي-4) الذي أطلقته شركة أوبن إيه.آي في الآونة الأخيرة، مشيرا إلى المخاطر المحتملة لمثل هذه التطبيقات على المجتمع. وفى نفس الوقت فقد طالب كثير من الخبراء فى المجال بوقف موقّت لعمليات تطوير برامج الذكاء الإصطناعي إلى حين إعتماد أنظمة حماية، تتيح تنظيم هذه العمليات ومراقبتها وتحليل المعلومات الواردة إليها، وكذلك معالجة ما قد ينجم عن إستخدامها من إختلالات.
ونحن هنا وإن كنا ندرك أهمية التطور التكنولوجى فإننا فى ذات الوقت نتسأل عن جدوى تطوير "عقول غير بشرية قد تفوقنا عدداً وتتفوق علينا في النهاية وتحل محلنا "؟ وعن خطر المجازفة بفقدان السيطرة على الحضارة البشرية.
هل يجب أن نسمح للآلات بذلك؟
برلماني: مش معقول كل ما الحكومة تتنزنق تلجأ للاقتراض