خطر على البشرية.. عاملون في الذكاء الاصطناعي يحذرون منه
تاريخ النشر: 6th, June 2024 GMT
مع التطور السريع للذكاء الاصطناعي ودخوله في مجالات شتى، حذر موظفون حاليون وسابقون في عملاق البحث “غوغل” و “OpenAI” t في رسالة مفتوحة من مخاطر هذه التقنية.
فقد أكدت رسالة مفتوحة لمجموعة مكونة من 11 موظفاً حالياً وسابقاً في OpenAI وموظف حالي وآخر سابق في “غوغل” أن الدوافع المالية لشركات الذكاء الاصطناعي تعيق الرقابة الفعالة.
“انقراض البشرية”
وحذرت الرسالة كذلك من المخاطر الناجمة عن الذكاء الاصطناعي غير المنظم، بدءا من انتشار المعلومات المضللة إلى فقدان أنظمة الذكاء الاصطناعي المستقلة وتعميق عدم المساواة القائمة، مما قد يؤدي إلى “انقراض البشرية”.
كما وجد الباحثون أمثلة لمولدات الصور من شركات بما في ذلك OpenAI وMicrosoft التي تنتج صوراً تحتوي على معلومات مضللة متعلقة بالتصويت، على الرغم من السياسات ضد هذا المحتوى.
“التزامات ضعيفة”
وجاء في الرسالة أن شركات الذكاء الاصطناعي لديها “التزامات ضعيفة” فيما يتعلق بمشاركة المعلومات مع الحكومات حول قدرات أنظمتها والقيود المفروضة عليها، مضيفة أنه لا يمكن الاعتماد على هذه الشركات لمشاركة تلك المعلومات طوعا.
وتعد الرسالة المفتوحة هي الأحدث التي تثير مخاوف تتعلق بالسلامة حول تكنولوجيا الذكاء الاصطناعي التوليدية، والتي يمكنها إنتاج نصوص وصور وصوت يشبه الإنسان بسرعة وبتكلفة زهيدة.
إلى ذلك حثت المجموعة شركات الذكاء الاصطناعي على تسهيل العملية على الموظفين الحاليين والسابقين لإثارة المخاوف المتعلقة بالمخاطر وعدم فرض اتفاقيات السرية عليهم والتي تحظر النقد.
“أنشطة خادعة”
وبشكل منفصل، قالت الشركة التي يقودها سام ألتمان يوم الخميس إنها عطلت خمس عمليات تأثير سرية سعت إلى استخدام نماذج الذكاء الاصطناعي الخاصة بها في “أنشطة خادعة” عبر الإنترنت.
يذكر أن الذكاء الاصطناعي تطور بطريقة سريعة خلال السنتين الماضيتين، فأصبح بمقدوره أن يحل في وظائف كانت تقتصر على البشر، بل بات باستطاعته إنتاج صور تبدو حقيقية وتقليد الأصوات وغيرها من الأمور التي لم تكن في عالم التكنولوجيا خلال السنوات الماضية.
العربية نت
إنضم لقناة النيلين على واتسابالمصدر: موقع النيلين
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الدماغ البشري يتفوّق على الذكاء الاصطناعي في حالات عدّة
لا شك أن أنظمة الذكاء الاصطناعي قد حققت إنجازات مذهلة، بدءًا من إتقان الألعاب وكتابة النصوص وصولًا إلى توليد الصور ومقاطع الفيديو المقنعة.
وقد دفع ذلك البعض إلى الحديث عن إمكانية أن نكون على أعتاب الذكاء الاصطناعي العام (AGI)، وهو نظام ذكاء اصطناعي يمتلك قدرات معرفية شاملة تشبه قدرات الإنسان.
في حين أن بعض هذا الحديث ما هو إلا ضجة إعلامية، إلا أن عددًا كافيًا من الخبراء في هذا المجال يأخذون الفكرة على محمل الجد، مما يستدعي إلقاء نظرة فاحصة عليها.
تحديات تعريف الذكاء الاصطناعي العامتدور العديد من النقاشات حول مسألة كيفية تعريف الذكاء الاصطناعي العام، وهو أمر يبدو أن الخبراء في هذا المجال لا يتفقون عليه.
ويساهم هذا في ظهور تقديرات متباينة حول موعد ظهوره، تتراوح بين "إنه موجود عمليًا" إلى "لن نتمكن أبدًا من تحقيقه". وبالنظر إلى هذا التباين، يستحيل تقديم أي نوع من المنظور المستنير حول مدى قربنا من تحقيقه.
لكن لدينا مثال موجود على الذكاء العام بدون "الاصطناعي" - وهو الذكاء الذي يوفره دماغ الحيوان، وخاصة الدماغ البشري.
ومن الواضح أن الأنظمة التي يتم الترويج لها كدليل على أن الذكاء الاصطناعي العام قاب قوسين أو أدنى لا تعمل على الإطلاق مثل الدماغ. قد لا يكون هذا عيبًا قاتلًا، أو حتى عيبًا على الإطلاق. من الممكن تمامًا أن يكون هناك أكثر من طريقة للوصول إلى الذكاء، اعتمادًا على كيفية تعريفه.
لكن من المحتمل أن تكون بعض الاختلافات على الأقل مهمة من الناحية الوظيفية، وحقيقة أن الذكاء الاصطناعي يسلك مسارًا مختلفًا تمامًا عن المثال العملي الوحيد الذي لدينا من المرجح أن يكون ذا مغزى.
مع وضع كل ذلك في الاعتبار، دعونا نلقي نظرة على بعض الأشياء التي يقوم بها الدماغ والتي لا تستطيع أنظمة الذكاء الاصطناعي الحالية القيام بها.
أشارت أرييل جولدشتاين، الباحثة في الجامعة العبرية في القدس، إلى أن أنظمة الذكاء الاصطناعي الحالية "مجزأة" في قدراتها. فقد تكون جيدة بشكل مدهش في شيء ما، ثم سيئة بشكل مدهش في شيء آخر يبدو مرتبطًا به.
وأكدت عالمة الأعصاب كريستا بيكر من جامعة ولاية كارولينا الشمالية على هذه النقطة، مشيرة إلى أن البشر قادرون على تطبيق المنطق في مواقف جديدة دون الحاجة إلى إعادة تعلم كل شيء من الصفر.
ذكر ماريانو شاين، مهندس جوجل الذي تعاون مع جولدشتاين، أن أنظمة الذكاء الاصطناعي تفتقر إلى الذاكرة طويلة المدى والمخصصة للمهام، وهي القدرة على نشر المهارات المكتسبة في مهمة ما في سياقات مختلفة.
أشارت بيكر إلى وجود تحيز نحو تفضيل السلوكيات الشبيهة بالسلوك البشري، مثل الردود التي تبدو بشرية والتي تولدها نماذج اللغات الكبيرة.
في المقابل، يمكن لذبابة الفاكهة، بدماغها الذي يحتوي على أقل من 150 ألف خلية عصبية، دمج أنواع متعددة من المعلومات الحسية، والتحكم في أربعة أزواج من الأطراف، والتنقل في بيئات معقدة، وتلبية احتياجاتها من الطاقة، وإنتاج أجيال جديدة من الأدمغة، وأكثر من ذلك.
الاختلافات الرئيسية بين الدماغ البشري والذكاء الاصطناعيتستند معظم أنظمة الذكاء الاصطناعي الحالية، بما في ذلك جميع نماذج اللغات الكبيرة، على ما يسمى بالشبكات العصبية.
تم تصميم هذه الشبكات لتقليد كيفية عمل بعض مناطق الدماغ، مع وجود أعداد كبيرة من الخلايا العصبية الاصطناعية التي تأخذ مدخلات وتعدلها ثم تمرير المعلومات المعدلة إلى طبقة أخرى من الخلايا العصبية الاصطناعية. لكن هذا التقليد محدود للغاية.
فالخلايا العصبية الحقيقية متخصصة للغاية، وتستخدم مجموعة متنوعة من الناقلات العصبية وتتأثر بعوامل خارج الخلايا العصبية مثل الهرمونات. كما أنها تتواصل من خلال سلسلة من النبضات المتغيرة في التوقيت والشدة، مما يسمح بدرجة من الضوضاء غير الحتمية في الاتصالات.
تهدف الشبكات العصبية التي تم إنشاؤها حتى الآن هي إلى حد كبير أنظمة متخصصة تهدف إلى التعامل مع مهمة واحدة.
في المقابل، يحتوي الدماغ النموذجي على الكثير من الوحدات الوظيفية التي يمكنها العمل بالتوازي، وفي بعض الحالات دون أي نشاط تحكمي يحدث في مكان آخر في الدماغ.
تمتلك أنظمة الذكاء الاصطناعي الحالية عمومًا حالتين: التدريب والنشر. التدريب هو المكان الذي يتعلم فيه الذكاء الاصطناعي سلوكه؛ النشر هو المكان الذي يتم فيه استخدام هذا السلوك.
في المقابل، لا يحتوي الدماغ على حالات تعلم ونشاط منفصلة؛ إنه في كلا الوضعين باستمرار، بينما في كثير من الحالات، يتعلم الدماغ أثناء العمل.
بالنسبة للعديد من أنظمة الذكاء الاصطناعي، لا يمكن تمييز "الذاكرة" عن الموارد الحسابية التي تسمح لها بأداء مهمة والاتصالات التي تم تشكيلها أثناء التدريب. في المقابل، تمتلك الأنظمة البيولوجية عمرًا من الذكريات للاعتماد عليها.
القيود والتحدياتمن الصعب التفكير في الذكاء الاصطناعي دون إدراك الطاقة الهائلة والموارد الحسابية المستخدمة في تدريبه. لقد تطورت الأدمغة في ظل قيود هائلة على الطاقة وتستمر في العمل باستخدام طاقة أقل بكثير مما يمكن أن يوفره النظام الغذائي اليومي.
وقد أجبر هذا علم الأحياء على إيجاد طرق لتحسين موارده والاستفادة القصوى من تلك التي يخصصها لمهمة ما.
في المقابل، فإن قصة التطورات الحديثة في الذكاء الاصطناعي هي إلى حد كبير قصة رمي المزيد من الموارد عليها.
ويبدو أن خطط المستقبل (حتى الآن على الأقل) تشمل المزيد من هذا، بما في ذلك مجموعات بيانات تدريب أكبر وعدد أكبر من الخلايا العصبية الاصطناعية والوصلات بينها.
كل هذا يأتي في وقت تستخدم فيه أفضل أنظمة الذكاء الاصطناعي الحالية بالفعل ثلاثة أضعاف الخلايا العصبية التي نجدها في دماغ ذبابة الفاكهة وليس لديها أي مكان قريب من القدرات العامة للذبابة.
فريدة سيف النصر: الست لو عدت الـ 60 سنة من حقها تقلع الحجاب شرعًا