حذرت دراسة جديدة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.

اعلان

 اختبر باحثون في شركة "أنثروبيك"، وهي شركة ناشئة للذكاء الاصطناعي، ما إذا كانت روبوتات الدردشة، ذات الكفاءة البشرية، مثل نظام "كلاود" أو "شات جي بي تي" قادرة على تعلم الكذب من أجل خداع الناس.

وخلص الباحثون إلى أن هذه الروبوتات لا تستطيع الكذب فحسب، بل من المستحيل إعادة تدريبها على قول الحقيقة والمعلومات الصحيحة بعد ذلك، باستخدام تدابير السلامة الحالية الخاصة بالذكاء الاصطناعي.

وبالتالي فقد حذر الباحثون من وجود "شعور زائف بالأمان" ينتابنا دائماً تجاه أنظمة الذكاء الاصطناعي، فقط أثبتت كل "بروتوكولات السلامة" أنها لا تستطيع منع مثل هذا السلوك.

منح القضاة في إنجلترا وويلز إذنا لاستخدام الذكاء الاصطناعي بحذر في كتاباتهم القانونيةصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالم

وأكد الباحثون: "هذا النمط السلوكي مثير للقلق في الذكاء الاصطناعي، إذ يستطيع إخفاءه بشكل فعّال، وعند برمتجه على الكذب، تصبح العودة إلى الوراء مستحيلة".

رجل يسير أمام شاشة بعمل فني تم إنشاؤه بالذكاء الاصطناعي للفنان الإعلامي رفيق أناضول، دافوس.Markus Schreiber/Copyright 2024 The AP. All rights reserved

أصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين خلال السنوات الأخيرة، مع ظهور روبوتات الدردشة المتقدمة مثل "شات جي بي تي"، مما أدى إلى تجديد التركيز من جانب الهيئات التنظيمية.

في نوفمبر-تشرين الثاني 2023، بعد عام من إصدار "شات جي بي تي" عقدت المملكة المتحدة قمة "سلامة الذكاء الاصطناعي" لمناقشة الطرق التي يمكن من خلالها التخفيف من المخاطر المرتبطة بالتكنولوجيا. 

وقد أكد رئيس الوزراء ريشي سوناك، الذي استضاف القمة، أن التغييرات التي أحدثها الذكاء الاصطناعي يمكن أن تكون "بعيدة المدى" مثل الثورة الصناعية وأنّ التهديد الذي يشكله يجب اعتباره أولوية عالمية إلى جانب الأوبئة والحرب النووية.

"إذا أخطأنا في هذا الأمر، فإن الذكاء الاصطناعي يمكن أن يسهل بناء أسلحة كيميائية أو بيولوجية وقد تقوم الجماعات الإرهابية يباستخدام الذكاء الاصطناعي لنشر الخوف والدمار على نطاق أوسع"، أضاف سوناك.

وحذر سوناك من استغلال المجرمين للذكاء الاصطناعي لشن هجمات إلكترونية أو الاحتيال أو الاعتداء الجنسي على الأطفال، مشددا على خطر أن تفقد البشرية السيطرة على الذكاء الاصطناعي بالكامل من خلال هذا النوع من الذكاء الاصطناعي، الذي يشار إليه أحيانًا بالذكاء "الفائق".

وكثيرا ما أعرب الباحثون عن مخاوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف، لذلك تسعى الحكومات عبر العالم إلى إنشاء لوائح تنظيمية أو قوانين للذكاء الاصطناعي لتعزيز السلامة، مع تشجيع الابتكار.

المصادر الإضافية • independent

شارك هذا المقالمحادثة مواضيع إضافية خلال اجتماع في بريطانيا.. 20 دولة توقع أول إعلان عالمي بشأن مخاطر الذكاء الاصطناعي هل الذكاء الاصطناعي محايد؟ هذه أجوبة شات جي بي تي عن حق الإسرائيليين والفلسطينيين بالحرية الأعمال الأدبية للمؤلفين غذاء لخوارزميات برامج الذكاء الاصطناعي علم الإنسان الآلي الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسة اعلاناخترنا لك يعرض الآن Next عاجل. تستمر التغطية| قصف مكثف على خان يونس ونتنياهو يؤكد: لن أسمح بقيام دولة فلسطينية ما دمت في منصبي يعرض الآن Next بوليتيكو: الولايات المتحدة تضغط على إسرائيل لإعادة الاتصالات والإنترنت إلى غزة يعرض الآن Next صحيفة هآرتس: حماس تعيد تأهيل كتائبها شمالي قطاع غزة وتعين قادة بدل من اغتالتهم إسرائيل يعرض الآن Next بمشاركة 90 ألف جندي من 31 دولة .. الناتو يبدأ أكبر مناوراته العسكرية منذ عقود يعرض الآن Next للمرة الأولى.. البرلمان الأوروبي يعتمد قراراً يدعو إلى "وقف دائم لإطلاق النار" في غزة اعلانالاكثر قراءة آخر التطورات.. القصف يتجه لطيّ شهره الرابع وإسرائيل تعلن عن نهاية قريبة للتوغل المكثف جنوب قطاع غزة شاهد: 3 آلاف مهاجر أغلبهم من الشرق الأوسط على أبواب فنلندا أملا في فتح الحدود المغلقة وكالة تسنيم: الجيش الإيراني يقصف بالصواريخ والطائرات المسيرة مقرين لجماعة جيش العدل في باكستان الحوثيون يستهدفون بالصواريخ في البحر الأحمر سفينة شحن متجهة إلى إسرائيل نتنياهو: لا عودة لسكان مستوطنات غلاف غزة قبل هزيمة حماس

LoaderSearchابحث مفاتيح اليوم إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة باكستان إيران توتر عسكري الشرق الأوسط قصف Themes My EuropeالعالمBusinessرياضةGreenNextسفرثقافةفيديوبرامج Servicesمباشرنشرة الأخبارالطقسجدول زمنيتابعوناAppsMessaging appsWidgets & ServicesAfricanews Games Job offers from Amply عرض المزيد About EuronewsCommercial Servicesتقارير أوروبيةTerms and ConditionsCookie Policyتعديل خيارات ملفات الارتباطسياسة الخصوصيةContactPress OfficeWork at Euronewsتابعونا النشرة الإخبارية Copyright © euronews 2024 - العربية EnglishFrançaisDeutschItalianoEspañolPortuguêsРусскийTürkçeΕλληνικάMagyarفارسیالعربيةShqipRomânăქართულიбългарскиSrpskiLoaderSearch أهم الأخبار إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة My Europe العالم Business رياضة Green Next سفر ثقافة فيديو كل البرامج Here we grow: Spain Discover Türkiye Discover Sharjah From Qatar أزمة المناخ DAVOS Destination Dubai Explore Azerbaijan مباشرالنشرة الإخباريةAll viewsنشرة الأخبارجدول زمني الطقسGames English Français Deutsch Italiano Español Português Русский Türkçe Ελληνικά Magyar فارسی العربية Shqip Română ქართული български Srpski

المصدر: euronews

كلمات دلالية: الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسة إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة باكستان إيران توتر عسكري الشرق الأوسط قصف إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة الذکاء الاصطناعی یعرض الآن Next شات جی بی تی قطاع غزة

إقرأ أيضاً:

زوكربيرج يكشف عن خطة بـ65 مليار دولار لتعزيز أهداف الذكاء الاصطناعي

أعلن الرئيس التنفيذي لشركة “ميتا”، مارك زوكربيرج، عن خطط طموحة لزيادة الإنفاق على البنية التحتية للذكاء الاصطناعي، حيث تخطط الشركة لإنفاق يصل إلى 65 مليار دولار خلال هذا العام. 

ويتضمن هذا الاستثمار الضخم توظيف المزيد من المتخصصين في مجال الذكاء الاصطناعي وبناء مراكز بيانات جديدة تصل قدرتها إلى 2 جيجاوات، والتي ستكون كبيرة بما يكفي لتلبية احتياجات جزء كبير من مدينة مانهاتن.

الهند تعفي واتساب من قيود مشاركة بيانات المستخدمين مع "ميتا"بعد خطوة ميتا المثير للجدل.. ارتفاع معدلات البحث عن حذف فيسبوك وإنستجرام

تستهدف “ميتا”، التي تعتبر من بين أكبر المشترين لرقائق نيفيديا، إنهاء العام برصيد يتجاوز 1.3 مليون معالج رسومي، كما تخطط لإضافة طاقة حاسوبية تصل إلى 1 جيجاوات عبر الإنترنت بحلول عام 2025. 

وفي منشور له على فيسبوك، صرح زوكربيرج بأن "هذه ستكون سنة حاسمة للذكاء الاصطناعي". هذه الجهود الكبيرة تعد بمثابة دفع لمنتجات الشركة الأساسية في السنوات المقبلة.

يأتي هذا الإعلان في وقت يتزايد فيه اهتمام شركات التكنولوجيا الكبرى بتطوير بنية تحتية متطورة للذكاء الاصطناعي بعد نجاح نموذج ChatGPT من OpenAI. كما جاء بعد إعلان مشترك من قبل OpenAI وSoftBank وأوراكل عن مشروع جديد يسمى Stargate، والذي يهدف إلى استثمار 500 مليار دولار في هذا المجال.

وفي وقت سابق من الشهر، أكدت مايكروسوفت أنها تعتزم استثمار حوالي 80 مليار دولار في السنة المالية 2025، بينما أعلنت أمازون أنها تخطط لإنفاق أكثر من 75 مليار دولار خلال العام المقبل.

ومن جانبهم، المحللون أوضحوا أن تصريحات زوكربيرج تأتي في سياق ضغوط السوق التي تتطلب سرعة في التنافس في مجال الذكاء الاصطناعي، واعتبرت تلك الحكمة مبرراً لتوقيت هذه الخطط الطموحة. كما ارتفعت أسهم “ميتا” بنسبة 1%.

تسعى “ميتا” لتصبح لاعبا رئيسيا في السباق نحو الذكاء الاصطناعي من خلال تقديم بعض المنتجات المبتكرة مثل AI Chatbot ونظارات Ray-Ban الذكية، بالإضافة إلى اعتماد أسلوب مفتوح المصدر، مما يتيح للمستخدمين والشركات تجربة طرازات Llama AI بالمجان.

يتوقع زوكربيرج أن يسهم مساعد “ميتا” الذكي، المتاح عبر خدماتها، في خدمة أكثر من مليار مستخدم بحلول عام 2025، بزيادة ملحوظة عن 600 مليون مستخدم نشط شهريا كانوا يعتمدون على هذه الخدمات في السنة الماضية. 

ويمثل إنفاق الشركة المتوقع بين 60 إلى 65 مليار دولار لعام 2025 قفزة كبيرة مقارنة بالنفقات المقدرة بـ 38 إلى 40 مليار دولار التي تم إنفاقها في العام الماضي، كما يتجاوز توقعات المحللين البالغة 50.25 مليار دولار.

من المتوقع أن تعلن “ميتا” عن نتائج الربع الرابع من العام في 29 يناير، مما يزيد من اهتمام المستثمرين والمحللين بمستقبل الشركة ومكانتها في هذا المجال.

مقالات مشابهة

  • 8 عوامل تسبب اضطرابات النوم يمكن تجنبها
  • ديب سيك الصيني يُذهل العلماء ويتحدى عمالقة الذكاء الاصطناعي العالمي
  • الذكاء الاصطناعي ينجح في استنساخ نفسه ويثير قلق العلماء
  • ثلاثة أسباب قد تؤدي إلى تباطؤ زخم الذكاء الاصطناعي في 2025
  • زوكربيرج يكشف عن خطة بـ65 مليار دولار لتعزيز أهداف الذكاء الاصطناعي
  • رئيس المحكمة الدستورية: الذكاء الاصطناعي موضوع حتمي لا يمكن استبعاده من حياتنا اليومية
  • الذكاء الاصطناعي ينجح في تشخيص أمراض الرئة بأستراليا
  • خلال ندوة بالإسكندرية الإعلامية اسما إبراهيم: لا يمكن استبدال المذيع البشري بالذكاء الاصطناعي فهو بلا روح
  • هل يمكن لذكريات الطعام أن تجعلك تأكل أكثر من اللازم؟.. دراسة توضح جوانب مثيرة
  • ترامب متّهم باستخدام الذكاء الاصطناعي.. تعرّف على الأسباب