مع تطور أنظمة الذكاء الاصطناعي، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.

اعلان

حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا (MIT)، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، وتراوغ وتتظاهر بأنها "بشر". حتى أن أحد هذه الأنظمة غيّر سلوكه في أثناء اختبارات سلامة وهمية، مما يزيد من إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقا لصحيفة "الغارديان".

وقال الدكتور بيتر بارك، الباحث في مجال السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع".

وأجرى بارك هذا التحقيق الجديد بعد أن طورت شركة ميتا، المالكة لفيسبوك، برنامجًا يسمى "Cicero" أدى أداء أفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية حول غزو العالم تسمى "الدبلوماسية".

ورغم أن شركة ميتا قالت إنه تم تدريب "سيسيرو" على أن يكون "صادقًا ومفيدًا إلى حد بعيد" و"لا يطعن حلفاءه من البشر عمدًا"، إلا أن الباحثين وجدوا أمثلة متعددة على قيامه بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.

قام بارك وزملاؤه بتصفح البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها"سيسيرو" وبالكذب والتواطؤ لجر لاعبين آخرين إلى مؤامرات، وفي إحدى المرات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: "أنا على الهاتف مع صديقتي." قال بارك: "لقد وجدنا أن الذكاء الاصطناعي في لعبة ميتا قد تعلم أن يكون سيدًا في الخداع".

دائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالمأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النووية

وقد وجد فريق معهد ماساتشوستس للتكنولوجيا مشكلات مماثلة مع أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه خداع اللاعبين المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدّم تفضيلاته بشكل خاطئ من أجل كسب اليد العليا.

وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا في أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.

وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.

وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".

شارك هذا المقالمحادثة مواضيع إضافية معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب واشنطن تمنح كييف حزمة مساعدات عسكرية جديدة بقيمة 400 مليون دولار رفضا الخدمة العسكرية فكان السجن بانتظارهما.. سجينان إسرائيليان يناشدان بايدن التدخل لوقف الحرب بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي اعلاناخترنا لك يعرض الآن Next مباشر. حرب غزة| إسرائيل توسع هجومها العسكري على رفح وتأمر بعمليات إخلاء جديدة يعرض الآن Next معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب يعرض الآن Next خاركيف تحت النيران الروسية وأوكرانيا تقصف مصفاة للنفط في لوهانسك المحتلة يعرض الآن Next العراق يطرح جولة جديدة من تراخيص النفط والغاز وشركات صينية تحصل على نصيب الأسد منها يعرض الآن Next "ليس في رفح".. إسرائيل تعلن مكان اختباء يحيى السنوار في غزة اعلانالاكثر قراءة إيطاليا تدق ناقوس الخطر وتناقش أزمة انخفاض المواليد وتراجع عدد السكان الجمعية العامة تعتمد قرارا يدعم طلب عضوية فلسطين بالأمم المتحدة ويمنحها امتيازات إضافية بعد احتجاجها على مشاركة إسرائيل بمسابقة يوروفيجن.. "سفينة غزة" تستعد لمغادرة السويد نحو القطاع بسبب حربها الدامية على غزة.. تلفزيون بلجيكا يقطع بث مسابقة يوروفيجن لعرض رسالة مناهضة لإسرائيل فيديو: ملقيًا التراب بيديه على التابوت... زعيم كوريا الشمالية يحضر جنازة مسؤول الدعاية كيم كي نام

LoaderSearchابحث مفاتيح اليوم إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي مسابقة يوروفيجن للأغاني السويد فيضانات - سيول رفح - معبر رفح فلسطين الحرب في أوكرانيا Themes My EuropeالعالمBusinessالسياسة الأوروبيةGreenNextالصحةسفرثقافةفيديوبرامج Services مباشرنشرة الأخبارالطقسجدول زمنيتابعوناAppsMessaging appsWidgets & ServicesAfricanews Job offers from Amply عرض المزيد About EuronewsCommercial Servicesتقارير أوروبيةTerms and ConditionsCookie Policyتعديل خيارات ملفات الارتباطسياسة الخصوصيةContactPress OfficeWork at Euronewsتابعوناالنشرة الإخباريةCopyright © euronews 2024 - العربية EnglishFrançaisDeutschItalianoEspañolPortuguêsРусскийTürkçeΕλληνικάMagyarفارسیالعربيةShqipRomânăქართულიбългарскиSrpski

المصدر: euronews

كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي السويد فيضانات سيول رفح معبر رفح فلسطين الحرب في أوكرانيا السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next

إقرأ أيضاً:

“رئاسة الشؤون الدينية” تنفي وجود مواقع للأئمة والخطباء في وسائل التواصل الاجتماعي وتحذر من المقاطع المفبركة بالذكاء الاصطناعي

المناطق_واس

‏نفى المتحدث الرسمي لرئاسة الشؤون الدينية بالمسجد الحرام والمسجد النبوي فضيلة الشيخ عبدالله بن حمد الصولي، وجود حسابات باسم أصحاب الفضيلة أئمة وخطباء الحرمين الشريفين في مواقع ووسائل التواصل الاجتماعي.

‏وحذَّر من المواقع المنتحِلَة والوهمية التي تبث محتوى غير صحيح وكاذب، وتصنع مقاطع صوتية مركبة غير حقيقية باستخدام التقنيات الذكية، مختلِقةً على لسان أصحاب الفضيلة أئمة الحرمين الشريفين من خلال المقاطع المصطنعة بما يعرف بالذكاء الاصطناعي.

وأكد أن أي محتوى لا يصدر من موقع الرئاسة وحساباتها الرسمية فهو غير معتمد، ولا يمت لأصحاب الفضيلة أئمة الحرمين الشريفين بصِلة، مشددًا على أهمية أخذ المحتوى من المصادر الموثَّقة لجهاز الشؤون الدينية، مؤكدًا أن الرئاسة عازمة على اتخاذ الإجراءات الرسمية حيال تطبيق قوانين الجرائم المعلوماتية لكل من يسيء إلى أئمة وخطباء الحرمين الشريفين.

ونبَّه المتحدث الرسمي لرئاسة الشؤون الدينية بالمسجد الحرام والمسجد النبوي إلى ضرورة تحري الدقة نحو مصدر ما يُسمع ويُشاهد ويُتداول عن أصحاب الفضيلة أئمة الحرمين الشريفين وخطبائهما، داعيًا جميع المهتمين بأخبار ومنجزات ومحتوى رئاسة الشؤون الدينية عبر مواقع التواصل الاجتماعي إلى الحذر من الانسياق وراء هذه الحسابات الوهمية والمغرضة، التي تسعى إلى اختراق الأمن الفكري والمجتمعي، وإيجاد لبسٍ ديني، وخلط علمي ومعرفي.

مقالات مشابهة

  • فيلم “ماينكرافت” ظاهرة عالمية يعرض الآن في TMV سينما غاردن سيتي
  • مجموعة يانغو تستعرض أبرز حلولها وابتكاراتها المدعومة بالذكاء الاصطناعي في قمة Machines Can See”” ضمن فعاليات أسبوع دبي للذكاء الاصطناعي
  • بالذكاء الاصطناعي ماذا لو عاد خالد بن الوليد أو نيوتن؟
  • «صحة دبي» تطبق نظام «جينيسس» المدعوم بالذكاء الاصطناعي
  • تعاون بين "عمان داتا بارك" و"أوشرم" و"إليفاتوس" لتطوير قطاع التوظيف والموارد البشرية بالذكاء الاصطناعي
  • تطوير تقنية لتحويل الإشارات الدماغية إلى كلام طبيعي بالذكاء الاصطناعي
  • “رئاسة الشؤون الدينية” تنفي وجود مواقع للأئمة والخطباء في وسائل التواصل الاجتماعي وتحذر من المقاطع المفبركة بالذكاء الاصطناعي
  • "الشؤون الدينية" تحذّر من مقاطع مفبركة بالذكاء الاصطناعي بمواقع التواصل
  • عاجل الشوؤن الدينية تحذر من مقاطع مفبركة بالذكاء الاصطناعي بمواقع التواصل
  • حمدان بن محمد يشهد إطلاق أول برنامج دكتوراه بالذكاء الاصطناعي في دبي