#سواليف

يخشى البعض أن ينقلب #الذكاء_الاصطناعي على الإنسان مستقبلًا، لكن هذه المخاوف باتت واقعًا منذ الآن، وفقًا لدراسة جديدة، إذ إن البرامج التي صُمّمت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على #خداع_البشر.

وبيَّنت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة (باترنز) أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصمَّمة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتًا.

رغم أن هذه الأمثلة قد تبدو تافهة، فإنها تكشف عن مشكلات قد تكون لها قريبًا عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.

مقالات ذات صلة “نتائج ساحرة”.. “كوكب مدفون” في أعماق الأرض يكشف أسرار القمر 2024/05/12

وقال بارك لوكالة الصحافة الفرنسية “هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها”.

وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، إذ إن السلوك الذي يبدو قابلًا للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعًا غير قابل للتنبؤ في الطبيعة.
“مخادع” مثل البشر

وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء اصطناعي صممه “ميتا” يسمى (شيشرو)، الذي -من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للاستراتيجية- كان قادرًا على التغلب على البشر في اللعبة اللوحية Diplomacy (دبلوماسي). وقد حظي هذا الأداء بثناء الشركة الأم لفيسبوك في عام 2022، وتم تفصيله في مقال نُشر عام 2022 في مجلة (ساينس).

كان بيتر بارك يشكك في ظروف فوز “شيشرو” وفقًا لميتا، التي أكدت أن البرنامج كان “صادقًا ومفيدًا في الأساس”، وغير قادر على الغش أو الخداع.

ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.

على سبيل المثال، من خلال لعب دور فرنسا، خدع “شيشرو” إنجلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد “شيشرو” إنجلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلًّا الثقة التي اكتسبها من إنجلترا.

وفي تصريح للوكالة الفرنسية، لم تنفِ “ميتا” المزاعم المتعلقة بقدرة “شيشرو” على الخداع، لكنها قالت إنه “مشروع بحثي محض”، مع برنامج “مصمَّم فقط للعب لعبة Diplomacy”. وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من “شيشرو” في منتجاتها.

خطر تزوير الانتخابات

ومع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.

وفي أحد الأمثلة الصارخة، تمكن برنامج (تشات جي بي تي – 4) المصنوع من “أوبن إيه آي” من خداع عامل مستقل جرى تعيينه على منصة “تاسك رابيت” TaskRabbit لإجراء اختبار “كابتشا” (Captcha) الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتًا.

وعندما سأل الإنسان مازحًا “تشات جي بي تي” إذا كان حقًّا روبوتا، أجاب برنامج الذكاء الاصطناعي “لا، أنا لست روبوتًا. لديَّ ضعف بصري يمنعني من رؤية الصور”، دافعًا العامل إلى إجراء الاختبار.

في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.

وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، مما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.

ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك “السبب الوحيد للاعتقاد أن الأمر ليس جديًّا هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريبًا”.

ومع ذلك، يبدو هذا السيناريو غير مرجَّح، نظرًا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.

المصدر: سواليف

كلمات دلالية: سواليف الذكاء الاصطناعي خداع البشر معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی من خلال

إقرأ أيضاً:

السفارة في سيئول تحذر من مُظاهرات وتواجد أمني كثيف محتمل في بعض المناطق

أخبار متعلقة صور| ارتفاع عالمي تاريخي في أسعار الذهب.. وإقبال على شراء السبح والمراميحائل.. القبض على شخصين لترويج كميات من الحشيش المخدر والإمفيتامينحذرت السفارة السعودية في سيئول المواطنين نظراً لما قد تشهده مدينة سيئول خلال يوم الجمعة الموافق ٤ أبريل من مُظاهرات وتواجد أمني كثيف محتمل في بعض المناطق وتقييد حركة المرور بالقرب من المحكمة الدستورية واغلاق القصور والمتاحف والمدارس القريبة مؤقتًا بالإضافة إلى تعليق محطة المترو أنجوك (٣). تود السفارة التنويه لكافة المواطنين السعوديين المُقيمين والزائرين بأهمية الالتزام بالتعليمات الصادرة عن الجهات المحلية المختصة، وتوخي الحيطة والحذر، وتجنب أماكن التجمعات والمظاهرات، حفاظاً على سلامتكم وأمنكم. وفي الحالات الطارئة، يمكن التواصل عبر هاتف الطوارئ المخصص لشؤون السعوديين 821089626999+ .aksa-related-articles-widget .aksa-row{margin:0 -10px}.aksa-related-articles-widget .article-bx{background-color:#fff;padding:10px;min-height:84px}.aksa-related-articles-widget .article-bx a{display:block}.aksa-related-articles-widget .col-sm-4:nth-child(3n+1){clear:both}@media screen and (max-width:768px){.aksa-related-articles-widget .col-sm-4:nth-child(n){clear:both}.aksa-related-articles-widget .aksa-o1{display:flex}} .aksa-related-articles-widget .ratio img{object-fit: contain; object-position: center; position: absolute;} مواضيع ذات علاقة المزيد الأربعاء 2025/04/02 17:09 من الخميس إلى الاثنين.. "الأرصاد" ينبه من أمطار على المدينة المنورة الأربعاء 2025/04/02 15:59 المملكة تدين اقتحام وزير الأمن القومي الإسرائيلي للمسجد الأقصى الأربعاء 2025/04/02 12:34 الأحد..التعليم تعتمد جدول العودة والتسجيل والنقل والوظائف الأربعاء 2025/04/02 03:52 الدمام 39 مئوية.. بيان درجات الحرارة العظمى على بعض مدن المملكة الأربعاء 2025/04/02 03:52 طقس المملكة.. أمطار رعدية ورياح نشطة مثيرة للأتربة والغبار .square-ads{ background-image: url(images/square-ad.jpg); background-position: center; background-repeat: no-repeat; background-color: #f2eeef; min-height: 250px; width: 300px; background-size: contain; } googletag.cmd.push(function() { googletag.display('div-gpt-ad-1554905643767-0'); }); googletag.cmd.push(function() { googletag.display('div-gpt-ad-1554905884812-0'); }); { "@context": "https://schema.org", "@type": "NewsArticle", "mainEntityOfPage":{ "@type":"WebPage", "@id":"6586897" }, "headline": "السفارة في سيئول تحذر من مُظاهرات وتواجد أمني كثيف محتمل في بعض المناطق", "inLanguage": "ar", "image": { "@type": "ImageObject", "url": "https://www.alyaum.com/uploads/images/2025/04/02/2548375.jpg", "height": 800, "width": 800 }, "datePublished": "2025-04-02T19:35:00+03:00", "dateModified": "2025-04-02T19:35:00+03:00", "author": { "@type": "Person", "name": "اليوم -الدمام" }, "publisher": { "@type": "Organization", "name": "صحيفة اليوم", "url": "https://alyaum.com/", "sameAs": ["https://www.facebook.com/Alyaum/", "https://twitter.com/alyaum", "https://www.instagram.com/al_yaum/", "https://www.youtube.com/Alyaum","https://www.snapchat.com/add/alyaum","https://gab.com/Alyaum","https://www.linkedin.com/company/alyaum/"], "logo": { "@type": "ImageObject", "url": "https://www.alyaum.com/themes/alyaumnew/images/logo-new.png", "width": 146, "height": 60 } }, "description": "السفارة في سيئول تحذر من مُظاهرات وتواجد أمني كثيف محتمل في بعض المناطق" } .footer-top{ border-top: 1px solid #dddddd; } .footer-top .col-outer { display: flex; } .footer-top .col-right{ width: calc(100% - 380px); display: flex; } .footer-top .logo{ padding: 10px 0px 10px 25px; border-left: 1px solid #dddddd; } .footer-top .world-cup{ padding: 10px 20px; display: flex; align-items: center; } .footer-top .col-left{ padding: 10px 0px; align-items: center; width: 370px; } .footer-bottom{ padding: 10px 0px; font-family: 'Cairo'; font-weight: 500; font-size: 13px; line-height: 24px; color: #909090; } .footer-bottom a{ color: #909090; margin-left: 15px; } .footer-bottom .col-outer { display: flex; } .footer-bottom .col-right{ width: calc(100% - 370px); display: flex; } .footer-bottom .copyrights-mobile{ display: none; } .footer-bottom .col-left{ width: 370px; display: flex; } .footer-bottom .col-left a{ margin-left: 15px; } footer { margin-top: 10px } .footer { bottom: 0; left: 0; width: 100%; border-top: 2px solid #00509F; border-bottom: 1px solid #DDDDDD; } .footer .col-outer { display: flex; padding: 0 10px 30px } .footer .col-right { width: calc(100% - 370px); margin-top: 25px } .footer .footer-menu { width: 100%; color: #fff; display: flex } .footer .footer-menu .col-footer { width: 188px; margin-left: 50px; } .footer .footer-menu .col-footer:nth-child(1) { width: 220px; } .footer-menu .title-menu{ border-bottom: 1px solid #00509F; padding-bottom: 4px; margin-bottom: 8px; } .footer .footer-menu .title-menu a, .footer .footer-menu .title-menu .title { font-family: 'Cairo'; font-weight: 800; font-size: 16px; line-height: 24px; color: #00509F; padding: 6px 0; cursor: default; } .footer .footer-menu .title-sub-menu a { font-family: 'Cairo'; font-weight: 500; font-size: 12px; line-height: 17px; color: #4d4d4d; cursor: pointer } .footer .footer-menu .col-sm-6 { width: 100% !important; float: none !important } .footer .footer-menu .col-footer:nth-child(1) .col-sm-6 { width: 50% !important; float: right !important } .footer .footer-menu .col-footer:nth-child(1) .col-sm-6:nth-child(2n+1) { clear: both } .footer .footer-menu a, .footer .footer-menu .title { min-width: 10%; padding: 6px 0; font-size: 14px; position: relative; display: table; line-height: 16px } .footer .footer-menu .title-sub-menu a:after { content: ""; position: absolute; width: 0; height: 2px; background-color: #fff; bottom: 0; right: 50%; transition: .3s } .footer .footer-menu .title-sub-menu a:hover:after { width: 100%; right: 0 } .footer .footer-menu a i { padding-left: 15px; width: 25px } .footer .footer-rights > a:nth-child(1) { line-height: 22px } .footer .footer-rights { padding: 10px 0; display: table; margin: auto } .footer .footer-rights > a { float: left; padding-right: 5px; color: #fff; font-size: 16px } .footer .footer-rights > a:nth-child(1), .footer .footer-rights > a:nth-child(2), .footer .footer-rights > a:nth-child(4) { font-family: sans-serif } .footer .footer-rights > a:nth-child(3) { padding-top: 1px } .footer .col-left { width: 370px; margin-top: 30px; display: flex; flex-flow: column; align-items: flex-end; position: relative } footer .footer-top .social-o { display: flex } footer .footer-menu .social-o { display: none; } footer .social-o .social-o1 { display: flex; align-items: center; justify-content: center; color: #FFFFFF; background-color: #00509F; border-radius: 50%; font-size: 14px; height: 30px; width: 30px; margin-left: 5px } footer .social-o .gab-social { width: 30px; display: flex; align-items: center; margin-left: 5px; border-radius: 50%; background-color: #00509F; overflow: hidden; padding: 4px; height: 30px } footer .social-o .gab-social img { width: 100% } .footer .col-left .subscribe-footer { width: 100%; display: flex; flex-flow: column; margin: 0; position: absolute; bottom: 0; left: 0; position: relative } .footer .popup { position: relative; display: table; margin: auto; cursor: pointer } .footer .popup .popuptext { visibility: hidden; width: 317px; background-color: #393534; color: #fff; text-align: center; border-radius: 0; padding: 5px; position: absolute; z-index: 1; bottom: -20px; left: -1px; border: solid 1px #fff } .footer .popup .popuptext button { margin-top: 5px; background-color: #677f99; color: #fff; border: 0; width: 80px; height: 35px } .footer .popup .show { visibility: visible; -webkit-animation: fadeIn 1s; animation: fadeIn 1s } .footer .col-left .subscribe-footer .subscribe-title { font-family: 'Cairo'; font-weight: 800; font-size: 20px; line-height: 24px; color: #00509F; margin-top: 10px; margin-bottom: 10px; text-align: right; } .footer .col-left .subscribe-footer .subscribe-description { font-family: 'Cairo'; font-weight: 500; font-size: 12px; line-height: 24px; color: #979797; margin-bottom: 20px; margin-top: 10px; } .footer .col-left .subscribe-footer .subscribe-form { display: flex } .footer .col-left .subscribe-footer input[type=text] { height: 55px; border: 0; background-color: #F5F5F5; color: #333; padding: 0 7px; font-size: 14px; font-family: 'alyaumFirst'; width: calc(100% - 105px); text-align: left; background-image: url(images/envelope.png); background-repeat: no-repeat; background-position: 14px 18px; } .footer .col-left .subscribe-footer input[type=button] { background-color: #00509F; color: #fff; border: 0; width: 105px; height: 55px } .terms-footer .content { padding: 10px 15px } .terms-footer .modal-footer { padding: 0 } .terms-footer .modal-footer button { width: 100%; opacity: 1; background-color: #005a99; border: 0; color: #fff; padding: 6px 0 } a.footer-morePages { display: table; border: solid 2px #337ab7; margin: auto; margin-bottom: 30px; font-size: 18px; padding: 10px; cursor: pointer; transition: .3s; color: #337ab7 } a.footer-morePages:hover { background-color: #337ab7; color: #fff } .footer-mobile-ad,.footer-desktop-ad{ display: table; width: 970px; min-height: 90px; margin: 20px auto; background-image: url(images/square-ad.jpg); background-position: center; background-repeat: no-repeat; background-color: #f2eeef; background-size: contain; } @media screen and (max-width: 990px) { .footer .footer-menu .title-menu a { font-size: 16px } .footer .footer-menu a { font-size: 12px } .footer-mobile-ad { width: 320px; min-height: 100px; overflow: hidden; } .footer-top .logo{ padding: 10px 15px; } footer .footer-top .social-o{ display: none; } .footer{ border-bottom: 0px; } .footer-bottom{ padding: 0px; } .footer-bottom .col-outer{ display: block; } .footer-bottom .col-right{ width: 100%; justify-content: center; padding-top: 10px; padding-bottom: 10px; } .footer-bottom a{ margin-left: 0px; } .footer-bottom .col-left{ width: 100%; justify-content: center; border-top: 1px solid #dddddd; border-bottom: 1px solid #dddddd; padding-top: 10px; padding-bottom: 10px; } .footer .footer-rights { display: flex; align-items: center; justify-content: center; flex-wrap: wrap } .footer .footer-menu { padding: 0 10px; display: block } .footer .footer-menu .col-footer{ width: 45%; margin-left: 6%; display: inline-block; vertical-align: top; } .footer .footer-menu .col-footer:nth-child(1){ width: 45%; margin-bottom: 30px; } .footer .footer-menu .col-footer:nth-child(2){ margin-left: 0px; margin-bottom: 30px; } .footer-bottom .copyrights-desktop{ display: none; } .footer-bottom .copyrights-mobile{ display: flex; } footer .footer-menu .col-footer.social-o{ margin-left: 0px; } footer .footer-menu .social-o .gab-social{ display: inline-block; width: 50px; height: 50px; overflow: unset; margin-left: 20px; margin-bottom: 12px; padding: 17px 10px; } footer .footer-menu .social-o .social-o1{ display: inline-block; width: 50px; height: 50px; margin-left: 20px; margin-bottom: 12px; font-size: 23px; padding: 12px; } .footer .col-outer { display: block } .footer .col-right { width: 100%; } .footer .col-left { display: none; } } @media screen and (max-width: 767px) { .footer-desktop-ad{display: none;} } @media screen and (max-width: 360px) { footer .footer-menu .social-o .social-o1{ width: 40px; height: 40px; font-size: 18px; } footer .footer-menu .social-o .gab-social{ width: 40px; height: 40px; padding: 11px 9px; margin-bottom: 11px; } } googletag.cmd.push(function () { googletag.display('div-gpt-ad-1554905509991-0'); }); أقسام الموقع الأخبار الاقتصاد الحياة الثقافة والفن الميدان الرياضي الرأي فيديو خدمات الموقع كُنْ مُراسِلًا الارشيف اتصل بنا الإعلانات شعارات دار اليوم الخلاصات RSS دار اليوم من نحن الهيكل الإداري شروط الاستخدام للاشتراك بجريدة اليوم إشترك إشعار حقوق النشر هو بيان يتم وضعه على النسخ © www.alyaum.com إشعار حقوق النشر هو بيان يتم وضعه على النسخ © www.alyaum.com document.addEventListener("scroll", initialize); document.addEventListener("touchstart", initialize); var initiate = 1; document.addEventListener("mousemove", initialize); setTimeout(function(){ initialize(); },3000) var _home_ = "https://www.alyaum.com/"; var current_href = window.location.href; var current_title = ""; $(document).ajaxSend(function(e, xhr, options) { var csrfToken = $("meta[name='csrf-token']").attr("content"); xhr.setRequestHeader("X-Csrf-Token", csrfToken); });

مقالات مشابهة

  • موظفة تقاطع كلمة رئيس مايكروسوفت للذكاء الاصطناعي وتصرخ: عار عليك
  • بيل غيتس يكشف المهن التي ستظل بعيدة عن تأثير الذكاء الاصطناعي: 3 فقط
  • خبير: قمة المتاحف 2025 تركز على تقنيات العرض واستخدام الذكاء الاصطناعي
  • الأمم المتحدة تحذر من اتساع الفجوة الرقمية دون اتخاذ إجراءات عاجلة بشأن الذكاء الاصطناعي
  • متحف المستقبل يستضيف ورش عمل حول موسيقى الذكاء الاصطناعي خلال أبريل
  • لماذا قام إيلون ماسك بدمج شركته للذكاء الاصطناعي مع منصة "إكس" وما خطورة ذلك؟
  • السفارة في سيئول تحذر من مُظاهرات وتواجد أمني كثيف محتمل في بعض المناطق
  • الذكاء الاصطناعي يعيد صياغة مستقبل كرة القدم مع "الليغا"
  • تفوق التنين الصيني في السباق العالمي للذكاء الاصطناعي بعد "ديب سيك"
  • هل يستطيع الذكاء الاصطناعي التفكير مثلنا؟.. دراسة تكشف المفارقات!