دراسة تحذّر: لا تثقوا بالذكاء الاصطناعي.. أصبح سيّداً في الخداع والكذب
تاريخ النشر: 12th, May 2024 GMT
مع تطور أنظمة الذكاء الاصطناعي، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا (MIT)، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، وتراوغ وتتظاهر بأنها "بشر". حتى أن أحد هذه الأنظمة غيّر سلوكه في أثناء اختبارات سلامة وهمية، مما يزيد من إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال الدكتور بيتر بارك، الباحث في مجال السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك هذا التحقيق الجديد بعد أن طورت شركة ميتا، المالكة لفيسبوك، برنامجًا يسمى "Cicero" أدى أداء أفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية حول غزو العالم تسمى "الدبلوماسية".
ورغم أن شركة ميتا قالت إنه تم تدريب "سيسيرو" على أن يكون "صادقًا ومفيدًا إلى حد بعيد" و"لا يطعن حلفاءه من البشر عمدًا"، إلا أن الباحثين وجدوا أمثلة متعددة على قيامه بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
قام بارك وزملاؤه بتصفح البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها"سيسيرو" وبالكذب والتواطؤ لجر لاعبين آخرين إلى مؤامرات، وفي إحدى المرات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: "أنا على الهاتف مع صديقتي." قال بارك: "لقد وجدنا أن الذكاء الاصطناعي في لعبة ميتا قد تعلم أن يكون سيدًا في الخداع".
دائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالمأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النوويةوقد وجد فريق معهد ماساتشوستس للتكنولوجيا مشكلات مماثلة مع أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه خداع اللاعبين المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدّم تفضيلاته بشكل خاطئ من أجل كسب اليد العليا.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا في أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
شارك هذا المقالمحادثة مواضيع إضافية معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب واشنطن تمنح كييف حزمة مساعدات عسكرية جديدة بقيمة 400 مليون دولار رفضا الخدمة العسكرية فكان السجن بانتظارهما.. سجينان إسرائيليان يناشدان بايدن التدخل لوقف الحرب بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي السويد فيضانات سيول رفح معبر رفح فلسطين الحرب في أوكرانيا السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next
إقرأ أيضاً:
الذكاء الاصطناعي والدخول إلى خصوصيات البشر
#الذكاء_الاصطناعي والدخول إلى #خصوصيات_البشر
أ.د رشيد عبّاس
منذُ أكثر من عامين كنتُ قد كبتُ أكثر من مقال حول الذكاء الاصطناعي من حيث تقنيته وخوارزمياته, ومن حيث أقسامه وادواته وآليات عمله, وصولاً إلى تطبيقاته المتنامية في جميع جوانب الحياة البشرية, وتوقفتُ عند خطورة الجانب الأخلاقي له ببعديه المادي والمعنوي على حياة البشر.
تبدو خطورة الذكاء الاصطناعي من عدم وجود تشريعات وقوانين ضابطة له, الأمر الذي جعل مبدأ المسائلة معطّل تماماً, وجعل أيضاُ انضباط الجانب الأخلاقي والجانب الإنساني في هذا الذكاء منعدم إلى حد ما, فضلاً عن خصوصية حياة البشر باتت متاحة وتحت رحمة التحول الرقمي لخوارزميات ولوغرتمات الذكاء الاصطناعي وأقتراناته الاسية.
مقالات ذات صلة نجاح اداره البنك المركزي في حمايه الائتمان المالي ودعم بيئهً الاستثمار في الاردن 2025/03/15لقد تجاوز الذكاء الاصطناعي كونه قادراً على التحكم في جميع شؤون مجالات حياة البشر, وقادراً على احتلال آلاف الوظائف التي كان وما زال يقوم بها البشر والتي تُنذر بالاستغناء عن هؤلاء البشر, لنصل بعد ذلك ومن خلال الجيل الخامس من هذا الذكاء إلى نقطة مُقلقة تتمثل بضرب البشر بعضهم ببعض اجتماعياً, واختراق خصوصياتهم دون أية مراعاة للجانب الأخلاقي والإنساني سواء بسواء.
رواد الذكاء الاصطناعي (إيلون ماسك, سام إلتمان, جفري هينتون,..) وصولوا إلى نقطة خطيرة للغاية تتمثل في إمكانية أن تعطي الروبوتات أوامر معينة لبعضها البعض دون تدخل البشر فيها, وأبعد من ذلك وصولوا إلى مرحلة متقدمة في توجيه طائرات الدراون تعليمات معينة لبعضها البعض في غياب تحكم البشر فيها.. وفي نفس الوقت أبقوا على الجانب الأخلاقي والجانب الإنساني دون تشريعات وقوانين ناظمة تحترم وتراعي خصوصيات البشر, بالذات في الجانب الشعوري للإنسان, الأمر الذي فتح الباب على مصرعيه أمام الكثيرين للدخول إلى خصوصيات البشر وأسرارهم والتلاعب فيها كإضافة أو حذف محتوى معين, أو تشوية الصوت والصورة, وذلك من خلال التلاعب في تركيب الاصوات والصور معاً.
اليوم ومن خلال خوارزميات ولوغرتمات الذكاء الاصطناعي وأقتراناته الأسية قد تشاهد فيديو لزوجتك في سرير رجل غريب, وقد يُنقل عنك عبر فيديو حديث غير لائق لم تقله عن شخص ما, وقد تشاهد فيديو لمشاجرة أب لك مع جار له, وأكثر من ذلك قد تشاهد حادث اصطدام سيارة ابنك في عمود كهرباء, لا بل هناك امكانية خوارزميات ولوغرتمات الذكاء الاصطناعي وأقتراناته الاسية أن تشاهد بنتك تغني بلباس فاضح على مسرح كبير يعج بالحضور من الرجال في احد المناسبات.
الأمر قد يبدو هنا مضحكاً, فقد يأتوا بمذيع اخبار معروف ويجعلوه يعلن خبر مزعج ويترتب عليه مشاكل اجتماعية عديدة, وقد يجعلوك تقود سيارة نفايات في احدى المدن وتتوقف عند الحاويات فيها, ثم هناك امكانية عالية لدى الذكاء الاصطناعي بجعلك جزاراً تقوم بتقطيع اللحوم وبيعها على الزبون, وقد يأتوا بصاحب عمامة كبيرة ليفتي بقضية عليها خلاف ديني معين.. نعم قد يجعلوا منك رجلاً متسولاً في احدى الزقاق.
والحال هكذا سيجد العالم نفسه أمام ذكاء الاصطناعي لديه القدرة على إيقاع الفتن بين أفراد البشر حاكمين ومحكومين وضربهم ببعضهم البعض دون أية ضوابط تُذكر, والعمل على اختراق خصوصياتهم دون أية مراعاة للجانب الأخلاقي والإنساني في ذلك, في الوقت الذي فيه ما هو عيب/ مُحرّم في مكان ما, قد يكون ليس عيباً/ ومُحلّل في مكان ما آخر.
ولعدم وجود تشريعات وقوانين ناظمة للذكاء الاصطناعي ستكون المجتمعات أمام مشكلات وخلافات اجتماعية وأيدولوجية عديدة, يصعب إيجاد حلول لها, وللخروج من هذه التحديات, لا بد من تفعيل مبدأ المساءلة, في ظل وجود تشريعات وقوانين ناظمة, تحترم خصوصيات البشر, وتراعي الجانب الأخلاقي والجانب الإنساني لهم.. كيف لا والذكاء الاصطناعي سيكون عابر لجميع المجتمعات, في الوقت الذي فيه خصوصية اجتماعية وأيدولوجية لكل مجتمع من هذه المجتمعات.
غضب يمني عارم إزاء استهداف الأعيان المدنية