دراسة تحذّر: لا تثقوا بالذكاء الاصطناعي.. أصبح سيّداً في الخداع والكذب
تاريخ النشر: 12th, May 2024 GMT
مع تطور أنظمة الذكاء الاصطناعي، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
حدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا (MIT)، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، وتراوغ وتتظاهر بأنها "بشر". حتى أن أحد هذه الأنظمة غيّر سلوكه في أثناء اختبارات سلامة وهمية، مما يزيد من إمكانية تضليل المدققين وإعطائهم انطباعًا خاطئًا بأن النظام آمن، وفقا لصحيفة "الغارديان".
وقال الدكتور بيتر بارك، الباحث في مجال السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: "كلما أصبحت قدرات الخداع لدى أنظمة الذكاء الاصطناعي أكثر تقدمًا، كلما ازدادت حدة المخاطر التي تشكلها على المجتمع".
وأجرى بارك هذا التحقيق الجديد بعد أن طورت شركة ميتا، المالكة لفيسبوك، برنامجًا يسمى "Cicero" أدى أداء أفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية حول غزو العالم تسمى "الدبلوماسية".
ورغم أن شركة ميتا قالت إنه تم تدريب "سيسيرو" على أن يكون "صادقًا ومفيدًا إلى حد بعيد" و"لا يطعن حلفاءه من البشر عمدًا"، إلا أن الباحثين وجدوا أمثلة متعددة على قيامه بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
قام بارك وزملاؤه بتصفح البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها"سيسيرو" وبالكذب والتواطؤ لجر لاعبين آخرين إلى مؤامرات، وفي إحدى المرات، برر غيابه بعد إعادة تشغيله بإخبار لاعب آخر: "أنا على الهاتف مع صديقتي." قال بارك: "لقد وجدنا أن الذكاء الاصطناعي في لعبة ميتا قد تعلم أن يكون سيدًا في الخداع".
دائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالمأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النوويةوقد وجد فريق معهد ماساتشوستس للتكنولوجيا مشكلات مماثلة مع أنظمة أخرى، بما في ذلك برنامج بوكر "تكساس هولد إم" الذي يمكنه خداع اللاعبين المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدّم تفضيلاته بشكل خاطئ من أجل كسب اليد العليا.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق "التظاهر بالموت" مؤقتا في أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: "هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار".
شارك هذا المقالمحادثة مواضيع إضافية معضلة "اليوم التالي" للحرب الإسرائيلية على غزة.. دول عربية تعارض المشاركة في إدارة القطاع بعد الحرب واشنطن تمنح كييف حزمة مساعدات عسكرية جديدة بقيمة 400 مليون دولار رفضا الخدمة العسكرية فكان السجن بانتظارهما.. سجينان إسرائيليان يناشدان بايدن التدخل لوقف الحرب بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعيالمصدر: euronews
كلمات دلالية: إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي بحث علمي الولايات المتحدة الأمريكية تكنولوجيا الذكاء الاصطناعي إسرائيل الصراع الإسرائيلي الفلسطيني قطاع غزة حركة حماس غزة فولوديمير زيلينسكي السويد فيضانات سيول رفح معبر رفح فلسطين الحرب في أوكرانيا السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next
إقرأ أيضاً:
توسيع نطاق جالاكسي إيه آي بيونيرز المختص بالذكاء الاصطناعي في الدولة ليشمل دروساً صفية
أبوظبي( وام) أعلن البرنامج الوطني للمبرمجين وشركة سامسونج غلف للإلكترونيات، توسيع نطاق البرنامج التدريبي المختص بالذكاء الاصطناعي "جالاكسي إيه آي بيونيرز" ليشمل دروساً صفية في القاعات في عدد من مدارس الدولة.
ويستهدف البرنامج أكثر من 4 آلاف طالب وطالبة في 15 مدرسة في أبوظبي ودبي، يقدم لهم مادة علمية خلال ساعات الدوام المدرسي في مجالات الذكاء الاصطناعي، والبرمجة، والمحتوى الإبداعي والسلامة على الإنترنت، وغيرها.
أساسيات الذكاء الاصطناعي والبرمجة باستخدام لغة بايثون
ويهدف البرنامج الأحدث ضمن برامج التدريب الشبابية التي أطلقها البرنامج الوطني للمبرمجين وسامسونج إلى تعريف الطلاب في الفئة العمرية بين 12 و17 عاماً بمنظومة الذكاء الاصطناعي من خلال مجموعة واسعة من المواضيع، تشمل أساسيات الذكاء الاصطناعي، والبرمجة باستخدام لغة بايثون، وتعلم الآلة، والتعلم العميق، والرؤية الحاسوبية، وروبوتات الذكاء الاصطناعي، ومعالجة اللغات الطبيعية.
وأكد الدكتور عبد الرحمن المحمود، مدير إدارة في مكتب الذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد، أن حكومة دولة الإمارات تتبنى الطاقات الشابة الوطنية والموهوبة وتعمل على تمكينها من المشاركة في تحقيق أثر إيجابي في المشهد الرقمي عبر تطوير المهارات التكنولوجية وتعزيز الابتكار، بما يدعم تحقيق رؤى الدولة بالتحول الرقمي وبناء اقتصاد قائم على المعرفة.
وقال إن دولة الإمارات تسعى إلى تمكين الشباب وإعدادهم للتعامل مع تحديات المستقبل الرقمي من خلال برامج تدريبية متقدمة، وتشجيع ريادة الأعمال في مجالات التكنولوجيا، ودعم الأفكار التي تسهم في تعزيز مكانة الإمارات كمركز عالمي للتكنولوجيا والابتكار.
من جانبه، قال شافي عالم رئيس مجموعة التسويق المؤسسي والأعمال المباشرة إلى المستهلكين في سامسونج غلف للإلكترونيات إن هذا التوسع لبرنامج "غالاكسي إيه آي بيونيرز" يشكل نقلة نوعية في المشهد التعليمي في الإمارات ويسعى إلى جعل الذكاء الاصطناعي ومحو الأمية الرقمية جزءاً أساسياً من تجربة التعلّم اليومي، بهدف إعداد جيل من المبتكرين الذين سيساهمون في صياغة المستقبل الرقمي.
وأضاف أن النجاح الكبير الذي حصدته النسخة التجريبية من البرنامج تعكس رغبة الشباب الكبيرة في التعلّم حول هذه التكنولوجيا المتقدمة ونوسع اليوم نطاق هذه المبادرة بالشراكة مع البرنامج الوطني للمبرمجين لنضمن حصول مجموعة واسعة من الطلاب الإماراتيين على فرصة تطوير المهارات اللازمة لمواكبة تطورات العالم الرقمي.
محاور أساسية:
ويغطي المنهج الدراسي ثلاثة محاور أساسية؛ إذ يقدم مساراً شاملاً حول الترميز والذكاء الاصطناعي وبناء المهارات التقنية الأساسية في هذه المجالات، ومساراً لتطوير المحتوى الإبداعي بالاستفادة من منظومة Galaxy AI، بالإضافة إلى مسار آخر يتناول أهمية السلامة الرقمية لضمان الاستخدام المسؤول للتكنولوجيا.
وينطلق البرنامج بمرحلة أولى في 15 مدرسة تعتمد المناهج البريطاني والأميركي والبكالوريا الدولية للطلاب في الفئة العمرية بين 11 و14 عاماً، ويسعى إلى تقديم تجربة منظومة "غالاكسي إيه آي" والتطبيقات الواقعية للطلاب بشكل مباشر، ما يساعدهم على اكتساب قدرات تكنولوجية متقدمة، وتعلّم كيفية التعامل مع التقنيات الرقمية بشكل مسؤول.
ويقدم البرنامج دورة متخصصة في السلامة على الإنترنت تشمل 900 من أولياء أمور الطلاب، ضمن جهوده لتعزيز مشاركة أولياء الأمور في التعليم الرقمي، ما يوفر نظام دعم شاملا للمتعلمين الشباب في رحلتهم في عالم التكنولوجيا.
وتنسجم هذه المبادرة الاستراتيجية، مع استراتيجية الإمارات للذكاء الاصطناعي 2031، لتسهم في تعزيز مكانة دولة الإمارات وجهة رائدة في مجالي الابتكار التكنولوجي والتميز التعليمي.
وقدم برنامج "غالاكسي إيه آي بيونيرز" خلال العام الحالي التدريب لثلاث دفعات ضمت أكثر من 140 طالباً.
للمزيد من المعلومات حول البرنامج التدريبي وتأثيره التحولي على التعليم، https://www.samsung.com/ae/galaxy-ai-pioneers-program.
هل ينوي رجال الأعمال السوريون العودة إلى وطنهم بعد سقوط نظام الأسد؟