أنت تتعرض للخداع.. تحذير من خطر جديد للذكاء الاصطناعي
تاريخ النشر: 9th, April 2024 GMT
ما يزال الذكاء الاصطناعي يقع تحت الاختبار من ملايين الأشخاص، سواء لدقة بياناته أو سرعته أو حتى قدرته على إنجاز المهام البشرية في بعض المجالات، لكن وسط رحلة استكشافه تبين الوجه السيئ لتلك التقنية المرعبة، الذي يحمل كثير من الخداع والاحتيال.
اكتشاف خطر جديد للذكاء الاصطناعيدراسة جديدة أطلقت تحذيرات من أنظمة الذكاء الاصطناعي المتقدمة، التي انتشرت بشكل واسع في الفترة الأخيرة، خاصة أنها تحمل سلبيات بالجملة، من بينها إمكانية تدريبها على خداع البشر والكذب عليهم بسهولة.
الدراسة أجرتها شركة «Anthropic» الناشئة للذكاء الاصطناعي، وقررت اختبار العديد من الأشياء، بينها إمكانية روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع مستخدميها، والنتيجة كانت صادمة.
برامج الذكاء الاصطناعي تعطي بيانات كاذبةالفريق البحثي القائم على هذه الدراسة، بحسب صحيفة «الشرق الأوسط»، وجد أن الروبوتات لا تستطيع تعلم الكذب فقط، بل أنها لا تملك القدرة على العودة لقول الحقيقة مرة أخرى، بعد تدريبها على منح معلومات مغلوطة، من قبل الأشخاص الذين أعدوها، لذلك حذرت الدراسة من وجود شعور زائف بالأمان أثناء استخدام أنظمة الذكاء الاصطناعي.
الهدف من هذا التدريب، هو استخدام الذكاء الاصطناعي من قبل مجموعة من الأشخاص للنصب والاحتيال، وإخفاء أي معلومات قد تضر ببعض السلع والمنتجات، عبر موقعه الإلكتروني، وفي أحيان أخرى يستعان به في استخدام أعمال المبدعين دون إسناد.
وتحاول الحكومات على مستوى العالم، اتخاذ إجراءات صارمة وتحركات واسعة، من أجل وضع لوائح قادرة على الحد من مخاطر الذكاء الاصطناعي، واستخدامه بشكل إيجابي ليكون عامل مساعدة وليس ضرر.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي برامج الذكاء الاصطناعي شات جي بي تي الذکاء الاصطناعی
إقرأ أيضاً:
دراسة علمية تعيد تصور مستقبل الخدمات في عصر الذكاء الاصطناعي
أكدت دراسة علمية بعنوان "إعادة تصور الخدمات الحكومية والخاصة في عصر الذكاء الاصطناعي"، أصدرها مكتب الذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد في حكومة دولة الإمارات، أهمية تعزيز الذكاء الاصطناعي المسؤول في إعادة تصور وتصميم وابتكار الخدمات في القطاعين الحكومي والخاص، وضرورة ابتكار الأطر الناظمة لتوظيف حلول التكنولوجيا المتقدمة في خدمة الإنسان وضمان ازدهار المجتمعات.
وعكست الدراسة العلمية، مخرجات طاولة مستديرة متخصصة نظمها مكتب الذكاء الاصطناعي وشارك فيها معالي عمر سلطان العلماء وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد، ومعالي الدكتور عمرو طلعت وزير الاتصالات وتكنولوجيا المعلومات في جمهورية مصر العربية، ومعالي ماوريسيو ليزكانو وزير تكنولوجيا المعلومات والاتصالات في كولومبيا، ومعالي فيصل البناي مستشار رئيس الدولة لشؤون الأبحاث الاستراتيجية والتكنولوجية المتقدمة، رئيس مجلس إدارة مجموعة "ايدج"، وسعادة كاثي فيدال وكيلة وزارة التجارة للملكية الفكرية ومديرة مكتب براءات الاختراع والعلامات التجارية في الولايات المتحدة الأمريكية، وسعادة ماجد المسمار مدير عام الهيئة العامة لتنظيم قطاع الاتصالات والحكومة الرقمية.
وأكد معالي عمر سلطان العلماء أن البحث العلمي عامل محوري في إحداث التطوير المستدام لمنظومة العمل الحكومي المعزز بالتكنولوجيا، مشيراً إلى أن حكومة دولة الإمارات توظف البحث والدراسات في تشكيل مستقبل العمل والتحول الرقمي، بما يترجم رؤى القيادة الرشيدة بتعزيز ريادة الدولة بين أفضل الدول عالمياً في مختلف مجالات المستقبل.
وقال معاليه إن دولة الإمارات تتبنى استدامة التطوير والارتقاء بالبنية التحتية المتقدمة المعززة بحلول الذكاء الاصطناعي والتكنولوجيا الرقمية، بما يرتقي بجاهزية العمل الحكومي، واستباقيته في مواجهة المتغيرات والتطورات العالمية المتسارعة في المجال الرقمي، وهذا التوجه يتطلب تكثيف الدراسات وتوسيع مجالات البحث العلمي لتطوير أفضل الممارسات الرقمية.
أخبار ذات صلةوتتناول الدراسة أهم ما جاء في نقاشات الطاولة المستديرة التي غطت مواضيع التقدم التكنولوجي السريع الذي دفع باتجاه دمج الذكاء الاصطناعي في مختلف القطاعات، وتتطرق إلى ضرورة حوكمة الذكاء الاصطناعي المسؤول، وتصميم منظومة كفيلة بتعزيز الذكاء الاصطناعي المسؤول في القطاعين الحكومي والخاص.
وتطرقت الدراسة البحثية إلى أهمية وضع ميثاق أخلاقي للذكاء الاصطناعي، يعزز الشفافية والعدالة في استخداماته، ويوجهها في خدمة المجتمعات، ويبني على فرصه في مواجهة تحديات إمكانية الوصول والتحيز والشمول.
وأكدت الدراسة أهمية مكافحة الاستخدام السلبي للتكنولوجيا، وسد الفجوة بين المجتمع وصناع السياسات، وأهمية تعزيز التعاون والشراكة بين القطاعين الحكومي والخاص لتطوير سياسات وأطر عمل مسؤولة في مجال الذكاء الاصطناعي، وشددت على ضرورة توجه صناع السياسات والقادة لتعزيز التطوير المسؤول لحلول الذكاء الاصطناعي، وصياغة الأطر التنظيمية التي تستشرف أفضل مستقبل رقمي، وأهمية الأمن السيبراني في استشراف مستقبل أفضل للتكنولوجيا الرقمية، وتطوير استراتيجيات قابلة للتنفيذ تضمن تطوير هذا القطاع المستقبلي.
المصدر: وام
السبت المقبل.. "الصحفيين" تُطلق مشروع التحول الرقمي لتطوير الخدمات النقابية