أنت تتعرض للخداع.. تحذير من خطر جديد للذكاء الاصطناعي
تاريخ النشر: 9th, April 2024 GMT
ما يزال الذكاء الاصطناعي يقع تحت الاختبار من ملايين الأشخاص، سواء لدقة بياناته أو سرعته أو حتى قدرته على إنجاز المهام البشرية في بعض المجالات، لكن وسط رحلة استكشافه تبين الوجه السيئ لتلك التقنية المرعبة، الذي يحمل كثير من الخداع والاحتيال.
اكتشاف خطر جديد للذكاء الاصطناعيدراسة جديدة أطلقت تحذيرات من أنظمة الذكاء الاصطناعي المتقدمة، التي انتشرت بشكل واسع في الفترة الأخيرة، خاصة أنها تحمل سلبيات بالجملة، من بينها إمكانية تدريبها على خداع البشر والكذب عليهم بسهولة.
الدراسة أجرتها شركة «Anthropic» الناشئة للذكاء الاصطناعي، وقررت اختبار العديد من الأشياء، بينها إمكانية روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع مستخدميها، والنتيجة كانت صادمة.
برامج الذكاء الاصطناعي تعطي بيانات كاذبةالفريق البحثي القائم على هذه الدراسة، بحسب صحيفة «الشرق الأوسط»، وجد أن الروبوتات لا تستطيع تعلم الكذب فقط، بل أنها لا تملك القدرة على العودة لقول الحقيقة مرة أخرى، بعد تدريبها على منح معلومات مغلوطة، من قبل الأشخاص الذين أعدوها، لذلك حذرت الدراسة من وجود شعور زائف بالأمان أثناء استخدام أنظمة الذكاء الاصطناعي.
الهدف من هذا التدريب، هو استخدام الذكاء الاصطناعي من قبل مجموعة من الأشخاص للنصب والاحتيال، وإخفاء أي معلومات قد تضر ببعض السلع والمنتجات، عبر موقعه الإلكتروني، وفي أحيان أخرى يستعان به في استخدام أعمال المبدعين دون إسناد.
وتحاول الحكومات على مستوى العالم، اتخاذ إجراءات صارمة وتحركات واسعة، من أجل وضع لوائح قادرة على الحد من مخاطر الذكاء الاصطناعي، واستخدامه بشكل إيجابي ليكون عامل مساعدة وليس ضرر.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي برامج الذكاء الاصطناعي شات جي بي تي الذکاء الاصطناعی
إقرأ أيضاً:
فريق سري تابع لإيلون ماسك يستخدام الذكاء الاصطناعي لمراقبة الاتصالات الفيدرالية
وكالات
كشف تقرير جديد عن استخدام فريق تقني سري تابع للملياردير الأمريكي إيلون ماسك، يُعرف باسم “فريق DOGE”، تقنيات الذكاء الاصطناعي لمراقبة الاتصالات داخل إحدى الوكالات الفيدرالية الأمريكية.
ووفقًا لمصادر مطلعة، يهدف الفريق إلى رصد أي مواقف معادية للرئيس السابق دونالد ترامب وأجندته السياسية، باستخدام أدوات تكنولوجية متقدمة مثل روبوت الدردشة “Grok” المدعوم بالذكاء الاصطناعي وتطبيق “Signal” للتواصل.
وفي هذا السياق، قال أحد المصادر لوكالة “رويترز” إن الفريق يعتمد على تطبيق “Signal” المشفر لإجراء محادثات، مما قد يعد خرقًا لقوانين حفظ السجلات الفيدرالية، خاصة وأن الرسائل يتم ضبطها للاختفاء تلقائيًا بعد فترة قصيرة. كما أشار المصدر إلى أن “بوت ماسك الذكي” يُستخدم في عمليات تقليص الهيكل الإداري للحكومة.
من جانبها، أكدت كاثلين كلارك، خبيرة أخلاقيات الحكومة في جامعة واشنطن، أن استخدام “Signal” دون حفظ الرسائل يعد غير قانوني، مضيفة أن هذه الممارسات تزيد من القلق بشأن الشفافية وأمن البيانات داخل الإدارة الفيدرالية.
وفي وكالة حماية البيئة الأمريكية (EPA)، أفاد بعض المديرين أن فريق ماسك بدأ في استخدام الذكاء الاصطناعي لرصد سلوك الموظفين، خاصة من خلال تحليل العبارات المكتوبة التي قد تشير إلى مواقف معارضة لترامب أو ماسك، وتم تحذير الموظفين من أن النظام يتتبع كل ما يقولونه أو يكتبونه عبر منصات مثل “Microsoft Teams”.
وفي ردها على التقرير، أكدت وكالة حماية البيئة أنها “تدرس استخدام الذكاء الاصطناعي لتحسين الأداء الإداري”، ولكنها نفت أن تكون هذه التقنية تستخدم لاتخاذ قرارات بشأن الموظفين بالتعاون مع فريق DOGE.
وأثارت هذه المعلومات انتقادات كبيرة داخل الأوساط السياسية الأمريكية، حيث اتهم الديمقراطيون ماسك وترامب بالسعي لإقصاء الموظفين المستقلين من الجهاز الإداري واستبدالهم بأفراد ذوي ولاء سياسي، ووصف خبراء أخلاقيات حكومية هذه الممارسات بأنها “إساءة استخدام للسلطة” وتهديد لحرية التعبير.
وأشار التقرير أيضًا إلى أن فريق DOGE يستخدم تقنيات غير تقليدية للوصول إلى البيانات الحكومية، حيث يتم تعديل الوثائق عبر “Google Docs”، ما يجعل من الصعب تتبع النسخ النهائية والتعديلات.
ورفض البيت الأبيض وماسك التعليق على هذه المعلومات، بينما أكدت إدارة ترامب أن فريق DOGE لا يخضع لقوانين الشفافية التي تتيح للجمهور والصحافة الاطلاع على السجلات الفيدرالية.
متحدث الصحة: توجيه من الرئيس السيسي لأجهزة الدولة بتقديم كافة أشكال الدعم للأشقاء فى فلسطين