تحذير ألماني من مخاطر تكنولوجيا الذكاء الاصطناعي
تاريخ النشر: 3rd, September 2023 GMT
يمكن لتطبيقات محادثة الذكاء الاصطناعي المعروفة باسم "شات بوت" القيام بالكثير من الوظائف المفيدة مثل كتابة الرسائل والملخصات والمقالات والقصص بأسلوب كتابة محددة، وكذلك كتابة أكواد البرمجيات.
في المقابل فإن تقنيات الذكاء الاصطناعي تفتح الباب أمام تزايد مخاطر الجرائم المعلوماتية.
وفي أحدث تقرير له قال مكتب أمن المعلومات الاتحادي الألماني إن التكنولوجيا الجديدة "تنطوي على مخاطر جديدة لأمن المعلومات وتزيد المخاطر المحتملة لبعض التهديدات المعروفة لأمن تكنولوجيا المعلومات".
يذكر أنه وراء كل تطبيق محادثة ذكاء اصطناعي نموذج لغة يمكنه معالجة اللغة الطبيعية المكتوبة باستخدام نمط آلي محدد.
ومن أشهر نماذج اللغة نموذج جي.بي.تي الذي طورته شركة أوبن أيه.آي الأمريكية ونموذج بالم من شركة غوغل والمستخدم في منصة المحادثة بارد، في حين يستخدم نموذج جي.بي.تي في منصتي المحادثة شات جي.بي.تي الشهيرة وبنج التابعة لإمبراطورية البرمجيات الأمريكية مايكروسوفت.
وبحسب مكتب أمن معلومات الاتحاد الألماني فإن التهديدات المعروفة تتمثل في إمكانية تكثيف نماذج لغة الذكاء الاصطناعي واستخدامها في تطوير أو تحديث برامج تجسس أفضل، وكذلك إنشاء رسائل البريد الإلكترونية العشوائية أو الاحتيالية التي تستغل السمات الإنسانية للمستخدمين مثل الرغبة في مد يد العون أو الثقة أو حتى الخوف والمعروفة باسم "الهندسة الاجتماعية".
كما يمكن لمناذج اللغة تعديل أسلوب كتابة نص معين لكي يتشابه مع أسلوب كتابة شخص أو مؤسسة محددة وبالتالي استغلاله في الاحتيال على آخرين.
وأيضا تخلو الرسائل العشوائية والاحتيالية التي يتم كتابتها باستخدام تقنيات الذكاء الاصطناعي من الأخطاء الإملائية والنحوية الشائعة في مثل هذا النوع من رسائل البريد الإلكتروني، لتصبح تلك الرسائل أكثر إقناعاً.
كما حذر مكتب أمن المعلومات الاتحادي من إمكانية استخدام مجرمي الإنترنت والقراصنة لأي تسجيل صوتي لإنتاج محادثات مزيفة وسرقة المعلومات المهمة من الضحايا.
وإلى جانب كل هذا يحذر خبراء أمن المعلومات من إمكانية استغلال نماذج اللغة لإنتاج أخبار مزيفة ورسائل للتحريض على الكراهية أو في الدعاية السياسية.
لذلك يجب على مستخدمي الأجهزة الإلكترونية توخي الحذر من المحتوى المنتج باستخدام الذكاء الاصطناعي. ونظرا لخلوها غالبا من الأخطاء اللغوية فإن النصوص المكتوبة باستخدام تقنيات الذكاء الاصطناعي تعطي انطباعاً قوياً بأنها نصوص بشرية حقيقية، وبالتالي تصبح محل ثقة، حتى لو لم تكن مناسبة وتحتوي على معلومات خطأ أو حقائق تم التلاعب فيها.
المصدر: موقع 24
كلمات دلالية: التغير المناخي محاكمة ترامب أحداث السودان النيجر مانشستر سيتي الحرب الأوكرانية عام الاستدامة الملف النووي الإيراني الذكاء الاصطناعي الذكاء الصناعي الذکاء الاصطناعی أمن المعلومات
إقرأ أيضاً:
«أبوظبي العالمي» ينشر توجيهات إدارة مخاطر تقنية المعلومات
أبوظبي (الاتحاد)
قامت سلطة تنظيم الخدمات المالية، السلطة المسؤولة عن تنظيم الخدمات المالية في أبوظبي العالمي "ADGM"، بنشر توجيهات إدارة مخاطر تقنية المعلومات موفرةً إطاراً شاملاً ومتكاملاً لإدارة مخاطر تقنية المعلومات في القطاع المالي لأبوظبي العالمي.
وتأخذ التوجيهات بعين الاعتبار المشاركة الواسعة للقطاع بعد نشر سلطة تنظيم الخدمات المالية ورقة المناقشة بشأن إدارة مخاطر تقنية المعلومات وعقد جلسة إحاطة للقطاع في فبراير 2024، حيث تلقت السلطة تعليقات إيجابية من الجهات المعنية.
وتتألف التوجيهات من أربعة أقسام رئيسية تحدد أفضل الممارسات لإدارة مخاطر تقنية المعلومات، حيث ينبغي على الكيانات المنظمة من قبل سلطة تنظيم الخدمات المالية النظر في اعتمادها وهي تأسيس ثقافة فعّالة لمخاطر تقنية المعلومات، حيث يشمل الحوكمة والضوابط المتعلقة بمخاطر تقنية المعلومات، بما في ذلك إدارة الحوادث والتدقيق وإدارة مزودي الخدمات الخارجية لتقنية المعلومات، وإدارة بيئة تقنية المعلومات.
كما يتناول إدارة أصول تقنية المعلومات والبنية التحتية لتقنية المعلومات ودورة حياة الأنظمة والمرونة والاستجابة للحوادث السيبرانية، والتفاعل بشكل آمن ويركز على ضوابط الوصول إلى الأنظمة، إدارة المفاتيح التشفيرية، والمعاملات الإلكترونية الآمنة، والاستفادة من التقنيات المدمجة في الأعمال، ويتناول التقنيات الناشئة، بما في ذلك الحلول القائمة على الخوارزميات مثل الذكاء الاصطناعي التوليدي، وحلول البنية التحتية اللامركزية مثل منصات الأصول الافتراضية.
وتتوافق التوجيهات مع أفضل الممارسات التي حددتها الهيئات الدولية الواضعة للمعايير والجهات التنظيمية المالية الدولية.
وتتوقع السلطة أن تقوم الكيانات المنظمة بتنفيذ أفضل الممارسات الواردة في التوجيهات بطريقة تتناسب مع حجمها وتعقيدها وأنشطتها التجارية.
وقال إيمانويل جيفناكيس، الرئيس التنفيذي لسلطة تنظيم الخدمات المالية في أبوظبي العالمي "ADGM" أنه مع استمرار التكنولوجيا في تغيير الخدمات المالية، تصبح إدارة مخاطر تقنية المعلومات القوية أكثر أهمية، وتعزز هذه التوجيهات تركيزنا الإشرافي على مخاطر تقنية المعلومات والأمن السيبراني، مع دعم الابتكار في التمويل الرقمي، وتوفر إرشادات عملية للمديرين التنفيذيين، ومسؤولي الامتثال، وممارسي تقنية المعلومات لتعزيز أطُر إدارة المخاطر لديهم، وتعكس هذه المبادرة الالتزام ببناء مركز مالي دولي مرن وتقدمي في إمارة أبوظبي.
الشلف.. وفاة شخص اختناقا بالغاز ببوقادير