تحذير ألماني من مخاطر تكنولوجيا الذكاء الاصطناعي
تاريخ النشر: 3rd, September 2023 GMT
يمكن لتطبيقات محادثة الذكاء الاصطناعي المعروفة باسم "شات بوت" القيام بالكثير من الوظائف المفيدة مثل كتابة الرسائل والملخصات والمقالات والقصص بأسلوب كتابة محددة، وكذلك كتابة أكواد البرمجيات.
في المقابل فإن تقنيات الذكاء الاصطناعي تفتح الباب أمام تزايد مخاطر الجرائم المعلوماتية.
وفي أحدث تقرير له قال مكتب أمن المعلومات الاتحادي الألماني إن التكنولوجيا الجديدة "تنطوي على مخاطر جديدة لأمن المعلومات وتزيد المخاطر المحتملة لبعض التهديدات المعروفة لأمن تكنولوجيا المعلومات".
يذكر أنه وراء كل تطبيق محادثة ذكاء اصطناعي نموذج لغة يمكنه معالجة اللغة الطبيعية المكتوبة باستخدام نمط آلي محدد.
ومن أشهر نماذج اللغة نموذج جي.بي.تي الذي طورته شركة أوبن أيه.آي الأمريكية ونموذج بالم من شركة غوغل والمستخدم في منصة المحادثة بارد، في حين يستخدم نموذج جي.بي.تي في منصتي المحادثة شات جي.بي.تي الشهيرة وبنج التابعة لإمبراطورية البرمجيات الأمريكية مايكروسوفت.
وبحسب مكتب أمن معلومات الاتحاد الألماني فإن التهديدات المعروفة تتمثل في إمكانية تكثيف نماذج لغة الذكاء الاصطناعي واستخدامها في تطوير أو تحديث برامج تجسس أفضل، وكذلك إنشاء رسائل البريد الإلكترونية العشوائية أو الاحتيالية التي تستغل السمات الإنسانية للمستخدمين مثل الرغبة في مد يد العون أو الثقة أو حتى الخوف والمعروفة باسم "الهندسة الاجتماعية".
كما يمكن لمناذج اللغة تعديل أسلوب كتابة نص معين لكي يتشابه مع أسلوب كتابة شخص أو مؤسسة محددة وبالتالي استغلاله في الاحتيال على آخرين.
وأيضا تخلو الرسائل العشوائية والاحتيالية التي يتم كتابتها باستخدام تقنيات الذكاء الاصطناعي من الأخطاء الإملائية والنحوية الشائعة في مثل هذا النوع من رسائل البريد الإلكتروني، لتصبح تلك الرسائل أكثر إقناعاً.
كما حذر مكتب أمن المعلومات الاتحادي من إمكانية استخدام مجرمي الإنترنت والقراصنة لأي تسجيل صوتي لإنتاج محادثات مزيفة وسرقة المعلومات المهمة من الضحايا.
وإلى جانب كل هذا يحذر خبراء أمن المعلومات من إمكانية استغلال نماذج اللغة لإنتاج أخبار مزيفة ورسائل للتحريض على الكراهية أو في الدعاية السياسية.
لذلك يجب على مستخدمي الأجهزة الإلكترونية توخي الحذر من المحتوى المنتج باستخدام الذكاء الاصطناعي. ونظرا لخلوها غالبا من الأخطاء اللغوية فإن النصوص المكتوبة باستخدام تقنيات الذكاء الاصطناعي تعطي انطباعاً قوياً بأنها نصوص بشرية حقيقية، وبالتالي تصبح محل ثقة، حتى لو لم تكن مناسبة وتحتوي على معلومات خطأ أو حقائق تم التلاعب فيها.
المصدر: موقع 24
كلمات دلالية: التغير المناخي محاكمة ترامب أحداث السودان النيجر مانشستر سيتي الحرب الأوكرانية عام الاستدامة الملف النووي الإيراني الذكاء الاصطناعي الذكاء الصناعي الذکاء الاصطناعی أمن المعلومات
إقرأ أيضاً:
بيل جيتس: الذكاء الاصطناعي سيحل محل العديد من المهن
قال بيل جيتس الملياردير المؤسس المشارك لشركة "مايكروسوفت" إن التطورات في مجال الذكاء الاصطناعي ستعني أنه خلال العقد المقبل، لن تعود هناك حاجة للبشر من أجل إنجاز "معظم المهام" في العالم.
وأوضح غيتس، خلال مقابلة مع قناة "إن بي سي" التفزيونية، أن الخبرة لا تزال "نادرة" في الوقت الحالي، مشيرًا إلى أن المتخصصين من البشر، الذين نعتمد عليهم في العديد من المجالات، بما في ذلك "الطبيب المتميز" أو "المعلم المتميز"، نادرين.
يضيف جيتس لكن "مع الذكاء الاصطناعي، سيصبح ذلك خلال العقد المقبل مجانيًا وشائعًا، نصائح طبية قيّمة، ودروس خصوصية رائعة".
بعبارة أخرى، يدخل العالم حقبة جديدة مما سماه جيتس "الذكاء الحر". وستكون النتيجة تقدمًا سريعًا في التقنيات المدعومة بالذكاء الاصطناعي، والتي يسهل الوصول إليها وتؤثر على كل جانب من جوانب حياتنا تقريبًا، كما قال جيتس، بدءًا من الأدوية والتشخيصات المُحسّنة وصولا إلى المعلمين والمساعدين الافتراضيين المتوفرين على نطاق واسع.
قال جيتس "إنه أمر عميق للغاية، بل ومخيف بعض الشيء، لأنه يحدث بسرعة هائلة، ولا حدود قصوى له".
لكن بعض الخبراء يرون أن الذكاء الاصطناعي سيساعد البشر على العمل بكفاءة أكبر، بدلًا من أن يحلَّ محلَّهم كليًا، وسيحفِّز النموَّ الاقتصادي الذي يُؤدي إلى خلق المزيد من فرص العمل.
وسبق أن أعرب جيتس عن تفاؤله بشأن الفوائد العامة التي يمكن أن يقدمها الذكاء الاصطناعي للبشر، مثل "العلاجات المبتكرة للأمراض الفتاكة، والحلول المبتكرة لتغير المناخ، والتعليم عالي الجودة للجميع".
وفي حديثه التلفزيوني، عبر جيتس عن اعتقاده بأن الذكاء الاصطناعي لن يحل محل أنواع معينة من الوظائف على الأرجح، مشيرًا إلى أن الناس ربما لا يرغبون في رؤية الآلات تشارك في منافسات رياضية، على سبيل المثال. وقال غيتس: "ستكون هناك بعض الأمور التي نحتفظ بها لأنفسنا. ولكن فيما يتعلق بصنع الأشياء ونقلها وزراعة الغذاء، فمع مرور الوقت ستُحل هذه المشاكل بشكل أساسي".
كان جيتس توقع، منذ ما يقرب من عقد من الزمن، أن ثورة الذكاء الاصطناعي قادمة. فعندما سُئل عن الصناعة التي سيركز عليها إذا اضطر إلى البدء من الصفر، اختار الذكاء الاصطناعي بسرعة. وقال جيتس، في فعالية عام 2017 في جامعة كولومبيا، إن "العمل في مجال الذكاء الاصطناعي اليوم على مستوى عميق للغاية".
في ذلك الوقت، كانت التكنولوجيا على بُعد سنوات من إنشاء النصوص التوليدية على غرار روبوت الدرشة "تشات جي بي تي" ChatGPT، والتي تعمل بنماذج لغوية كبيرة.
ومع ذلك، بحلول عام 2023، فوجئ جيتس نفسه بسرعة تطور الذكاء الاصطناعي. فقد تحدى شركة "أوبن آي أيه" لإنشاء نموذج يمكنه الحصول على أعلى الدرجات في امتحان الأحياء المتقدم في الثانوية، متوقعًا أن تستغرق المهمة عامين أو ثلاثة أعوام، كما كتب في مدونته. وقال جيتس لاحقا "لقد أنجزوه في بضعة أشهر فقط". ووصف هذا الإنجاز بأنه "التقدم الأهم في التكنولوجيا منذ عام 1980".
محافظ بني سويف يؤدي صلاة عيد الفطر الميارك بساحة مسجد عمر بن عبدالعزيز