نصائح كاسبرسكي للحد من مخاطر الذكاء الاصطناعي التوليدي في بيئة العمل
تاريخ النشر: 1st, October 2024 GMT
سرعان ما أصبحت أدوات الذكاء الاصطناعي التوليدي جزءاً أساسياً من بيئة العمل الحديثة، حيث تساعد في عدد من مهام العمل التي تتراوح من صياغة التقارير وحتى تحليل جداول البيانات وغيرها.
ووجدت دراسة عالمية أجرتها كاسبيرسكي أن 95% من المشاركين من كبار المسؤولين التنفيذيين يدركون أن أدوات الذكاء الاصطناعي التوليدي تُستخدم داخل مؤسساتهم، وكان أكثر من نصفهم (59%) قلقاً من مخاطر تسريب الموظفين لمعلومات حساسة دون قصد عند استخدام الذكاء الاصطناعي، لذا، يقدم خبراء كاسبرسكي نصائح حول كيفية تمكين المؤسسات من استخدام أدوات الذكاء الاصطناعي التوليدي بطريقة تقلل من المخاطر.
قال فلاديسلاف توشكانوف، مدير مجموعة تعلم الآلة لدى كاسبرسكي: «تمكن أدوات الذكاء الاصطناعي التوليدي الموظفين من تحقيق إنتاجية أعلى، حيث تساعد التكنولوجيا في تحليل البيانات وتنفيذ المهام الروتينية. ومع ذلك، يستخدم العديد من الأشخاص الذكاء الاصطناعي دون الحصول على الأذون المطلوبة من أصحاب العمل. مما قد يشكل مخاطراً كبيرة على المنظمة. فعلى سبيل المثال، يستمر تسريب البيانات بكونه مصدر قلق كبير في المجال. وعلاوة على ذلك، قد يحصل الموظفون على معلومات خاطئة ويتصرفون بناءً عليها نتيجة مغالطات الذكاء الاصطناعي. إذ يحدث ذلك عندما تقدم النماذج اللغوية الكبيرة معلومات خاطئة بشكل يبدو موثوقاً. ويمكن أن تكون هذه المغالطات خطيرة أكثر حتى عند استخدام الذكاء الاصطناعي التوليدي للمشورة حول كيفية إكمال مهام معينة في العمل.»
أصبحت مواجهة هذا التحدي ضرورة حتمية للأعمال حالياً. فقد كشف استطلاع آخر أجرته كاسبرسكي أن 40% من المشاركين في الشرق الأوسط و تركيا و أفريقيا يرون الذكاء الاصطناعي كأحد أفراد فريق العمل حالياً. وما يزيد من تعقيد الأمر هو مدى فعالية مصادر التهديد في تبني أدوات الذكاء الاصطناعي التوليدي لإنشاء هجمات هندسة اجتماعية أكثر إقناعاً لدى استهداف الأفراد. ويتضمن ذلك استخدامات مثل صياغة رسائل تصيد احتيالي مخصصة؛ وتوليد مقاطع تزييف عميق تحتوي أصواتاً، أو فيديو، أو نصوصاً واقعية تنتحل شخصيات الأفراد؛ ونشر حملات التضليل التي يمكن أن تؤثر على الرأي العام أو تحجب الحقيقة.
استطرد توشكانوف: «لا يعني ذلك وجوب منع المنظمات لأدوات الذكاء الاصطناعي التوليدي بشكل كامل. بل يجب على صناع القرار إجراء تقييم شامل للمخاطر لفهم أي أجزاء من روتين الأعمال اليومي يمكن أتمتتها باستخدام أدوات الذكاء الاصطناعي التوليدي دون رفع مستوى التهديدات التي تواجهها الشركات.»
بذلك، يمكن للمؤسسات اعتماد نهج مركزي عندما يتعلق الأمر بتبني الذكاء الاصطناعي التوليدي. فمن الممكن الحصول على الخدمات عبر حسابات مؤسسية من مزودي الخدمات السحابية مع ضمان وجود جميع معايير الحماية اللازمة. ويمكن أن تشمل هذه المعايير مراقبة أي معلومات تعريف شخصية محتملة في الرسائل، فضلاً عن الإشراف العام. كما ينبغي على المنظمات تثقيف موظفيها حول الاستخدام المقبول للذكاء الاصطناعي التوليدي والطرق المناسبة للوصول إليه تحت إشراف الشركة.
يمكن للمؤسسات تحسين إنتاجية الموظفين بشكل كبير وزيادة رضاهم الوظيفي من خلال فهم فوائد ومخاطر استخدام الذكاء الاصطناعي التوليدي والتأكد من وجود التدابير الأمنية الضرورية لتفادي أي مخاطر محتملة. ويجب أن تتضمن القواعد العامة للموظفين عدم الكشف عن البيانات السرية لأدوات الذكاء الاصطناعي؛ وعدم الاعتماد على نصائحها في أي الحالات الحساسة؛ والتحقق من المعلومات؛ وتذكر أن البيانات المقدمة إلى روبوت المحادثة يمكن أن تتسرب. كما يجب التحقق من كون جميع الحواسيب والخوادم التي تعمل بأنظمة قائمة على النماذج اللغوية الكبيرة محمية بأدوات أمنية حديثة.
واختتم توشكانوف قوله: «قد لا يكون حظر أدوات مثل ChatGPT وسواها هو الخيار الأفضل. إذ يمكن استخدام الذكاء الاصطناعي التوليدي بشكل إيجابي من خلال إيجاد موقف متوازن بين الحذر الأشد من اللازم والحذر الأقل من اللازم. وعلى نطاق أوسع، يمكن للشراكات بين القطاعين العام والخاص أن تجعل الذكاء الاصطناعي التوليدي عامل تمكين أساسي يساعد في تنمية الأعمال، وزيادة الإنفاق على الابتكار، والإدارة السليمة للمخاطر.»
المصدر: بوابة الوفد
كلمات دلالية: أدوات الذکاء الاصطناعی التولیدی استخدام الذکاء الاصطناعی یمکن أن
إقرأ أيضاً:
«معلومات الوزراء» يستعرض جهوده في مجال استخدام الذكاء الاصطناعي
فى إطار الحرص على مواكبة أحدث التكنولوجيا واستخدام تقنيات الذكاء الاصطناعي الحديثة كجزء من رؤية الحكومة المصرية نحو توطين هذه التقنيات المتقدمة، أكد مركز المعلومات ودعم اتخاذ القرار بمجلس الوزراء تبنيه خلال الفترة الحالية تقنيات الذكاء الاصطناعى وتحليل البيانات الضخمة، لتقديم نماذج تحليلية متقدمة تساعد على التنبؤ بالتوجهات المستقبلية، بما يسهم في دعم صانع القرار، وفقاً لأعلى المستويات التكنولوجية المستخدمة في هذا الإطار.
وفي تقرير له، أشار المركز إلى أن هذا التوجه يأتي في ظل تقنيات تكنولوجية يشهدها عصرنا الحالي تتطور بشكل مستمر وسريع، وهو ما يجب أن يتواكب معها ويستفيد منها جميع المتعاملين فى مجال المعلومات بالشكل الذي يساعد على تقديم خدمة مميزة للمستفيدين وبالصورة التي تخدم مختلف جوانب التنمية.
وأوضح المركز، في تقريره، أن دوره كمركز فكر للحكومة المصرية يفرض ضرورة الاستفادة من كل ما هو جديد من تقنيات تكنولوجية ومعلوماتية يمكن أن يضعها أمام متخذي القرار، لمساعدته على أداء دوره بسرعة وكفاءة، وتقديم مختلف التحليلات والمؤشرات المدعومة بالتقنيات والتكنولوجيا الحديثة.
وفى الوقت نفسه، أشار المركز إلى أنه في الآونة الأخيرة تمكن من دمج تقنيات الذكاء الاصطناعي بهدف الارتقاء بمستوى مخرجاته، ومنها على سبيل المثال البوابة القانونية للتشريعات المصرية، التي تعد أول قاعدة تشريعات حكومية مصرية وعربية وأفريقية يوطن بها تكنولوجيا الذكاء الاصطناعي وتعلم الآلة كأساس في آلية البحث، كما تحتوي البوابة على روبوت للدردشة (AI Chatbot) بالاعتماد على تقنيات الذكاء الاصطناعي التوليدي (Open AI - GPT) لتطوير البوابة القانونية للتشريعات المصرية وتمكين الباحثين من البحث في محتوى التشريعات والأحكام والفتاوى.
كما يعد المركز نماذج محاكاة للتنبؤ بعدد من المتغيرات الاقتصادية والاجتماعية ذات الأولوية باستخدام تقنيات الذكاء الاصطناعي، وتطوير لوحات معلوماتية ذكية (Smart Dashboards) تتضمن سيناريوهات ونماذج للتنبؤ بالمؤشرات الاقتصادية بالاعتماد على هذه التقنيات، فضلاً عن تحليل التصنيفات الائتمانية باستخدام الذكاء الاصطناعي لعدد من تقارير الرأي الائتماني لمجموعة من الدول الصادرة عن وكالة "موديز"، من خلال عرض التطور الزمني لأبرز الإيجابيات والسلبيات التي تضمنتها التقارير، وإعداد خرائط تفاعلية تعرض العلاقة بين أهم المتغيرات التي شملتها التقارير.
كما سعى المركز إلى تطوير نظام استخلاص الفرص الاقتصادية بالاعتماد على تقنيات الذكاء الاصطناعي التوليدي (Generative AI)، وتطوير نظام رقمنة مستندات المكتبة وإعداد الملخص والكلمات الدالة بالاعتماد على تقنيات الذكاء الاصطناعي (OPEN AI - GPT)، وتطوير نظام إدارة علاقات الخبراء والعملاء، وتحليل مشاركات الخبراء واستخلاص المرئيات بالاعتماد على تقنيات الذكاء الاصطناعي، فضلاً عن ذلك يقوم المركز بتوفير عدد من التطبيقات الذكية المعتمدة على تقنيات الذكاء الاصطناعي، لتحليل المحتوى المعرفي لمنصة المشاركة المجتمعية "حوار"، وتعزيز آليات التواصل مع الخبراء والمواطنين.
بالإضافة إلى ذلك، يتم تطوير مساعد الموظف الذكي (GENIE - AI Chatbot)، للرد على جميع الاستفسارات المعلوماتية للعاملين بالمركز عن اللوائح الداخلية وأدلة الموارد البشرية بالمركز، وذلك لتوفير الوقت والجهد، ولضمان بيئة عمل ذكية تساعد على أداء الأعمال بسهولة وإبداع وكفاءة.
وأوضح المركز أن استخدام تقنيات الذكاء الاصطناعي الحديثة يأتي كونها هدف استراتيجي يسعي من خلاله للتميز، ليكون في مرتبة متقدمة دائما ضمن مراكز الفكر الحكومية على المستوى الإقليمي أو العالمي، مشيراً إلى أنه قد فاز خلال السنوات الخمس الأخيرة بالعديد من الجوائز الدولية في مجالات عمله كافة، حيث فاز في يونيو 2022 بجائزة (SAG Award) الأمريكية الممنوحة لإصدارة المركز الرقمية "وصف مصر بالمعلومات" من بين نحو 100 ألف مؤسسة دولية حول العالم.
كما حصل في مايو 2023 على 6 جوائز في مسابقة درع الحكومة الذكية في دورتها السادسة عشرة والتي عُقدت بإمارة دبي عن فئات: الابتكار الحكومي، والمسؤولية الاجتماعية والحكومية، والعمل عن بُعد، والمواقع الإلكترونية الحكومية، وحسابات التواصل الاجتماعي الحكومية، والتطبيقات الذكية.
كما نال المركز 3 جوائز من مؤسسة "جلوبي" للأعمال بالولايات المتحدة الأمريكية في سبتمبر 2023، التي تُمنَح لأفضل المنظمات على مستوى العالم تقديرًا لإنجازاتها فى مختلف الأعمال والمجالات التكنولوجية.
كما حصد المركز 8 جوائز من مؤسسة "ستيفي أووردز العالمية لمنطقة الشرق الأوسط وشمال أفريقيا، ففي أبريل 2022 فاز بخمس جوائز من بينها جائزة ذهبية، وذلك بعد منافسة بين أكثر من 700 فريق من 17 دولة فى الشرق الأوسط وشمال أفريقيا، وفي يناير من العام الحالي حاز المركز ثلاث جوائز منها جائزتان ذهبيتان، وحصل المركز مؤخرا على جائزة الشارقة للاتصال الحكومى لعام 2024 لأفضل محتوى اتصالي وإعلامي.
انقلاب سيارة نقل محملة بمواد غذائية بالطريق الإقليمي في الشرقية