نصائح كاسبرسكي للحد من مخاطر الذكاء الاصطناعي التوليدي في بيئة العمل
تاريخ النشر: 1st, October 2024 GMT
سرعان ما أصبحت أدوات الذكاء الاصطناعي التوليدي جزءاً أساسياً من بيئة العمل الحديثة، حيث تساعد في عدد من مهام العمل التي تتراوح من صياغة التقارير وحتى تحليل جداول البيانات وغيرها.
ووجدت دراسة عالمية أجرتها كاسبيرسكي أن 95% من المشاركين من كبار المسؤولين التنفيذيين يدركون أن أدوات الذكاء الاصطناعي التوليدي تُستخدم داخل مؤسساتهم، وكان أكثر من نصفهم (59%) قلقاً من مخاطر تسريب الموظفين لمعلومات حساسة دون قصد عند استخدام الذكاء الاصطناعي، لذا، يقدم خبراء كاسبرسكي نصائح حول كيفية تمكين المؤسسات من استخدام أدوات الذكاء الاصطناعي التوليدي بطريقة تقلل من المخاطر.
قال فلاديسلاف توشكانوف، مدير مجموعة تعلم الآلة لدى كاسبرسكي: «تمكن أدوات الذكاء الاصطناعي التوليدي الموظفين من تحقيق إنتاجية أعلى، حيث تساعد التكنولوجيا في تحليل البيانات وتنفيذ المهام الروتينية. ومع ذلك، يستخدم العديد من الأشخاص الذكاء الاصطناعي دون الحصول على الأذون المطلوبة من أصحاب العمل. مما قد يشكل مخاطراً كبيرة على المنظمة. فعلى سبيل المثال، يستمر تسريب البيانات بكونه مصدر قلق كبير في المجال. وعلاوة على ذلك، قد يحصل الموظفون على معلومات خاطئة ويتصرفون بناءً عليها نتيجة مغالطات الذكاء الاصطناعي. إذ يحدث ذلك عندما تقدم النماذج اللغوية الكبيرة معلومات خاطئة بشكل يبدو موثوقاً. ويمكن أن تكون هذه المغالطات خطيرة أكثر حتى عند استخدام الذكاء الاصطناعي التوليدي للمشورة حول كيفية إكمال مهام معينة في العمل.»
أصبحت مواجهة هذا التحدي ضرورة حتمية للأعمال حالياً. فقد كشف استطلاع آخر أجرته كاسبرسكي أن 40% من المشاركين في الشرق الأوسط و تركيا و أفريقيا يرون الذكاء الاصطناعي كأحد أفراد فريق العمل حالياً. وما يزيد من تعقيد الأمر هو مدى فعالية مصادر التهديد في تبني أدوات الذكاء الاصطناعي التوليدي لإنشاء هجمات هندسة اجتماعية أكثر إقناعاً لدى استهداف الأفراد. ويتضمن ذلك استخدامات مثل صياغة رسائل تصيد احتيالي مخصصة؛ وتوليد مقاطع تزييف عميق تحتوي أصواتاً، أو فيديو، أو نصوصاً واقعية تنتحل شخصيات الأفراد؛ ونشر حملات التضليل التي يمكن أن تؤثر على الرأي العام أو تحجب الحقيقة.
استطرد توشكانوف: «لا يعني ذلك وجوب منع المنظمات لأدوات الذكاء الاصطناعي التوليدي بشكل كامل. بل يجب على صناع القرار إجراء تقييم شامل للمخاطر لفهم أي أجزاء من روتين الأعمال اليومي يمكن أتمتتها باستخدام أدوات الذكاء الاصطناعي التوليدي دون رفع مستوى التهديدات التي تواجهها الشركات.»
بذلك، يمكن للمؤسسات اعتماد نهج مركزي عندما يتعلق الأمر بتبني الذكاء الاصطناعي التوليدي. فمن الممكن الحصول على الخدمات عبر حسابات مؤسسية من مزودي الخدمات السحابية مع ضمان وجود جميع معايير الحماية اللازمة. ويمكن أن تشمل هذه المعايير مراقبة أي معلومات تعريف شخصية محتملة في الرسائل، فضلاً عن الإشراف العام. كما ينبغي على المنظمات تثقيف موظفيها حول الاستخدام المقبول للذكاء الاصطناعي التوليدي والطرق المناسبة للوصول إليه تحت إشراف الشركة.
يمكن للمؤسسات تحسين إنتاجية الموظفين بشكل كبير وزيادة رضاهم الوظيفي من خلال فهم فوائد ومخاطر استخدام الذكاء الاصطناعي التوليدي والتأكد من وجود التدابير الأمنية الضرورية لتفادي أي مخاطر محتملة. ويجب أن تتضمن القواعد العامة للموظفين عدم الكشف عن البيانات السرية لأدوات الذكاء الاصطناعي؛ وعدم الاعتماد على نصائحها في أي الحالات الحساسة؛ والتحقق من المعلومات؛ وتذكر أن البيانات المقدمة إلى روبوت المحادثة يمكن أن تتسرب. كما يجب التحقق من كون جميع الحواسيب والخوادم التي تعمل بأنظمة قائمة على النماذج اللغوية الكبيرة محمية بأدوات أمنية حديثة.
واختتم توشكانوف قوله: «قد لا يكون حظر أدوات مثل ChatGPT وسواها هو الخيار الأفضل. إذ يمكن استخدام الذكاء الاصطناعي التوليدي بشكل إيجابي من خلال إيجاد موقف متوازن بين الحذر الأشد من اللازم والحذر الأقل من اللازم. وعلى نطاق أوسع، يمكن للشراكات بين القطاعين العام والخاص أن تجعل الذكاء الاصطناعي التوليدي عامل تمكين أساسي يساعد في تنمية الأعمال، وزيادة الإنفاق على الابتكار، والإدارة السليمة للمخاطر.»
المصدر: بوابة الوفد
كلمات دلالية: أدوات الذکاء الاصطناعی التولیدی استخدام الذکاء الاصطناعی یمکن أن
إقرأ أيضاً:
الخبرات النادرة والمعادلة الجديدة في الذكاء الاصطناعي
تشير الدراسات الاستشرافية إلى أهمية تبني معادلة جديدة في الموازنة بين الذكاء البشري، والذكاء الاصطناعي في عالم الأعمال، ومع التقدم العلمي، واتساع وتعقيد التحديات التي تواجه المؤسسات والاقتصاد والمجتمع، أصبح إدماج الذكاء الاصطناعي ضرورة لا بد منها، ولكن السؤال الذي يطرح نفسه هو: أين ينتهي حدود الخبرات النادرة للعقل البشري لتبدأ أدوار الذكاء الاصطناعي وفق نهج يقوده الإنسان، وتعززه التكنولوجيا؟
إذا عدنا بالذاكرة إلى بداية ظهور الجيل الأول من الذكاء الاصطناعي التوليدي، نجد أن الحوار الفكري قد تركز خلال تلك المرحلة عن تأثيرات هذه التقنيات على ملف التشغيل، وبمعنى أدق، عن إحلال الآلة في بعض الوظائف التي لا تتطلب المهارات الكاملة للعقل البشري، ولكن مجالات النقاش في الوقت الراهن قد تحولت بشكل جذري لتتمحور حول الفرص والتحديات المتمثلة في استخدام الذكاء الاصطناعي لدفع الكفاءة والإنتاجية، وما هي أنجح الطرق للجمع بين الإبداع البشري مع الفهم المناسب لحدود إمكانات التكنولوجيا، وكيفية اكتساب القيمة من توظيف التقنيات المتقدمة، والاستثمار في البيانات والمهارات، وعلى رأس هذه المحاور، يأتي الموضوع الأكثر أهمية؛ وهو المحافظة على الخبرات البشرية النادرة في وسط ضجيج الآلات الذكية.
وهذا يفرض الكثير من التساؤلات؛ فإذا كانت الملامح المثالية للمعادلة الجديدة هي قيادة الإنسان للمهام مع الاستفادة من توظيف التقنيات، فإن الحاجة ملحة لإعادة تعريف معايير ومحددات النجاح في هذا المشهد، هذا بالإضافة إلى معرفة الحدود الفاصلة بين الخبرات العملية والمهنية، والخبرات النادرة، وأين ينتهي حدود هذه الخبرات، وكيف يمكن تعريف دور الذكاء الاصطناعي في ظل وجود الخبرات المفاهيمية، وهل هي ممكنة وداعمة، أو أنها مكررة ولا تتقاطع معها بشكل تكاملي، وكذلك يظهر موضوع التدريب كأحد أهم الموضوعات المرتبطة بهذا الشأن، إذ لا بد من تعريف الموجهات التي تحدد متى تتخذ المؤسسة قرار الاستثمار في تدريب فرق العمل على مهارات وأدوات الذكاء الاصطناعي، ومتى يمكنها إحلال الوظائف والمهام وأتمتها.
ولكن الوضع الراهن في عالم المؤسسات والأعمال لا يزال في وضع المترقب، ويكاد يكون من النادر وجود التوجه الفعلي لإدماج الذكاء الاصطناعي التوليدي في المهام والتخصصات العملية المؤسسية، وذلك رغم أن نماذج اللغة والبرمجيات تتطور بشكل لا يصدق، ويمثل هذا بحد ذاته تحديًا كبيرًا، وتتعد أسباب قلة خوض تجربة إدماج الذكاء الاصطناعي في بيئات العمل، وإن كان يعود معظمها إلى الحواجز الثقافية التي تحول دون تبني هذه التقنيات، وكذلك الحاجة إلى الوصول لكميات هائلة من البيانات العامة والنوعية، والتي يمكن استخدامها لأغراض التنبؤ، وبناء النماذج، وتحديد الأنماط، وتشمل التحديات كذلك العوامل الفردية المتمثلة في وجود المخاوف من العمل مع التكنولوجيا، والتفاعل مع الآلة، والتحولات العميقة التي سوف ترافق عملية التحول هذه، والتي تتطلب كذلك الكثير من الوقت والجهد لتأصيل الواقع الجديد، وتمكين أنماط العمل الهجين، مع المحافظة على المصداقية المهنية، وخصوصا في الجوانب التي تتطلب الكثير من الموضوعية، وتستند في ذات الوقت إلى الاعتبارات الأخلاقية، مثل تقييم أداء الموظفين الذين يؤدون مهامهم في الواجهة بين الآلة، وبين أقرانهم الذين لا يتعاملون مع التقنيات.
وفي عمق كل هذه المسارات المتقاطعة، تظهر الحاجة الملحة للمحافظة على الخبرات النادرة، التي لا يوجد لها في الواقع تعريف مباشر وبسيط، ففي عالم الأعمال والمؤسسات، هناك خبرات مهنية تكتسب صفة الندرة النسبية، والتي يصعب إحلالها بأدوات وإمكانيات الذكاء الاصطناعي، ولكن المخاطر الحقيقية ليس في هدر هذه الخبرات النادرة، وإنما في صعوبة التعرف إليها، والاستفادة منها، وكذلك في بناء خبرات مناظرة لها بعد أن أصبحت الاتجاهات الرئيسية للرؤى الداعمة لإدماج الذكاء الاصطناعي في الأعمال المؤسسية تؤكد أن تبني هذه التقنيات يعزز الإنتاجية والابتكار، وكذلك يسهم في اتخاذ قرارات تعتمد على البيانات، وكذلك يقلل من التكاليف التشغيلية من خلال الأتمتة، ويسمح للموارد البشرية بالتركيز على الجوانب الإبداعية، والمهام الأكثر استراتيجية، وجميع هذه العوائد قد تؤثر على احتمالية استمرار المؤسسات في الاستثمار في بناء المهارات الفردية النادرة، وهنا تأتي المخاطر ذات المدى الطويل لإدماج تقنيات الذكاء الاصطناعي؛ مثل تعمق فجوات المعرفة والمهارات بين فرق العمل، والنزوح الوظيفي المحتمل، وغيرها من التحديات التي تتطلب وجود التقييم المسبق، وتحديد الجاهزية الشاملة لتنفيذ التحول الذي يخدم الأهداف المؤسسية بنطاقها الأوسع.
إن إمكانات الذكاء الاصطناعي في عالم المؤسسات والأعمال لا حصر لها، ولكن المعادلة الجديدة لإدماج التقنيات المتقدمة تتطلب تحقيق التوازن النوعي بين توظيف الخبرات النادرة للعقل البشري، والاستفادة القصوى من الذكاء الاصطناعي والأتمتة، مع إيلاء الأهمية لاستبقاء الكفاءات والمعارف والخبرات، وإعادة تدريبها لتزويدها بخبرة الذكاء الاصطناعي، ويجب ألا تشمل مسارات التدريب التركيز على مجموعة المهارات الفنية والتقنية فحسب، بل يجب أن تشمل أيضا التعلم المستمر لتأصيل عقلية وثقافة النمو، والتكيف مع تطور تقنية الذكاء الاصطناعي، وذلك مع تعزيز الفهم العميق لأهداف العمل في ظل التقدم التكنولوجي المتسارع، وأهمية الاستفادة من الخبرات النادرة كمورد استراتيجي للمؤسسة وللعمل، وعلى سبيل المثال، تُعد خوارزميات الذكاء الاصطناعي من أهم الأدوات التحليلية لخلق القيمة من مجموعات البيانات الكبيرة، وذلك لتحديد الأنماط والتنبؤ بالاتجاهات المستقبلية، مما يساعد في التخطيط الاستراتيجي، وتخصيص الموارد، ولكن الاستفادة الفعلية من نتائج هذا التحليل الذي يقوم به الذكاء الاصطناعي لا يكتمل سوى بوجود الخبرات المهنية الرصينة القادرة على قراءة الاتجاهات بالمقارنة مع الأداء السابق للعمل، وبالعودة إلى اعتبارات كثيرة أخرى، وبذلك تكتسب عملية اتخاذ القرار جميع الأبعاد التي من شأنها تحقيق الإنتاجية، مع مراعاة أهمية تجريب وتقييم مسارات تبني النهج المتكامل بين الخبرات النادرة والتقنيات المتقدمة وذلك قبل توسيع نطاق دمجها في العمليات المؤسسية، لضمان الانتقال السلس في سير الأعمال، مع الإدراك بأهمية وضع مسارات موازية للكشف عن الخبرات الفردية النادرة، واستبقائها وتفعيل دور المهارات الرئيسية لهذه الخبرات في عملية التحول نحو النهج المتكامل، فالإنتاجية تتطلب وجود العلاقة التكافلية بين الخبرات وإمكانات الذكاء الاصطناعي.
حالة الطقس ودرجات الحرارة المتوقعة اليوم الخميس 6 مارس 2025