«معلومات الوزراء»: من الصعب تمييز إنتاج الذكاء الاصطناعي عن صنع البشر
تاريخ النشر: 26th, March 2024 GMT
أوضح مركز معلومات مجلس الوزراء، أن التقدم في مجال الذكاء الاصطناعي كبيرًا، لدرجة أنه في بعض المجالات، أصبح من الصعب تمييز إنتاجه عن إنتاج البشر.
وأشار في تقرير صادر عنه بعنوان مستقبل الصناعات كثيفة العمالة في ظل الذكاء الاصطناعي، إلى أن التطورات السريعة التي تشهدها التكنولوجيا إلى جانب انخفاض ثمن الإنتاج واعتماد الصناعة على تقنيات الذكاء الاصطناعي الجديدة، تشير إلى أن اقتصادات منظمة التعاون الاقتصادي والتنمية، قد تكون على أعتاب ثورة ذكاء اصطناعي يمكن أن تغير مكان العمل بشكل جذري.
وقال التقرير إنه في حين أنّ هناك العديد من الفوائد المحتملة للذكاء الاصطناعي، إلا أنّ هناك أيضًا مخاطر كبيرة تحتاج إلى معالجة عاجلة، ومن الممكن أن تلعب السياسات والحوار الاجتماعي دورًا رئيسًا في التخفيف من هذه المخاطر، مع عدم التقليل من الفوائد.
البطالة التكنولوجية الجماعية غير مرجحةوأضاف: «في عام 2019، ركزت توقعات التوظيف لمنظمة التعاون الاقتصادي والتنمية على مستقبل العمل واستكشفت كيف تعمل الاتجاهات الكبرى المختلفة، مثل الرقمنة والعولمة وشيخوخة السكان، على إعادة تشكيل عالم العمل، وكانت الرسالة الإجمالية تفاؤل حذر، فقد بدا أنّ العديد من الاتجاهات الكبرى تجلب فرصًا جديدة لتحسين نتائج سوق العمل، كما بدت البطالة التكنولوجية الجماعية غير مرجحة».
معدلات التوظيف في معظم دول منظمة التعاون الاقتصاديوأردف: «في نهاية عام 2019، قبل أزمة كوفيد - 19، كانت معدلات التوظيف في معظم دول منظمة التعاون الاقتصادي والتنمية عند مستويات قياسية على الرغم من اعتماد تقنيات الأتمتة في حين تم تحديد بعض المخاطر المتعلقة بجودة الوظائف والشمولية، ولا سيما بالنسبة للعمال ذوي المهارات المنخفضة والمتوسطة، فقد قالت منظمة التعاون الاقتصادي والتنمية إنه مع وجود السياسات والمؤسسات الصحيحة، يمكن التخفيف من المخاطر واغتنام الفرص».
وأوضح التقرير أن منظمة التعاون الاقتصادي والتنمية عرفت الذكاء الاصطناعي بأنه: نظام قائم على الآلة قادر على التأثير على البيئة من خلال إنتاج مخرجات (تنبؤات أو توصيات أو قرارات لمجموعة معينة من الأهداف، ويستخدم البيانات والمدخلات الآلية أو البشرية من أجل إدراك البيئات الحقيقية أو الافتراضية، و تلخيص هذه التصورات في نماذج من خلال التحليل بطريقة آلية (على سبيل المثال مع التعلم الآلي)، أو يدويا؛ و استخدام الاستدلال النموذجي لصياغة خيارات النتائج. وتم تصميم أنظمة الذكاء الاصطناعي للعمل بمستويات مختلفة من الاستقلالية.
المصدر: الوطن
كلمات دلالية: التعاون الاقتصادي التقنيات الجديدة العديد من الفوائد سوق العمل مكان العمل الذكاء الاصطناعي منظمة التعاون الاقتصادی والتنمیة الذکاء الاصطناعی
إقرأ أيضاً:
كاسبرسكي تكشف عن إرشادات التطوير الآمن للذكاء الاصطناعي في منتدى حوكمة الإنترنت
خلال مشاركتها في منتدى حوكمة الإنترنت السنوي لعام 2024، والذي عُقد في العاصمة السعودية الرياض بين يومي 15 و19 ديسمبر، قدمت كاسبرسكي إرشاداتها للتطوير والنشر الآمن لأنظمة الذكاء الاصطناعي. وتهدف الوثيقة لمساعدة المنظمات على تجنب المخاطر المرتبطة باعتماد تقنيات الذكاء الاصطناعي من خلال توفير متطلبات الأمن السيبراني التي يجب مراعاتها عند تنفيذ هذه الأنظمة. تتناول الإرشادات الحاجة الملحة لأطر أمنية قوية مع تزايد أهمية الذكاء الاصطناعي للصناعات حول العالم.
تم عرض «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» يوم 18 ديسمبر ضمن ورشة عمل على هامش منتدى حوكمة الإنترنت حملت عنوان «الأمن السيبراني في الذكاء الاصطناعي: الموازنة بين الابتكار والمخاطر». حيث نظم ممثلو كاسبرسكي لجنة من الخبراء لاستكشاف كيفية التنسيق بين الابتكار في مجال الذكاء الاصطناعي والإدارة الفعالة للمخاطر والأمن السيبراني. وجرى العمل على الوثيقة بالتعاون مع خبراء أكاديميين رواد لمعالجة التعقيد المتزايد لتحديات الأمن السيبراني المرتبطة بالأنظمة المدعومة بالذكاء الاصطناعي.
تُعد الوثيقة مورداً أساسياً للمطورين والمسؤولين وفرق عمليات تطوير الذكاء الاصطناعي، كما تقدم نصائح مفصلة وعملية لمعالجة الثغرات الفنية والمخاطر التشغيلية. وتظهر الأهمية الأكبر لهذه الإرشادات بالنسبة للمؤسسات التي تعتمد على نماذج الذكاء الاصطناعي التابعة لطرف ثالث والأنظمة القائمة على السحابة، فقد تؤدي الثغرات الأمنية لاختراقات كبيرة للبيانات وأضرار بالسمعة.
من خلال تضمين مبادئ الأمان التصميمي، تساعد الإرشادات المنظمات على موازنة نشر الذكاء الاصطناعي مع معايير مثل الممارسات البيئية والاجتماعية وحوكمة الشركات ومتطلبات الامتثال الدولية. تتناول الوثيقة الجوانب الرئيسية لتطوير، ونشر، وتشغيل أنظمة الذكاء الاصطناعي، بما يشمل التصميم وأفضل الممارسات الأمنية، والتكامل، دون التركيز على تطوير النماذج التأسيسية.
تؤكد إرشادات كاسبرسكي على المبادئ التالية لتعزيز أمن أنظمة الذكاء الاصطناعي:
1. التوعية والتدريب على الأمن السيبراني
تسلط كاسبرسكي الضوء على أهمية دعم القيادة والتدريب المخصص للموظفين. حيث يجب أن يكون الموظفون على دراية بأساليب استغلال الذكاء الاصطناعي المعتمدة من مصادر التهديد. وتضمن التحديثات المنتظمة لبرامج التدريب التوافق مع التهديدات المتطورة.
2. نمذجة التهديدات وتقييم المخاطر
تؤكد الإرشادات على ضرورة تحديد المخاطر والتخفيف منها بشكل استباقي من خلال وسائل نمذجة التهديدات التي تساعد على تحديد الثغرات في وقت مبكر من تطوير الذكاء الاصطناعي. وتوصي كاسبرسكي باستخدام منهجيات موثوقة لتقييم المخاطر (مثل نموذجي STRIDE وOWASP) لتقييم التهديدات الخاصة بالذكاء الاصطناعي، بما يشمل إساءة استخدام النماذج، وتسميم البيانات، ونقاط ضعف الأنظمة.
3. أمن البُنى التحتية (السحابة)
تتطلب أنظمة الذكاء الاصطناعي، والتي غالباً ما يتم نشرها في بيئات سحابية، حماية قويةً مثل التشفير، وتقسيم الشبكة، والمصادقة الثنائية. وتؤكد كاسبرسكي على مبادئ الثقة الصفرية، وقنوات الاتصال الآمنة، وإصلاحات البنية التحتية بشكل منتظم للحماية من الاختراقات.
4. سلسلة الإمداد وأمن البيانات
تسلط كاسبرسكي الضوء على المخاطر التي تشكلها مكونات ونماذج الذكاء الاصطناعي التابعة لجهات خارجية، بما يشمل تسرب البيانات وإساءة استخدام المعلومات التي تم الحصول عليها لإعادة بيعها. وفي هذا الصدد، يجب تطبيق سياسات الخصوصية والممارسات الأمنية الخاصة بالخدمات التابعة لجهات خارجية، مثل استخدام الحساسات والتدقيقات الأمنية، بشكل صارم.
5. الاختبار والتحقق
يضمن التحقق المستمر لنماذج الذكاء الاصطناعي الموثوقية. وتعمل كاسبرسكي على تعزيز مراقبة الأداء والإبلاغ عن الثغرات الأمنية للكشف عن المشكلات الناجمة عن انحراف بيانات الإدخال أو الهجمات المعادية. ويُعد التقسيم الملائم لمجموعات البيانات وتقييم منطق اتخاذ القرار الخاص بالنماذج أمرين ضروريين للتخفيف من المخاطر.
6. الحماية من الهجمات الخاصة بتعلم الآلة
تؤكد الإرشادات على ضرورة حماية مكونات الذكاء الاصطناعي من الهجمات الخاصة بتعلم الآلة، بما يشمل المدخلات المعادية، وتسميم البيانات، وهجمات الحقن الفوري. وتعمل تدابير مثل دمج الأمثلة المعادية في مجموعة بيانات التدريب، وأنظمة اكتشاف الشذوذ، وأساليب التقطير على تحسين قدرة النماذج على مواجهة التلاعب.
7. التحديثات الأمنية والصيانة المنتظمة
تؤكد كاسبرسكي على أهمية الإصلاح المتكرر لمكتبات وأطر الذكاء الاصطناعي لمعالجة الثغرات الأمنية الناشئة. وقد تساعد المشاركة في برامج مكافآت الأخطاء وإدارة دورة حياة نماذج الذكاء الاصطناعي القائمة على السحابة على تعزيز مرونة النظام.
8. الالتزام بالمعايير الدولية
يساعد كل من الالتزام باللوائح العالمية (مثل اللائحة العامة لحماية البيانات، وقانون الذكاء الاصطناعي للاتحاد الأوروبي)، وأفضل الممارسات، والتحقق من امتثال أنظمة الذكاء الاصطناعي للقانون على التوافق مع المتطلبات الأخلاقية ومتطلبات خصوصية البيانات، بالإضافة إلى تعزيز الثقة والشفافية.
وتؤكد المبادئ التوجيهية على أهمية تضمين أنظمة الذكاء الاصطناعي بشكل مسؤول لتجنب مخاطر الأمن السيبراني الكبيرة، مما يجعلها مورداً مهماً للغاية للشركات والحكومات على حد سواء.
علقت يوليا شليتشكوفا، نائب رئيس الشؤون العامة لدى كاسبرسكي: «مع تزايد اعتماد الذكاء الاصطناعي، لم يعد ضمان أمنه أمراً اختيارياً، بل ضرورياً. وفي منتدى حوكمة الإنترنت لعام 2024، نساهم في حوار متعدد الأطراف لتحديد المعايير اللازمة لحماية الابتكار والمساعدة في مكافحة التهديدات السيبرانية الناشئة.»
مع استمرار دمج الذكاء الاصطناعي في القطاعات الحيوية، مثل الرعاية الصحية، والمالية، والقطاعات الحكومية، توفر «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» من كاسبرسكي أسس الاستخدام الآمن والأخلاقي للذكاء الاصطناعي.