كاسبرسكي تكشف عن إرشادات التطوير الآمن للذكاء الاصطناعي في منتدى حوكمة الإنترنت
تاريخ النشر: 19th, December 2024 GMT
خلال مشاركتها في منتدى حوكمة الإنترنت السنوي لعام 2024، والذي عُقد في العاصمة السعودية الرياض بين يومي 15 و19 ديسمبر، قدمت كاسبرسكي إرشاداتها للتطوير والنشر الآمن لأنظمة الذكاء الاصطناعي. وتهدف الوثيقة لمساعدة المنظمات على تجنب المخاطر المرتبطة باعتماد تقنيات الذكاء الاصطناعي من خلال توفير متطلبات الأمن السيبراني التي يجب مراعاتها عند تنفيذ هذه الأنظمة.
تم عرض «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» يوم 18 ديسمبر ضمن ورشة عمل على هامش منتدى حوكمة الإنترنت حملت عنوان «الأمن السيبراني في الذكاء الاصطناعي: الموازنة بين الابتكار والمخاطر». حيث نظم ممثلو كاسبرسكي لجنة من الخبراء لاستكشاف كيفية التنسيق بين الابتكار في مجال الذكاء الاصطناعي والإدارة الفعالة للمخاطر والأمن السيبراني. وجرى العمل على الوثيقة بالتعاون مع خبراء أكاديميين رواد لمعالجة التعقيد المتزايد لتحديات الأمن السيبراني المرتبطة بالأنظمة المدعومة بالذكاء الاصطناعي.
تُعد الوثيقة مورداً أساسياً للمطورين والمسؤولين وفرق عمليات تطوير الذكاء الاصطناعي، كما تقدم نصائح مفصلة وعملية لمعالجة الثغرات الفنية والمخاطر التشغيلية. وتظهر الأهمية الأكبر لهذه الإرشادات بالنسبة للمؤسسات التي تعتمد على نماذج الذكاء الاصطناعي التابعة لطرف ثالث والأنظمة القائمة على السحابة، فقد تؤدي الثغرات الأمنية لاختراقات كبيرة للبيانات وأضرار بالسمعة.
من خلال تضمين مبادئ الأمان التصميمي، تساعد الإرشادات المنظمات على موازنة نشر الذكاء الاصطناعي مع معايير مثل الممارسات البيئية والاجتماعية وحوكمة الشركات ومتطلبات الامتثال الدولية. تتناول الوثيقة الجوانب الرئيسية لتطوير، ونشر، وتشغيل أنظمة الذكاء الاصطناعي، بما يشمل التصميم وأفضل الممارسات الأمنية، والتكامل، دون التركيز على تطوير النماذج التأسيسية.
تؤكد إرشادات كاسبرسكي على المبادئ التالية لتعزيز أمن أنظمة الذكاء الاصطناعي:
1. التوعية والتدريب على الأمن السيبراني
تسلط كاسبرسكي الضوء على أهمية دعم القيادة والتدريب المخصص للموظفين. حيث يجب أن يكون الموظفون على دراية بأساليب استغلال الذكاء الاصطناعي المعتمدة من مصادر التهديد. وتضمن التحديثات المنتظمة لبرامج التدريب التوافق مع التهديدات المتطورة.
2. نمذجة التهديدات وتقييم المخاطر
تؤكد الإرشادات على ضرورة تحديد المخاطر والتخفيف منها بشكل استباقي من خلال وسائل نمذجة التهديدات التي تساعد على تحديد الثغرات في وقت مبكر من تطوير الذكاء الاصطناعي. وتوصي كاسبرسكي باستخدام منهجيات موثوقة لتقييم المخاطر (مثل نموذجي STRIDE وOWASP) لتقييم التهديدات الخاصة بالذكاء الاصطناعي، بما يشمل إساءة استخدام النماذج، وتسميم البيانات، ونقاط ضعف الأنظمة.
3. أمن البُنى التحتية (السحابة)
تتطلب أنظمة الذكاء الاصطناعي، والتي غالباً ما يتم نشرها في بيئات سحابية، حماية قويةً مثل التشفير، وتقسيم الشبكة، والمصادقة الثنائية. وتؤكد كاسبرسكي على مبادئ الثقة الصفرية، وقنوات الاتصال الآمنة، وإصلاحات البنية التحتية بشكل منتظم للحماية من الاختراقات.
4. سلسلة الإمداد وأمن البيانات
تسلط كاسبرسكي الضوء على المخاطر التي تشكلها مكونات ونماذج الذكاء الاصطناعي التابعة لجهات خارجية، بما يشمل تسرب البيانات وإساءة استخدام المعلومات التي تم الحصول عليها لإعادة بيعها. وفي هذا الصدد، يجب تطبيق سياسات الخصوصية والممارسات الأمنية الخاصة بالخدمات التابعة لجهات خارجية، مثل استخدام الحساسات والتدقيقات الأمنية، بشكل صارم.
5. الاختبار والتحقق
يضمن التحقق المستمر لنماذج الذكاء الاصطناعي الموثوقية. وتعمل كاسبرسكي على تعزيز مراقبة الأداء والإبلاغ عن الثغرات الأمنية للكشف عن المشكلات الناجمة عن انحراف بيانات الإدخال أو الهجمات المعادية. ويُعد التقسيم الملائم لمجموعات البيانات وتقييم منطق اتخاذ القرار الخاص بالنماذج أمرين ضروريين للتخفيف من المخاطر.
6. الحماية من الهجمات الخاصة بتعلم الآلة
تؤكد الإرشادات على ضرورة حماية مكونات الذكاء الاصطناعي من الهجمات الخاصة بتعلم الآلة، بما يشمل المدخلات المعادية، وتسميم البيانات، وهجمات الحقن الفوري. وتعمل تدابير مثل دمج الأمثلة المعادية في مجموعة بيانات التدريب، وأنظمة اكتشاف الشذوذ، وأساليب التقطير على تحسين قدرة النماذج على مواجهة التلاعب.
7. التحديثات الأمنية والصيانة المنتظمة
تؤكد كاسبرسكي على أهمية الإصلاح المتكرر لمكتبات وأطر الذكاء الاصطناعي لمعالجة الثغرات الأمنية الناشئة. وقد تساعد المشاركة في برامج مكافآت الأخطاء وإدارة دورة حياة نماذج الذكاء الاصطناعي القائمة على السحابة على تعزيز مرونة النظام.
8. الالتزام بالمعايير الدولية
يساعد كل من الالتزام باللوائح العالمية (مثل اللائحة العامة لحماية البيانات، وقانون الذكاء الاصطناعي للاتحاد الأوروبي)، وأفضل الممارسات، والتحقق من امتثال أنظمة الذكاء الاصطناعي للقانون على التوافق مع المتطلبات الأخلاقية ومتطلبات خصوصية البيانات، بالإضافة إلى تعزيز الثقة والشفافية.
وتؤكد المبادئ التوجيهية على أهمية تضمين أنظمة الذكاء الاصطناعي بشكل مسؤول لتجنب مخاطر الأمن السيبراني الكبيرة، مما يجعلها مورداً مهماً للغاية للشركات والحكومات على حد سواء.
علقت يوليا شليتشكوفا، نائب رئيس الشؤون العامة لدى كاسبرسكي: «مع تزايد اعتماد الذكاء الاصطناعي، لم يعد ضمان أمنه أمراً اختيارياً، بل ضرورياً. وفي منتدى حوكمة الإنترنت لعام 2024، نساهم في حوار متعدد الأطراف لتحديد المعايير اللازمة لحماية الابتكار والمساعدة في مكافحة التهديدات السيبرانية الناشئة.»
مع استمرار دمج الذكاء الاصطناعي في القطاعات الحيوية، مثل الرعاية الصحية، والمالية، والقطاعات الحكومية، توفر «إرشادات التطوير والنشر الآمن لأنظمة الذكاء الاصطناعي» من كاسبرسكي أسس الاستخدام الآمن والأخلاقي للذكاء الاصطناعي.
المصدر: بوابة الوفد
كلمات دلالية: أنظمة الذکاء الاصطناعی منتدى حوکمة الإنترنت الأمن السیبرانی کاسبرسکی على بما یشمل
إقرأ أيضاً:
الذكاء الاصطناعي يداعب خيال صناع الدراما
في أغسطس من العام الماضي، أجرى مركز «إبسوس» الفرنسي لأبحاث السوق وتحليل البيانات، استطلاع رأي، كشف أن "36%" من المصريين يستخدمون تكنولوجيا الذكاء الاصطناعي، وتزداد النسبة إلى "40%" في الفئة العمرية بين "35 و 44 سنة"، وأكد "21%" منهم، أن هذه التكنولوجيا غيّرت حياتهم اليومية بشكل كبير لم يكن في الحسبان.
وربما لو أجري الاستطلاع مرة أخرى خلال الأشهر الثمانية الأخيرة، لتقافزت الأرقام بشكل لن يكون، أيضًا، في الحسبان، عقب طفرة تطور "شات جي بي تي"، و"ديب سيك" وإخوتهما في مجال "مساعدي الذكاء الاصطناعي"، وربما لو دقق أحدنا في "يد الآخر"، لوجد هاتفه الذكي يكاد يلوّح له قائلاً: "أهلاً يا صديقي، كيف يمكنني مساعدتك اليوم؟!".
عندما نقرأ مصطلح "استنساخ"، سرعان ما ترجع الذاكرة، فلاش باك، إلى عام 1997، حينما حدثت الضجة العالمية باستنساخ النعجة "دوللي" اصطناعيا، بتقنيات طبية تكنولوجية غاية في التعقيد "الجيني". وبعيدًا عن إشكالية الخلاف حول توقيت إجراء أول عملية استنساخ، سواء للفئران أو الحيوانات، فوجئ الجمهور بالمصطلح نفسه، لأول مرة، عبر الصفحات الفنية، كـ"اسم فيلم جديد" تم طرحه بعد عيد الفطر مباشرة، داهمته عواصف من الجدل، عقب التأجيل المفاجئ للعرض الخاص، وتراشق التصريحات بين صناع الفيلم، وجهاز الرقابة، وكانت المفاجأة الكبرى هي "بطل الفيلم" نفسه، الفنان سامح حسين، الذي تصدر التريند خلال شهر رمضان، بعد النجاح الكبير لبرنامجه الذي يقدمه عبر "السوشيال ميديا"، بعنوان "قطايف"، في قالب اجتماعي توعوي أخلاقي، وجاء الإعلان عن فيلمه "استنساخ" بمثابة "ضربة حظ" بتوقيت "يبدو مثاليا" عقب نجاحه في رمضان، كما تشارك بطولته الفنانة هبة مجدي، التي تألقت (أيضًا) في رمضان الماضي بمسلسليْ "المداح"، و"منتهي الصلاحية"، ولكن "التألق المزدوج" لبطليْ الفيلم، لم يشفع لهما أمام شباك التذاكر، فما زالت الإيرادات "هزيلة"، وإن كان صناع العمل يراهنون على الفترة المقبلة، بعد "تشبّع الجمهور من أفلام العيد" التي سبقت طرح "استنساخ".
وكانت "بوصلة" صناع الفيلم تتجه، قبل برنامج "قطايف"، إلى الاكتفاء بالعرض عبر المنصات الإلكترونية، نظرًا لكون بطل العمل ليس "نجم شباك"، وغيابه الطويل عن السينما، وتراجع إيرادات أفلامه السابقة، التي كان معظم جمهورها من "الأطفال"، خاصة أن البطل "يغيّر جلده الذي يعرفه جمهوره"، حيث يجسد سامح حسين دور "يونس العربي"، مريض نفسي سيكوباتي، كما أن فكرة الفيلم الجديد بعيدة تماما عن "اهتمامات الأطفال"، حيث تتناول الأحداث أفكارًا وجودية عميقة بين الفلسفة والهوية، في قالب تشويقي جاد، حول تداعيات الذكاء الاصطناعي والاستنساخ البشري، وآثارها على جوانب حياتنا الإنسانية والاجتماعية، والعلاقة المعقدة بين الإنسان والتكنولوجيا في المستقبل، والطريف، أننا سألنا "شات جي بي تي" عن "رأيه" في هذا الطرح، فكانت إجابته بأن المعالجة الدرامية تبتعد عن الواقع إلى حد كبير، فمساعد الذكاء الاصطناعي لا يستنسخ البشر، وإنما يعالج البيانات ويتفاعل مع المستخدمين بناء على البرمجة والتعلم، وانتقد "شات جي بي تي" ما ينسجه خيال صناع الدراما من "مخاوف" حول سيطرة الذكاء الاصطناعي، و"وصفها" بأنها "مبالغات درامية"، تعكس المخاوف البشرية بشكل عام من المجهول الذي تأتي به التكنولوجيا، وإن كانت "على حد تعبير شات جي بي تي"، مخاوف غير حقيقية، باعتبار أن خروج الذكاء الاصطناعي (أحيانا) عن سيطرة البشر، ليس مرجعه "نوايا خبيثة" من الذكاء الاصطناعي، كما يتوهم البعض، وإنما "قيادة غير حكيمة من البشر"، وإشراف "غير كافٍ"، و"مراقبة غير دقيقة" لتطبيقات حساسة، مما أدى لاتخاذ الذكاء الاصطناعي "قرارات غير متوقعة" بناء على خوارزميات معقدة، لم يتم حسابها بدقة من جانب البشر!!
ومنذ عام، تقريبًا، فتحت الدراما المصرية، أبوابها أمام قضايا "تقنية"، تتعلق بالتكنولوجيا المتطورة، والذكاء الاصطناعي، وتناول معظمها العلاقة "المريبة" مع بعض البشر "المؤذين" الذين يمارسون "جرائم إلكترونية" في الخفاء، ودارت "الحبكات الجديدة" في قوالب التشويق والإثارة والغموض، حول "توريط الأبرياء" بأساليب التحايل و"النصب" و"التزييف العميق" الذي يتم باستخدام "AI"، هذين "الحرفين باللغة الإنجليزية" اللذين باتا من "أساسيات الحوار الدرامي" لعدد من المسلسلات المصرية التي عرضت مؤخرا، ومنها "رقم سري"، و"صوت وصورة"، وفي دراما رمضان 2025: "أثينا"، و"منتهي الصلاحية"، كما قدم مسلسل "تيتا زوزو"، 2024، معالجة "إنسانية" مبتكرة، للعلاقة بين البشر والذكاء الاصطناعي، عن طريق "تطبيق ذكاء اصطناعي يخلق كائنا افتراضيا"، يتفاعل مع الأبطال، يؤنسهم ويؤثر فيهم، وتتغير به مسارات الأحداث، هذا المزج "العاطفي" بين الإنسان و"الآلة" ظهر منذ 2020، في مسلسل "النهاية" ليوسف الشريف، الذي جسد دور "روبوت"، صنعته البطلة (سهر الصايغ)، لتتغير به الحبكة ويتفاعل معه الأبطال، كما ظهر معه "روبوت يتعاطف مع البشر"، عمرو عبد الجليل، ودار الصراع حول سرقة "الوعي البشري" باعتباره "أعز ما يملك بنو آدم"، وبعده بعام، طرح مسلسل "في بيتنا روبوت"، معالجة كوميدية لفكرة تصنيع "روبوت" يساعد البشر في مهام عملهم، وتعاطف الجمهور مع اثنين من الفنانين جسدا "شخصيتيْ الروبوتين لذيذ وزومبا"، عمرو وهبة وشيماء سيف!
وشهدت السينما المصرية، فكرة "الروبوت"، في قوالب مختلفة، كان آخرها، في 2021، "موسى" للفنان كريم محمود عبد العزيز، الذي شارك البطولة مع "روبوت" اخترعه لنصرة الضعفاء، والانتقام من قوى الشر، في قالب فانتازي يعكس حلم الإنسانية الأبدي الذي ينشد تحقيق قيم الحق والخير والجمال، وكانت السينما المصرية قد بدأت مشوارها مع فكرة "الروبوت"، منذ خمسينيات القرن الماضي، بمحاولة "بدائية كوميدية"، في فيلم "رحلة إلى القمر"، 1959، بطولة إسماعيل يس، ورشدي أباظة، حول رحلة فضائية قام خلالها روبوت (إنسان آلي) بالسيطرة على الأبطال، وتحويل مساراتهم، ثم مساعدتهم للعودة إلى كوكب الأرض، وفي 1968، عُرض فيلم "المليونير المزيف"، جسد خلاله الأستاذ فؤاد المهندس، شخصية مهندس اخترع "روبوت" يؤدي الأعمال المنزلية، أطلق عليه "ماك ماك"، جسده الفنان حسن مصطفى، وفي 1987، عرض التليفزيون فوازير "جدو عبده زارع أرضه" للفنان عبد المنعم مدبولي، وظهر فيه "روبوت" يعمل كـ"جنايني"، أطلق عليه أهل القرية اسم "العمدة الآلي"، والطريف، أنه في نفس العام، عرض مسلسل "الزوجة أول من يعلم"، شاركت في بطولته الفنانة شهيرة، وجسدت دور مهندسة كمبيوتر، تستعين بما يشبه "المساعد الذكي"، عن طريق توصيل "الآلة الكاتبة بالتليفزيون"، لمساعدتها في العثور على "لوازم البيت". وبشكل عام، في أغلب الأعمال الدرامية التي تناولت الذكاء الاصطناعي، سواء في مصر، أو حتى هوليوود (مع الفارق الرهيب بالطبع)، تتمحور الفكرة الأساسية حول الأسئلة الأخلاقية والفلسفية والوجودية المعقدة، التي تعكس مخاوف مليارات البشر، باختلاف مستويات تطورهم، من المصير الضبابي الذي ينتظر كوكب الأرض، وتقف في مقدمته "جيوش الذكاء الاصطناعي"، وكأنها "تخرج ألسنتها" للجميع، في "سخرية غامضة" لن يكتشف "سرّها" أحد!!
اقرأ أيضاًسامسونج تستحوذ على شركة ناشئة في مجال الروبوتات بـ كوريا الجنوبية
«الجوانب القانونية لاستخدام الروبوت الذكي في المؤسسات الحكومية».. مؤتمر طلابي بـ«حقوق حلوان»
تطور غير مسبوق.. «جوجل» تضيف تحديثات إخبارية إلى روبوت Gemini
أسعار الدواجن والبيض اليوم.. الثلاثاء 15 أبريل 2025