مخاطر الذكاء الاصطناعى كثيرة جداً وتصل إلى حد المخاوف من سيطرة الآلة على العالم وتهديد وجود البشر. تخيل أن المخاوف تصل إلى حد وصول الآلة إلى مرحلة من الذكاء الذى يمكنها من إلغاء تحكم البشر فيها بل وتحكمها هى فى البشر والقضاء عليهم فقد يتم إنتاج روبوتات تتفوق على ذكاء الإنسان وتحطمه وتقضى على وجوده، فليس هناك حدود لهذا الذكاء وقدرات الآلات والمعدات الحديثة التى تعتمد على الذكاء الاصطناعى وقد تصدر عنها بقصد أو بغير قصد تصرفات مدمرة ويتوقع الخبراء أنه خلال السنوات القليلة القادمة ستتمكن الآلات والمعدات التى تعمل بالذكاء الاصطناعى من اتخاذ القرارات بشكل ذاتى دون اعتبار لإرادة وقرارات البشر.
ولكن بالطبع هناك فوائد كبيرة جداً وعظيمة لاستخدام الذكاء الاصطناعى وقليل من الناس هنا يسمعون أو يعرفون شيئاً عن الاستراتيجية الوطنية للذكاء الاصطناعى وبالتالى أيضاً هناك من لا يعرف المجلس الوطنى للذكاء الاصطناعى رغم أهمية هذه الاستراتيجية وهذا المجلس ورغم ما يحمله الذكاء الاصطناعى نفسه من فوائد عديدة ومخاطر كبيرة أيضاً.
والحقيقة أن الاستراتيجية الوطنية للذكاء الاصطناعى تم إعدادها بجهود مكثفة تضمنت دراسة مقارنة لتجربة تطوير الذكاء الاصطناعى فى 6 دول رائدة ومماثلة وأيضاً دراسة تحليلية لتطوير استخدامات تكنولوجيا الذكاء الاصطناعى لإيجاد حلول لعدد من التحديات التى تواجه المجتمع المصرى فى عدة مجالات حيوية، مثل الكشف المبكر عن الأورام واعتلال الشبكية السكرى فى قطاع الرعاية الصحية، وفى دعم اتخاذ القرار فى التخطيط الحضرى والزراعى، بالإضافة إلى معالجة اللغة العربية العامية المصرية.
ومن خلال هذه الجهود الكبيرة تقدمت مصر فى ترتيب المؤشر العالمى 7 مراكز فى المؤشر العالمى للذكاء الاصطناعى الصادر عن شركة تورتواز ميديا المتخصصة.
وبالأمس كان اجتماع المجلس الوطنى للذكاء الاصطناعى برئاسة الدكتور عمرو طلعت وزير الاتصالات وتكنولوجيا المعلومات الذى قال إن المرحلة الثانية من الاستراتيجية الوطنية تستهدف تحسين مؤشر الذكاء الاصطناعى الوطنى من خلال تنفيذ عدة مبادرات عبر 6 ركائز محورية هى الحوكمة، والنظام البيئى، والبنية المعلوماتية، والبيانات، والموارد البشرية، والتكنولوجيا؛ وتعتمد هذه المرحلة الثانية من الاستراتيجية على عددٍ من المبادرات المهمة وهى تعزيز نطاق الاستثمار، ورفع مستوى الوعى العام بالذكاء الاصطناعى، وجذب الاستثمارات فى مجال مراكز البيانات، وتمكين إدارة مراحل دورة حياة البيانات المحلية، والاستمرار فى تنمية القدرات فى مجال الذكاء الاصطناعى، وبناء منصة تكنولوجية اعتمادًا على تطوير تكنولوجيا نماذج البيانات الكبيرة.
ولكن هناك مخاوف ومخاطر بشأن مستقبل الذكاء الاصطناعى والتوسع فى الاعتماد على تقنياته ولذلك هناك تشريعات جديدة فى العديد من الدول لمواجهة التحديات الكبيرة التى يفرضها الاعتماد على تكنولوجيا الذكاء الاصطناعى ومن أجل ذلك بحث المجلس الوطنى ضرورة وضع قانون خاص للذكاء الاصطناعى بدراسة مقترح قانون المفوضية الأوروبية الذى يتبنى نموذجاً ثلاثى المستويات لمخاطر الذكاء الاصطناعى، ويحدد مخاطر الأنظمة من نواحى التأثير على الحقوق الأساسية والسلامة للمستخدم إلى أنظمة ذات مخاطر محظورة وأنظمة ذات مخاطر عالية وأنظمة ذات مخاطر منخفضة، وكذلك يحدد المتطلبات الواجب استيفاؤها لأنواع الأنظمة المختلفة.
وكان المجلس قد أصدر فى شهر أبريل الماضى الميثاق المصرى للذكاء الاصطناعى المسؤول وللعلم فقط فقد تم إنشاء المجلس الوطنى للذكاء الاصطناعى وفقا لقرار الدكتور مصطفى مدبولى رئيس مجلس الوزراء فى شهر نوفمبر 2019 بهدف وضع وحوكمة الاستراتيجية الوطنية للذكاء الاصطناعى من خلال التنسيق بين الجهات ذات الصلة للخروج باستراتيجية موحدة تعكس أولويات الحكومة وكل الجهات المعنية باستخدام تطبيقات الذكاء الاصطناعى، كما يختص المجلس بالإشراف على تنفيذ هذه الاستراتيجية ومتابعتها وتحديثها بما يتماشى مع التطورات العالمية.
المصدر: بوابة الوفد
كلمات دلالية: مجال الذكاء الاصطناعي وزير الاتصالات وتكنولوجيا المعلومات الذكاء الاصطناعى الوطنى ع الطاير مخاطر الذكاء الاصطناعي الاستراتیجیة الوطنیة الذکاء الاصطناعى للذکاء الاصطناعى المجلس الوطنى
إقرأ أيضاً:
تطوير برنامج حماية للذكاء الاصطناعي من الاختراق
أعلنت شركة "أنثروبيك" عن تطوير نظام جديد يمكنه حماية نماذج الذكاء الاصطناعي من محاولات كسر حواجز الحماية (جيل بريك).
وفي التقنية الجديدة يمكن كشف محاولة كسر الحماية على مستوى الإدخال ومنع الذكاء الاصطناعي من توليد استجابة ضارة نتيجة لذلك، واختبرت شركة الذكاء الاصطناعي قوة النظام من خلال برامج كسر الحماية المستقلة وفتحت أيضا عرضا توضيحياً حياً مؤقتاً للنظام للسماح لأي فرد مهتم باختبار قدراته، وفق "غادجيت 360".
ويُطلق على هذا النظام اسم Dubbed Constitutional Classifiers ، وهي عبارة عن تقنية حماية يمكنها اكتشاف محاولات الاختراق.
ويشير "كسر الحماية في الذكاء الاصطناعي التوليدي"، إلى تقنيات الكتابة السريعة غير العادية التي يمكن أن تجبر نموذج الذكاء الاصطناعي على عدم الالتزام بإرشادات التدريب الخاصة به وإنشاء محتوى ضار وغير مناسب.
وكسر الحماية ليس شيئاً جديداً، ويطبق معظم مطوري الذكاء الاصطناعي العديد من الضمانات ضده داخل النموذج، غير أنه، ونظراً لأن مهندسي كسر الحماية يواصلون إنشاء تقنيات جديدة، فمن الصعب بناء نموذج لغوي كبير (LLM) محمي تماماً من مثل هذه الهجمات.
وتتضمن بعض تقنيات كسر الحماية مطالبات طويلة للغاية ومعقدة تربك قدرات الذكاء الاصطناعي على التفكير.
ويستخدم البعض الآخر مطالبات متعددة لكسر الضمانات، ويستخدم البعض حتى أحرفاً كبيرة غير عادية لاختراق دفاعات الذكاء الاصطناعي.
وفي منشور يفصل البحث، أعلنت شركة أنثروبيك أنها تعمل على تطوير برنامج كطبقة واقية لنماذج الذكاء الاصطناعي.
وعلاوة على ذلك، أثناء اختبار التقييم الآلي، حيث جربت شركة الذكاء الاصطناعي Claude باستخدام 10000 مطالبة لكسر الحماية، ووجد أن معدل النجاح كان 4.4 بالمائة، مقابل 86 بالمائة لنموذج الذكاء الاصطناعي غير المحمي، وتمكنت أنثروبيك أيضاً من تقليل الرفض المفرط (رفض الاستعلامات غير الضارة) ومتطلبات قوة المعالجة الإضافية للبرنامج الجديد.
فيديو. السكوري : قانون الإضراب الجديد وسع الحريات النقابية