عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة "تسميم" الشبكات العصبية
تاريخ النشر: 28th, November 2023 GMT
يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
إقرأ المزيد
وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: تاس
المصدر: RT Arabic
كلمات دلالية: تكنولوجيا روبوت الذکاء الاصطناعی
إقرأ أيضاً:
الجبورى: تقاس قدرات الدول وإمكاناتها بمدى تحكمها في تكنولوجيا المعلومات والإستفادة من البيانات الضخمة
توجه مدير إدارة المنظمات والإتحادات العربية- قطاع الشؤون الإقتصادية- الأمانة العامة لجامعة الدول العربية، الدكتور رائد على صالح الجبوري بالشكر للأكاديمية العربية للعلوم والتكنولوجيا والنقل البحري، كما توجه بالشكر للمشاركين والمتحدثين الذين أبدوا حرصهم على إثراء أعمال هذه الورشة بمداخلاتهم المختلفة.
كما نقل تحيات أحمد أبو الغيط، الأمين العام لجامعة الدول العربية، والسفير الدكتور علي بن إبراهيم المالكي، الأمين العام المساعد للشؤون الاقتصادية، للمشاركين، وتمنياتهما لهذه الورشة بالنجاح في إعداد المخرجات المنتظرة التي تساهم في تعزيز العمل العربي المشترك بالمجالات ذات الصلة.
جاء ذلك خلال فعاليات ورشة العمل العربية حول تعزيز الوعي بأخلاقيات استخدام الذكاء الاصطناعي في ظل التقدم في مجال التكنولوجيا العصبية" والتي تنظمها الأكاديمية العربية للعلوم والتكنولوجيا والنقل البحري بالتعاون والتنسيق مع الامانة العامة للجامعة العربية والمنظمة الامم المتحدة للتربية والثقافة والعلوم ( اليونسكو) وذلك من خلال مكاتبها الاقليمية فى المنطقة العربية (المكتب الاقليمى لمصر والسودان ونقطة الاتصال مع جامعة الدول العربية – والمكتب الاقليمى لليونسكو لمنطقة الخليج العربى واليمن بالدوحة).
وأكد انه من المناسب التذكير هنا بأن هذه الورشة تُعقد في إطار تنفيذ قرار الدورة العادية الأخيرة السادسة والخمسين للجنة التنسيق العليا للعمل العربي المشترك، والتي عقدت برئاسة الأمين العام للجامعة، خلال الفترة من 22-24 أبريل الماضي، حيث تضمّن هذا القرار دعوة الأكاديمية بالتعاون مع الأمانة العامة للجامعة إلى عقد ورشة عمل عربية حول تعزيز التوعية بأخلاقيات إستخدام الذكاء الاصطناعي بين المطورين والمستخدمين والجمهور بشكل عام، وبما يمكن أن يساهم في تشكيل ثقافة تقدير للمخاطر الأخلاقية والاجتماعية لتطبيقات الذكاء الاصطناعي، كما تضمن دعوة الأكاديمية بالتعاون مع مؤسسات العمل العربي المشترك المعنية إلى دعم الدراسات والبحوث في مجال الأخلاقيات الذكية لتطوير أدوات ومباديء توجه إستخدام الذكاء الاصطناعي بمسؤولية وأخلاقية، ولا يخفى أن هذا المضمون يتسق مع ما جاء في القرار رقم (29 /42c) الذي اعتمده المؤتمر العام لليونسكو في دورته الثانية والأربعين، بشأن وضع أول أداة معيارية عالمية تتعلق بأخلاقيات التكنولوجيا العصبية في شكل توصية، وما يستلزمه ذلك من إجراء مشاورات مكثفة بين أصحاب المصلحة المتعددين على المستويات الوطنية والإقليمية والدولية، لضمان أن يعكس مشروع التوصية مجموعة واسعة من وجهات النظر حول الحقائق العملية والأخلاقيات الخاصة بتطبيق التكنولوجيا العصبية،
وقال " لقد كان الذكاء الاصطناعي، بالأمس القريب، مجرد تصور يرسمه الخيال العلمي، ومجال تستلهم منه السينما بعض قصصها، وتجتهد قلة من المختبرات العلمية لتطويره، وها هو اليوم يصبح حقيقة وجزءاً من حياتنا اليومية، حيث دخلت استخدامات هذه التكنولوجيا التي تحاكي العقل البشري في قدراته، إلى جميع المجالات من الطب إلى التعليم والأمن وغيرها، ولقد شهد العقد الأخير تطوراً مذهلاً للبحوث العلمية المهتمة بالذكاء الاصطناعي، إذ يشير تقرير حديث أعدته جامعة ستانفورد الأمريكية بالتعاون مع وكالة ناسا وشركة مايكروسوفت أن عدد الدوريات والإصدارات العلمية المتخصصة في هذا الشأن زاد بأكثر من 6 أضعاف خلال السنوات الخمس الأخيرة، وهو مستمر بالإرتفاع، خاصة في ظل توجه الدول والشركات والمؤسسات العسكرية لضخ إستثمارات ضخمة للإستفادة مما تتيحه هذه التكنولوجيا من قدرات استثنائية قد تتجاوز تلك التي يمتلكها العقل البشري، وتمثل حصة الدول العربية من هذه البحوث -للأسف- عدداً ضئيلاً، وتفرض عليها هذه التحديات العمل على توفير الظروف التي تساهم في تطوير قدراتها وفق استراتيجيات وطنية شاملة ومحكمة للحاق بركب هذه الثورة، وأود من هذا المنبر أن أُحيي الدول العربية التي أطلقت إستراتيجياتها في مجال الذكاء الاصطناعي، وأتمنى أن تخطو بقية الدول خطىً مُماثلة.
وتابع في ضوء ما تقدم، فإن موضوع الذكاء الاصطناعي، يُعد في مقدمة هذه الأولويات، كونه يشمل أبعاداً مختلفة، تكنولوجية وإقتصادية واجتماعيّة، بعد أن أصبحنا اليوم نعيش عصراً تشكِّل فيه البيانات مورداً رئيسياً من موارد النمو الاقتصادي، وأصبحت قدرات الدول وإمكاناتها تُقاس بمدى تحكمها في تكنولوجيا المعلومات والإستفادة من البيانات الضخمة.
تفاصيل دور محمد ممدوح في فيلم روكي الغلابة