عالم روسي يحذر من ثغرات في الذكاء الاصطناعي
تاريخ النشر: 28th, November 2023 GMT
شفق نيوز/ يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: شفق نيوز
كلمات دلالية: العراق هاكان فيدان تركيا محمد شياع السوداني انتخابات مجالس المحافظات بغداد ديالى نينوى ذي قار ميسان اقليم كوردستان السليمانية اربيل نيجيرفان بارزاني إقليم كوردستان العراق بغداد اربيل تركيا اسعار الدولار روسيا ايران يفغيني بريغوجين اوكرانيا امريكا كرة اليد كرة القدم المنتخب الاولمبي العراقي المنتخب العراقي بطولة الجمهورية الكورد الفيليون الكورد الفيليون خانقين البطاقة الوطنية مطالبات العراق بغداد ذي قار ديالى حادث سير الكورد الفيليون مجلة فيلي عاشوراء شهر تموز مندلي الذكاء الاصطناعي تحذير الذکاء الاصطناعی
إقرأ أيضاً:
خبير أمن المعلومات يوضح هل الذكاء الاصطناعي ثورة تقنية أم تهديد أمني؟
تحدث الدكتور أحمد بانافع، خبير أمن المعلومات، حول ما كشفته السلطات الأمريكية حول أن برنامج الذكاء الاصطناعي «شات جي بي تي» تم استخدامه في حادثة تفجير السيارة في رأس السنة، أمام برج ترامب في ولاية نيفادا الأمريكية قائلًا: «إن الذكاء الاصطناعي أداة ذات حدين ومثل ما هناك أشخاص يستخدمونه في الأشياء الجيدة، فإن المجرمين يستخدموه للحصول على المعلومات».
وأضاف «بانافع» خلال مداخلة ببرنامج «صباح جديد» المذاع على شاشة قناة القاهرة الإخبارية، أن هناك مسؤولية تقع على عاتق الشركات المطورة لتقنيات الذكاء الاصطناعي لمنع حوادث جديدة، ولكنها مسؤولية أخلاقية وليست قانونية، موضحًا أن إدارة بايدن أصدرت طلب رئاسي بمراقبة تقنيات الذكاء الاصطناعي بشكل تطوعي.
من المستحيل أن تراقب الشركات منتجاتهاوأشار خبير أمن المعلومات إلى أنه من المستحيل أن تراقب الشركات منتجاتها وتحد منها لأن هذا يقلل من أرباحهم، لافتًا إلى أنه عدد من الولايات الأمريكية حاولت تقيض تقنيات الذكاء الاصطناعي من خلال تحميل الشركات المطورة عن العواقب السيئة لاستخدام الذكاء الاصطناعي لكن الولايات المشار إليها فشلت في إصدار قرارات بذلك، ومع ذلك فمن الممكن أن تكون حادث نيفادا محركًا لمحاولات لتقيض الذكاء الاصطناعي.
جدير بالذكر أن الرئيس التنفيذي لشركة NVIDIA جينسن هوانج، لم يكن يشعر بالقلق الشديد بشأن مستقبل مليء بالروبوتات والذكاء الاصطناعي الفائق الذكاء.
في الواقع، إنه يرحب بذلك. خلال جلسة أسئلة وأجوبة في معرض CES مع وسائل الإعلام والمحللين، سُئل هوانج عما إذا كان يعتقد أن الروبوتات الذكية ستقف في النهاية إلى جانب البشر، أو ضدهم. أجاب بثقة: "مع البشر، لأننا سنبنيهم بهذه الطريقة".
واصل هوانج: "فكرة الذكاء الفائق ليست غير عادية. لدي شركة بها العديد من الأشخاص الذين يتمتعون بذكاء خارق في مجال عملهم. أنا محاط بالذكاء الفائق. وأفضل أن أكون محاطًا بالذكاء الفائق بدلاً من البديل".
نظرًا لأن الضجة حول الذكاء الاصطناعي التوليدي كانت ضخمة بالنسبة لأعمال NVIDIA - فهي تتنافس حاليًا مع Apple وMicrosoft للحصول على أكبر تقييم في العالم - فمن المنطقي أن يكون هوانج متمسكًا بمستقبل حيث نعتمد بشكل أكبر على الذكاء الاصطناعي الأكثر ذكاءً. إنه لا يصل إلى حد إعلان وصول الذكاء الاصطناعي العام الشبيه بالإله (AGI) مثل الرئيس التنفيذي لشركة OpenAI سام ألتمان وإيلون ماسك من شركة Tesla، وبدلاً من ذلك تبدو رؤية هوانج أكثر تركيزًا على المهام.
وقال: "هذا هو المستقبل، سيكون لديك ذكاء اصطناعي فائق الذكاء يسمح لك بالكتابة وتحليل المشكلات والتعامل مع تخطيط سلسلة التوريد وكتابة البرامج وتصميم الرقائق. يمكن استخدام التكنولوجيا بالطبع بطرق عديدة، لكن البشر هم الضارون. أعتقد أن الآلات هي الآلات".
خلال جلسة الأسئلة والأجوبة الصباحية، والتي جاءت بعد الكلمة الرئيسية الطويلة التي ألقاها هوانج في معرض CES أمام حشد غير متحمس في الغالب، اعترف بأنه قام بعمل رديء في نقل رؤيته للذكاء الاصطناعي في العالم الحقيقي. يعتقد هوانج أن الجمع بين تقنية Omniverse من NVIDIA لتصور الروتينات ثلاثية الأبعاد، بالإضافة إلى NVIDIA Cosmos لتوليد بيئات واقعية لتدريب الذكاء الاصطناعي، سيجعل من الأسهل تدريب الروبوتات على العمل في العالم الحقيقي. قد ينتهي الأمر بخطوة صغيرة نحو الذكاء الاصطناعي الفائق - أو على الأقل، روبوتات أكثر قدرة قليلاً.
شهادتي للتاريخ وإطلالة على المستقبل: تساؤل جعفر خضر حول نجاح او فشل حكومة المفصولين (٦)