عالم روسي يحذر من ثغرات في الذكاء الاصطناعي
تاريخ النشر: 28th, November 2023 GMT
شفق نيوز/ يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.
ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.
وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات.
وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.
وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.
وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".
وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.
بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.
المصدر: شفق نيوز
كلمات دلالية: العراق هاكان فيدان تركيا محمد شياع السوداني انتخابات مجالس المحافظات بغداد ديالى نينوى ذي قار ميسان اقليم كوردستان السليمانية اربيل نيجيرفان بارزاني إقليم كوردستان العراق بغداد اربيل تركيا اسعار الدولار روسيا ايران يفغيني بريغوجين اوكرانيا امريكا كرة اليد كرة القدم المنتخب الاولمبي العراقي المنتخب العراقي بطولة الجمهورية الكورد الفيليون الكورد الفيليون خانقين البطاقة الوطنية مطالبات العراق بغداد ذي قار ديالى حادث سير الكورد الفيليون مجلة فيلي عاشوراء شهر تموز مندلي الذكاء الاصطناعي تحذير الذکاء الاصطناعی
إقرأ أيضاً:
استطلاع جديد يكشف: الذكاء الاصطناعي العام بعيد المنال
يشكك علماء الذكاء الاصطناعي في قدرة النماذج الحديثة على تحقيق الذكاء الاصطناعي العام (AGI) – وهو مستوى ذكاء يماثل القدرات البشرية – رغم الاستثمارات الضخمة التي تضخها الشركات التقنية في هذا المجال.
في استطلاع شمل 475 باحثًا في الذكاء الاصطناعي، أفاد 76% منهم بأن من "غير المحتمل" أو "غير المحتمل جدًا" أن تؤدي النماذج الحالية إلى تطوير أنظمة ذكاء اصطناعي فائقة الذكاء. يأتي هذا التقرير ضمن دراسة أجرتها جمعية النهوض بالذكاء الاصطناعي، وهي منظمة علمية دولية مقرها واشنطن.
اقرأ أيضاً.. الأول من نوعه عالمياً.. مسح متخصص يكشف تأثير الذكاء الاصطناعي على الرعاية الصحية
على مدار السنوات الأخيرة، اعتمدت شركات التقنية على فكرة أن توسيع نطاق النماذج الحالية سيؤدي إلى تحقيق AGI، مستفيدةً من تطور نماذج المحولات (Transformer Models) التي تحسنت تدريجيًا بفضل زيادة حجم البيانات المستخدمة في تدريبها. لكن هذه النماذج بدأت تظهر علامات على التباطؤ، إذ لم تحقق الإصدارات الأخيرة سوى تحسينات طفيفة في الجودة.
يقول ستيوارت راسل، من جامعة كاليفورنيا في بيركلي وأحد المساهمين في التقرير: "الاستثمارات الهائلة في توسيع نطاق النماذج دون محاولة جادة لفهم آليات عملها كانت دائمًا تبدو لي غير موفقة. ومنذ نحو عام، أصبح واضحًا للجميع تقريبًا أن فوائد هذا النهج التقليدي قد بلغت حدها الأقصى".
اقرأ أيضاً.. دراسة جديدة تكشف عن غزو الذكاء الاصطناعي للمحتوى على الإنترنت
ومع ذلك، تستعد شركات التقنية لإنفاق نحو تريليون دولار على مراكز البيانات والرقائق الإلكترونية في السنوات المقبلة لدعم طموحاتها في مجال الذكاء الاصطناعي.
وأشار التقرير أيضًا إلى وجود فجوة بين التصورات السائدة حول قدرات الذكاء الاصطناعي وواقعه الفعلي، حيث قال 80% من المشاركين إن التوقعات بشأن AI مبالغ فيها. يوضح توماس ديترتش، من جامعة ولاية أوريغون: "الأنظمة التي يُقال إنها تضاهي الأداء البشري – مثل حل المسائل البرمجية أو الرياضية – لا تزال ترتكب أخطاءً ساذجة. يمكن لهذه الأنظمة أن تكون أدوات مفيدة، لكنها لن تحل محل البشر في الوظائف".
حاليًا، تركز الشركات التقنية على ما يُعرف بـ"توسيع وقت الاستدلال"، حيث يتم استخدام قوة حوسبة أكبر لمنح النماذج مزيدًا من الوقت لمعالجة المدخلات وتحسين الاستجابات. لكن آروند نارايانان، من جامعة برينستون، يرى أن هذا النهج "لن يكون الحل السحري" لتحقيق AGI.
رغم الاهتمام المتزايد بالذكاء الاصطناعي العام، لا يزال تعريفه غير واضح تمامًا. على سبيل المثال، Google DeepMind تعتبره نظامًا قادرًا على التفوق على البشر في اختبارات معرفية متعددة، بينما ترى Huawei أن تحقيقه يتطلب امتلاك الذكاء الاصطناعي لجسد يتيح له التفاعل مع البيئة. أما Microsoft وOpenAI، فقد حددتا في تقرير داخلي أن AGI سيتحقق فقط عندما تتمكن OpenAI من تطوير نموذج يحقق أرباحًا بقيمة 100 مليار دولار.
إسلام العبادي(أبوظبي)
رئيس الوزراء يوجه بتكثيف الجولات الميدانية للوزراء بمختلف المشروعات