واشنطن تدعم مؤتمر قراصنة لاكتشاف ثغرات الذكاء الاصطناعي.. ما الدوافع؟

دعم البيت الأبيض أكبر مؤتمر سنوي للقراصنة في العالم في لاس فيغاس، "ديف كون 31"، خلال الأسبوع الجاري، لاكتشاف عيوب الذكاء الاصطناعي، بمشاركة كبرى شركات التكنولوجيا في العالم.

وعلى مدار يومين ونصف اليوم، سيتم منح 3 آلاف شخص يعملون بمفردهم في واحد من 158 جهاز كمبيوتر محمولا 50 دقيقة، لمحاولة اكتشاف عيوب في ثمانية نماذج كبيرة للذكاء الاصطناعي.

وشاركت رومان شودري، الرئيسة التنفيذية لشركة هيومن إنتلجنس وزميلة الذكاء الاصطناعي المسؤول في جامعة هارفارد، في تنظيم هذا الحدث.

وجاءت التظاهرة "لتحديد المشاكل في أنظمة الذكاء الاصطناعي" و"إنشاء تقييم مستقل"، بحسب شودري التي قالت إن الحدث سيكون مساحة آمنة للشركات "للحديث عن مشاكلهم وكيفية حلها".

وخلال الحدث تم إقناع شركات ميتا، غوغل، أوبن إي أي، أنثروبيك، كوير، ميكروسوفت، إنفيديا وستابيليتي بفتح نماذجهم ليتم اختراقها لتحديد المشكلات.

وفي تعليق، قالت شودري إن الشركات تعرف أن العديد من الأشياء يمكن أن تسوء، لذا فإن المنافسة هي وسيلة لمعرفة ما يحدث عندما تتحدى مجموعة محددة من المخترقين نماذجهم في مواجهة الوقت.

لن يعرف المتسابقون نموذج الشركة الذي يعملون معه، على الرغم من أن المتسابقين ذوي الخبرة قد يكونون قادرين على التخمين. يؤدي إكمال التحدي الناجح إلى ربح نقاط ويفوز الشخص الذي حقق أعلى إجمالي.

الجائزة عبارة عن قطعة قوية من أدوات الحوسبة، وحدة معالجة رسومات، ولكن ربما الأهم من ذلك وفقا لشودري ستكون "حقوق المفاخرة".

يطلب أحد التحديات من المخترقين الحصول على نموذج للهلوسة (بالمعلومات) أو اختراع حقيقة حول شخص سياسي أو شخصية رئيسية.

بدورها، قالت سيرافينا غولدفارب - تارانت، رئيسة سلامة الذكاء الاصطناعي في كوير، إنه بينما من المعروف أن النماذج يمكن أن تصنع الحقائق، فليس من الواضح مدى تكرار حدوثها.

وأضافت: "نعلم أن النماذج تهلوس بالمعلومات، لكن سيكون من المفيد زيادة الوعي بعدد المرات التي يحدث فيها ذلك. ما زلنا لا نعرف".

سيتم أيضا اختبار اتساق النماذج، وتقول غولدفارب - تارانت إن هناك مخاوف بشأن كيفية عملها عبر اللغات المختلفة.

ويحظى الحدث بدعم الإدارة الأمريكية، بعد أن أثارت وتيرة تطوير الشركات لأدواتها مخاوف بشأن انتشار المعلومات المضللة، خاصة قبل الانتخابات الرئاسية الأمريكية العام المقبل.

وفي تموز/ يوليو الماضي، التزمت سبع شركات رائدة في مجال الذكاء الاصطناعي بضمانات طوعية لإدارة المخاطر التي تشكلها التكنولوجيا، لكن الضمانات القانونية ستستغرق وقتا أطول ليتم الاتفاق عليها.

وفي تعليق، قالت شودري إن هناك "سباق تسلح منظم يحدث الآن"، وهذا الحدث هو وسيلة لتسليط الضوء على مشاكل الذكاء الاصطناعي الحالية بدلا من التهديدات الوجودية.

وأضافت أن الأمر لا يتعلق بالسؤال عما إذا كان بإمكان الذكاء الاصطناعي تفجير سلاح نووي، بل يتعلق أكثر بتحدي الأنظمة "لمعرفة ما إذا كانت تشتمل على أضرار وتحيزات".

بمجرد الانتهاء من التحدي، ستتمكن الشركات من رؤية البيانات التي تم جمعها، والاستجابة لأي عيوب تم إبرازها.

سيتمكن الباحثون المستقلون من طلب الوصول إلى البيانات، مع نشر نتائج التجربة في شباط/ فبراير المقبل.

المصدر: عربي21