دراسة حديثة: الذكاء الاصطناعي يزداد قوة .. وغموضاً!
تاريخ النشر: 20th, October 2023 GMT
يخشى الخبراء من مدى السرية والغموض اللذان تحيط شركات التقنية بهما عمليات تطوير نماذج الذكاء الاصطناعي الخاصة بها
في مارس/آذار من هذا العام، نشرت شركة أوبن إيه آي تفاصيل نموذج الذكاء الاصطناعي تشات جي بي تي ChatGPT، واحتوت الصفحات المائة على الكثير من المعلومات، لكن الباحثين أغفلوا بعض التفاصيل المهمة، لعل أحدها كيفية بناء هذا النموذج أو طريقة عمله.
إخفاء "متعمد" للمعلومات؟
وفي تقرير مطول يشير موقع "وايرد" الأميركي المتخصص في التقنية إلى أن هذا الأمر لم يكن ذلك سهواً عرضياً، حيث تحرص كبرى شركات الذكاء الاصطناعي على إبقاء طريقة عمل خوارزمياتها المتطورة محاطة بالغموض، ويرجع ذلك جزئياً إلى الخوف من إساءة استخدام التكنولوجيا وأيضاً بسبب المخاوف من المنافسين.
في هذا الصدد، أظهرت دراسة أصدرها باحثون في جامعة ستانفورد هذا الأسبوع مدى عمق السرية المفروضة حول نموذج الذكاء الاصطناعي GPT-4 وأنظمة الذكاء الاصطناعي المتطورة الأخرى، إذ يقول بعض باحثي الذكاء الاصطناعي إن هناك تحول غامض في أساس الطريقة التي يتم من خلالها عمل تلك الأنظمة لا يعلم عنه الكثيرون شيئاً، فيما حذر خبراء آخرون من أن يصبح هذا المجال أقل انفتاحاً وأقل احتمالاً لإنتاج مادة علمية متجددة وأن يقل بالتالي حجم المساءلة ومعه تنخفض الموثوقية والسلامة.
بحثت الدراسة في 10 أنظمة مختلفة للذكاء الاصطناعي واسعة الانتشار من شركات مثل غوغل وأوبن إيه آي وأمازون، كما قام الباحثون بفحص نماذج الذكاء الاصطناعي "مفتوحة المصدر" التي يمكن تنزيلها مجاناً بما في ذلك نموذج توليد الصور والفيديوهات.
الكل سقط في اختبار الشفافية!
قام فريق ستانفورد بعرض هذه النماذج على 13 معياراً مختلفاً، بما في ذلك مدى شفافية بيانات الجهة القائمة على التطوير، وأُطر البرامج المستخدمة، واستهلاك الطاقة في المشروع.
ومن خلال هذه المقاييس ، وجد الباحثون أنه لا يوجد نموذج حقق أكثر من 54 في المائة على مقياس الشفافية على كافة المعايير، بما فيها النماذج مفتوحة المصدر، حيث لا يعرف أحد على وجه التحديد طبيعة البيانات المستخدمة في تدريبها، ولا كيف تم جمع هذه البيانات وتنظيمها، أو من قام بالعمل.
في هذا الإطار، قال ناثان شتراوس ، المتحدث باسم أمازون ، إنه "من السابق لأوانه قياس شفافية النموذج الأساسي قبل أن يكون جاهزاً لطرحه للناس"، فيما رفضت ميتا التعليق على الدراسة ولم تستجب OpenAI لطلب التعليق.
يقول ريشي بوماساني، طالب الدكتوراه في جامعة ستانفورد وأحد أفراد الفريق البحثي إن الدراسة تعكس حقيقة أن الذكاء الاصطناعي أصبح أكثر غموضاً حتى عندما أصبح أكثر تأثيراً في حياتنا، وأن هذا "يتناقض إلى حد كبير مع الطفرة الكبيرة الحادثة مؤخراً في الذكاء الاصطناعي"، وأن "الانفتاح السابق في عرض البيانات ساهم في الإسراع من زيادة قدرات هذه النماذج بما في ذلك التعرف على النصوص والأصوات والصور".
دعوات للانفتاح
الأمر نفسه دعا إليه علي فرهادي عالم الكمبيوتر والأستاذ في جامعة واشنطن والرئيس التنفيذي لمعهد ألين للذكاء الاصطناعي، إذ دعا إلى "الانفتاح الجذري" لنماذج الذكاء الاصطناعي لإضفاء الطابع الديمقراطي على البحث والتطوير في هذا المجال الذي يعتقد الكثيرون أنه أهم تقدم تكنولوجي للبشرية منذ عقود، بحسب ما ذكرت صحيفة نيويورك تايمز.
وتقول الشركات إن نهج السرية المحيط بتطوير هذا القطاع يقلل من خطر قيام لصوص الانترنت وجواسيس التقنية باختطاف التكنولوجيا لإغراق الإنترنت بالمعلومات الخاطئة والاحتيال أو الانخراط في سلوك أكثر خطورة، وفق ما أفادت نيويورك تايمز.
يشير تقرير ستانفورد أيضاً إلى أن نماذج الذكاء الاصطناعي لا تحتاج إلى أن تكون سرية للغاية لأسباب تنافسية. يقول كيفن كليمان، الباحث في جامعة ستانفورد، إن حقيقة أن مجموعة من النماذج الرائدة تسجل درجات عالية نسبياً في مقاييس مختلفة للشفافية تشير إلى أن جميعها يمكن أن تصبح أكثر انفتاحا دون أن تخسر أمام منافسيها.
وفي الوقت الذي يحاول فيه خبراء الذكاء الاصطناعي معرفة إلى أين سيؤدي هذا التطور الشديد الحادث في وقت قصير، يقول البعض إن السرية تخاطر بجعل المجال أقل تخصصاً من الناحية العلمية والبحثية ليصبح تخصصاً مدفوعاً بالربح فقط.
عماد حسن/ ع.أ.ج
المصدر: DW عربية
كلمات دلالية: أوبن إيه آي الذكاء الاصطناعي تشات جي بي تي التكنولوجيا جامعة ستانفورد الذكاء الاصطناعي GPT 4 أمازون غوغل حرية المعلومات الشفافية دويتشه فيله أوبن إيه آي الذكاء الاصطناعي تشات جي بي تي التكنولوجيا جامعة ستانفورد الذكاء الاصطناعي GPT 4 أمازون غوغل حرية المعلومات الشفافية دويتشه فيله الذکاء الاصطناعی فی جامعة إلى أن بما فی
إقرأ أيضاً:
نيويورك تايمز: إسرائيل استخدمت الذكاء الاصطناعي بشكل واسع في حرب غزة
كشفت صحيفة “نيويورك تايمز” الأميركية، في تقرير نشر مؤخرًا، أن جيش الاحتلال الإسرائيلي اعتمد على تقنيات ذكاء اصطناعي متقدمة على نطاق واسع خلال حربه على قطاع غزة، في خطوة أثارت موجة من الجدل الأخلاقي والحقوقي عالميًا، وسط تساؤلات حول دقة هذه الأنظمة ومدى مسؤوليتها عن وقوع ضحايا مدنيين.
وبحسب التقرير، فإن هذه الأنظمة طُورت في ما يُعرف بـ"الاستوديو"، وهو مركز مشترك بين وحدة الاستخبارات الإسرائيلية الشهيرة 8200، وعدد من جنود الاحتياط الذين يعملون في شركات تكنولوجيا عالمية كبرى مثل "جوجل" و"مايكروسوفت" و"ميتا".
وأوضح التقرير أن هذا التعاون بين المؤسسات العسكرية والتقنية أسفر عن أدوات تحليل بيانات واتخاذ قرارات هجومية بسرعة قياسية، لكن دون رقابة بشرية كافية.
كما أشار التقرير إلى أن جيش الاحتلال الإسرائيلي طور نموذجًا لغويًا ضخمًا متخصصًا في تحليل اللهجات العربية وفهم "المزاج العام" في المنطقة، وقد استخدم هذا النموذج عقب اغتيال الأمين العام لحزب الله، حسن نصرالله، في محاولة لتقييم احتمالات الرد اللبناني عبر تحليل التعابير المحلية المنتشرة على وسائل التواصل الاجتماعي.
ورغم القدرات التقنية العالية التي ادعتها إسرائيل، إلا أن الصحيفة أكدت أن النظام لم يكن دائمًا دقيقًا، إذ فشل في أحيانٍ كثيرة في تفسير المصطلحات العامية أو التلميحات الثقافية، مما أدى إلى قرارات ميدانية مشكوك في صحتها وأدت إلى وقوع ضحايا بين المدنيين.
ويأتي هذا الكشف في وقت تتزايد فيه الدعوات الدولية للتحقيق في استخدام الذكاء الاصطناعي في العمليات العسكرية، خصوصًا عندما يؤدي إلى خسائر في صفوف الأبرياء، فيما تطالب منظمات حقوقية بفرض رقابة مشددة على هذه التقنيات ومساءلة الجهات المطورة والمستخدمة لها.
العراق يوجه دعوة رسمية لأحمد الشرع للمشاركة في القمة العربية