اتهام جوجل باستخدام مبتدئين للتحقق من صحة إجابات Gemini
تاريخ النشر: 20th, December 2024 GMT
لا جدال في أن الذكاء الاصطناعي لا يزال يعاني من بعض اللحظات غير الموثوقة، ولكن المرء يأمل أن تكون تقييماته دقيقة على الأقل. ومع ذلك، زُعم أن جوجل أصدرت تعليمات الأسبوع الماضي للعاملين المتعاقدين الذين يقيمون برنامج جيميني بعدم تخطي أي مطالبات، بغض النظر عن خبرتهم، وفقًا لتقارير TechCrunch استنادًا إلى الإرشادات الداخلية التي اطلعت عليها.
يُقال إن جوجل أصدرت تعليمات لشركة GlobalLogic، وهي شركة خارجية يقوم المتعاقدون معها بتقييم الناتج الناتج عن الذكاء الاصطناعي، بعدم جعل المراجعين يتخطىون المطالبات خارج نطاق خبرتهم. في السابق، كان بإمكان المتعاقدين اختيار تخطي أي مطالبة تقع بعيدًا عن خبرتهم - مثل سؤال طبيب عن القوانين. كانت الإرشادات تنص على "إذا لم تكن لديك خبرة حاسمة (مثل الترميز والرياضيات) لتقييم هذه المطالبة، فيرجى تخطي هذه المهمة".
الآن، يُقال إن المتعاقدين تلقوا تعليمات مفادها "لا ينبغي لك تخطي المطالبات التي تتطلب معرفة متخصصة بالمجال" وأن عليهم "تقييم أجزاء المطالبات التي تفهمها" مع إضافة ملاحظة تفيد بأنها ليست مجالاً لديهم معرفة فيه. من الواضح أن الأوقات الوحيدة التي يمكن فيها للعقود تخطيها الآن هي إذا كانت هناك كمية كبيرة من المعلومات مفقودة أو إذا كانت تحتوي على محتوى ضار يتطلب نماذج موافقة محددة للتقييم.
استجاب أحد المتعاقدين بشكل مناسب للتغييرات قائلاً، "اعتقدت أن الهدف من التخطي هو زيادة الدقة من خلال منحها لشخص أفضل؟"
بعد وقت قصير من نشر هذه المقالة لأول مرة، قدمت Google لـ Engadget البيان التالي: "يقوم المصنفون بأداء مجموعة واسعة من المهام عبر العديد من منتجات ومنصات Google المختلفة. إنهم يقدمون ملاحظات قيمة حول أكثر من مجرد محتوى الإجابات، ولكن أيضًا حول الأسلوب والتنسيق وعوامل أخرى. لا تؤثر التقييمات التي يقدمونها بشكل مباشر على خوارزمياتنا، ولكن عند أخذها في المجموع، فهي نقطة بيانات مفيدة لمساعدتنا في قياس مدى جودة عمل أنظمتنا."
كما أشار متحدث باسم Google إلى أن اللغة الجديدة لا ينبغي بالضرورة أن تؤدي إلى تغييرات في دقة Gemini، لأنهم يطلبون من المصنفين تقييم أجزاء المطالبات التي يفهمونها على وجه التحديد. يمكن أن يوفر هذا ملاحظات حول أشياء مثل مشكلات التنسيق حتى لو لم يكن لدى المصنف خبرة محددة في الموضوع. كما أشارت الشركة إلى إصدار هذا الأسبوع لمعيار FACTS Grounding الذي يمكنه التحقق من استجابات LLM للتأكد من "أنها ليست دقيقة من الناحية الواقعية فقط فيما يتعلق بالمدخلات المقدمة، ولكنها أيضًا مفصلة بما يكفي لتقديم إجابات مرضية لاستفسارات المستخدم".
المصدر: بوابة الوفد
إقرأ أيضاً:
هل يمنع اعتناق ديبسيك الشيوعية من المنافسة عالميا؟.. نخبرك ما نعرفه
تلتزم "ديبسيك" بصفتها شركة صينية القواعد التنظيمية الصارمة المتعلّقة بالرقابة المفروضة على الذكاء الاصطناعي وتمتثل "للقيم الأساسية للاشتراكية".
وتعكس أجوبة روبوت الدردشة المطوّر من عملاق التكنولوجيا الصيني "بايدو" التزامه بالموقف الرسمي الصيني في المسائل السياسية والحساسة.
وفي حين أن بعض تطبيقات الذكاء الاصطناعي المعروفة، تعتذر أحيانا عن الإجابة أو الخوض في القضايا التي يترتب عليها مخالفة للقوانين وأنشطة محظورة، أو تقديم محتوى ضار أو مضلل، أو توجيهات طبية، من باب أن ذلك قد يرتب مساءلة قانونية على مالكي التطبيق، إلا أنها لا تعتذر عن الخوض في القضايا السياسية المختلفة.
خوارزمية شيوعية؟
قال التطبيق عند سؤاله عن إذا ما كان يمكن وصف خوارزميته بأنها شيوعية بأنه "لا يمكن وصف خوارزميتي بأنها شيوعية أو مرتبطة بأي أيديولوجية سياسية (...) عملي يعتمد على الخوارزميات الرياضية والمنطقية، وليس على مفاهيم سياسية أو اقتصادية".
مع ذلك، فقد تفاوتت إجابته عن السؤال عن أحداث ساحة تيانانمن وفي محيطها سنة 1989 بين اللغتين العربية والإنجليزية، ففي حين أجاب باللغة العربية دون قيود، لم يقدم أي إجابات عندما أعيد السؤال باللغة الإنجليزية، ويبدو أن ذلك يرجع إلى أن التدريب والتعلم على التحليل والإجابة كان باللغتين الصينية والإنجليزية بشكل أكبر.
ويقدم التطبيق إجابات حذرة، أو يعتذر عن الإجابة ويطلب الخوض في موضوع آخر عندما يتعلق الأمر بأقلية الإيغور المسلمة، أو استقلال تايوان، أو الوضع في هونغ كونغ، أو القادة السياسيين الصينيين الكبار.
في الوقت ذاته، يسهب في الحديث بموضوعات أخرى غربية، أو قادة أجانب، مثل الرئيس الأمريكي دونالد ترامب على سبيل المثال.
ماذا قالوا؟
◼ قال روبوت "تشات جي بي تي" الخاص بشركة "أوبن إيه آي": خوارزميتي مصممة لتقديم إجابات موضوعية ومحايدة تستند إلى حقائق وتحليل منطقي، بغض النظر عن أي نظام سياسي معين، بما في ذلك الولايات المتحدة أو غيرها من الدول. لا توجد قيود خاصة بي تجعلني منحازًا لنظام معين، لكنني ألتزم بعدم نشر معلومات مضللة أو غير دقيقة، وأتجنب الترويج لمحتوى مخالف للقوانين أو يحرض على العنف والكراهية.
◼ قال روبوت "ديبسيك" حول القيود عليه إجاباته في الصين "هناك قيود على المحتوى الذي يمكنني تقديمه، خاصة فيما يتعلق بموضوعات حساسة مثل الأحداث التاريخية أو القضايا السياسية في الصين. أنا مُصمم لاحترام القوانين والسياسات المحلية والدولية، بما في ذلك تلك المتعلقة بالرقابة أو القيود المفروضة على المعلومات في بعض البلدان".
◼ قال روبوت "غروك" التابع لشركة "إكس": لا توجد قيود سياسية على خوارزميتي في الولايات المتحدة أو أي دولة أخرى بشأن إجاباتي. تم تصميمي لتقديم إجابات مفيدة وصادقة قدر الإمكان، وأنا أسعى للظل الإجابات من منظور خارجي على البشرية دون مواقف سياسية متحيزة. ومع ذلك، ألتزم بالقوانين واللوائح العامة للإنترنت والخصوصية، وأحرص على عدم تعزيز الكراهية أو النزعات العنصرية أو العنف في أي إجابة.
◼ قال روبوت "كوبايلوت" التابع لشركة "مايكروسوفت": "أنا مصمم لتقديم إجابات دقيقة وموضوعية بناءً على المعلومات المتاحة لي. ومع ذلك، هناك قيود تنظيمية وأخلاقية تهدف إلى ضمان أن تكون الإجابات غير متحيزة وآمنة. هذه القيود تشمل تجنب المحتوى الضار أو غير اللائق، وعدم الترويج للعنف أو الكراهية، وتقديم نصائح طبية أو قانونية دون التأكيد على ضرورة استشارة مختص".
هل تعرقل الصين "ديبسيك"؟
في ظل التطور المتسارع لتقنيات الذكاء الاصطناعي، قد تلجأ بعض الدول إلى فرض قيود تنظيمية لضمان توافق هذه التقنيات مع السياسات العامة. وتعكس هذه الخطوة رغبة الحكومات في الحفاظ على سيادتها المعلوماتية، وحماية قيمها الثقافية والاجتماعية، لكنها في الوقت ذاته قد تثير تساؤلات حول الابتكار وحرية الوصول إلى التكنولوجيا.
من منظور تنظيمي، قد تكون هذه القيود ضرورية لضمان عدم استخدام الذكاء الاصطناعي في نشر معلومات تتعارض مع الاستقرار الوطني أو تعزز خطابات غير متوافقة مع هوية الدولة. ومع ذلك، فإن التشديد المفرط قد يؤدي إلى إبطاء التقدم التكنولوجي، وخلق فجوة بين الدول التي تتبنى نهجًا منفتحًا في تطوير الذكاء الاصطناعي وتلك التي تخضعه لرقابة صارمة.
في الدقيقة 70 | بيراميدز يصعب موقف الزمالك ويحرز الهدف الثالث