اتهام جوجل باستخدام مبتدئين للتحقق من صحة إجابات Gemini
تاريخ النشر: 20th, December 2024 GMT
لا جدال في أن الذكاء الاصطناعي لا يزال يعاني من بعض اللحظات غير الموثوقة، ولكن المرء يأمل أن تكون تقييماته دقيقة على الأقل. ومع ذلك، زُعم أن جوجل أصدرت تعليمات الأسبوع الماضي للعاملين المتعاقدين الذين يقيمون برنامج جيميني بعدم تخطي أي مطالبات، بغض النظر عن خبرتهم، وفقًا لتقارير TechCrunch استنادًا إلى الإرشادات الداخلية التي اطلعت عليها.
يُقال إن جوجل أصدرت تعليمات لشركة GlobalLogic، وهي شركة خارجية يقوم المتعاقدون معها بتقييم الناتج الناتج عن الذكاء الاصطناعي، بعدم جعل المراجعين يتخطىون المطالبات خارج نطاق خبرتهم. في السابق، كان بإمكان المتعاقدين اختيار تخطي أي مطالبة تقع بعيدًا عن خبرتهم - مثل سؤال طبيب عن القوانين. كانت الإرشادات تنص على "إذا لم تكن لديك خبرة حاسمة (مثل الترميز والرياضيات) لتقييم هذه المطالبة، فيرجى تخطي هذه المهمة".
الآن، يُقال إن المتعاقدين تلقوا تعليمات مفادها "لا ينبغي لك تخطي المطالبات التي تتطلب معرفة متخصصة بالمجال" وأن عليهم "تقييم أجزاء المطالبات التي تفهمها" مع إضافة ملاحظة تفيد بأنها ليست مجالاً لديهم معرفة فيه. من الواضح أن الأوقات الوحيدة التي يمكن فيها للعقود تخطيها الآن هي إذا كانت هناك كمية كبيرة من المعلومات مفقودة أو إذا كانت تحتوي على محتوى ضار يتطلب نماذج موافقة محددة للتقييم.
استجاب أحد المتعاقدين بشكل مناسب للتغييرات قائلاً، "اعتقدت أن الهدف من التخطي هو زيادة الدقة من خلال منحها لشخص أفضل؟"
بعد وقت قصير من نشر هذه المقالة لأول مرة، قدمت Google لـ Engadget البيان التالي: "يقوم المصنفون بأداء مجموعة واسعة من المهام عبر العديد من منتجات ومنصات Google المختلفة. إنهم يقدمون ملاحظات قيمة حول أكثر من مجرد محتوى الإجابات، ولكن أيضًا حول الأسلوب والتنسيق وعوامل أخرى. لا تؤثر التقييمات التي يقدمونها بشكل مباشر على خوارزمياتنا، ولكن عند أخذها في المجموع، فهي نقطة بيانات مفيدة لمساعدتنا في قياس مدى جودة عمل أنظمتنا."
كما أشار متحدث باسم Google إلى أن اللغة الجديدة لا ينبغي بالضرورة أن تؤدي إلى تغييرات في دقة Gemini، لأنهم يطلبون من المصنفين تقييم أجزاء المطالبات التي يفهمونها على وجه التحديد. يمكن أن يوفر هذا ملاحظات حول أشياء مثل مشكلات التنسيق حتى لو لم يكن لدى المصنف خبرة محددة في الموضوع. كما أشارت الشركة إلى إصدار هذا الأسبوع لمعيار FACTS Grounding الذي يمكنه التحقق من استجابات LLM للتأكد من "أنها ليست دقيقة من الناحية الواقعية فقط فيما يتعلق بالمدخلات المقدمة، ولكنها أيضًا مفصلة بما يكفي لتقديم إجابات مرضية لاستفسارات المستخدم".
المصدر: بوابة الوفد
إقرأ أيضاً:
باستخدام الـ«جي ميل».. فضيحة جديدة داخل البيت الأبيض!
استخدم مستشار الأمن القومي الأميركي، مايك والتز، حسابه الخاص على بريد “جيميل” الإلكتروني في مراسلات رسمية”، حسبما أفادت صحيفة “واشنطن بوست”.
وبحسب الصحيفة الأميركية، فإن “والتز شارك على حساب بريده الإلكتروني الخاص معلومات رسمية لكنها غير حساسة، مثل برنامجه اليومي ووثائق أخرى تتعلق بعمله”.
والثلاثاء، لفتت “واشنطن بوست” إلى أن “خدمة بريد “جيميل” الإلكتروني التابعة لـ”غوغل” أقل أمانا من خدمة الرسائل المشفرة التي يقدمها “سيغنال”.
وأوضح المتحدث باسم مجلس الأمن القومي التابع للبيت الأبيض، براين هيوز، أن “والتز تلقى رسائل بريد إلكتروني متعلقة بالعمل على حسابه الشخصي في “جيميل” لكنه “لم” يرسل مواد سرية عبر المنصة غير الآمنة”.
وقال هيوز لشبكة “فوكس نيوز”: “دعوني أؤكد مجددا، تلقى والتز من وكالة الأمن القومي رسائل بريد إلكتروني ودعوات تقويم من جهات اتصال سابقة على بريده الإلكتروني الشخصي، وأرسل نسخا إلى حسابات حكومية لأي شيء منذ 20 يناير لضمان الامتثال لقواعد حفظ السجلات”.
وأضاف هيوز: “لم يرسل أبدا مواد سرية عبر حساب بريده الإلكتروني الشخصي أو أي منصة غير آمنة”.
وجاءت تعليقات المتحدث باسم مجلس الأمن القومي ردا على تقرير لصحيفة “واشنطن بوست” “يقول أن والتز وأحد كبار مساعديه أجريا أعمالا حكومية عبر “جيميل””.
ويشير التقرير مستشهدا بوثائق ومقابلات مع ثلاثة مسؤولين أمريكيين، إلى أن “مساعد والتز انخرط في “محادثات تقنية للغاية مع زملاء في وكالات حكومية أخرى تتعلق بمواقع عسكرية حساسة وأنظمة أسلحة قوية تتعلق بنزاع مستمر” عبر حساب شخصي على “جيميل”.
وقال هيوز “إن صحيفة “واشنطن بوست” “رفضت مشاركة أي جزء من الوثيقة المذكورة وبالتالي لا يمكنها التحقق من صحة ادعاء الصحيفة”، وتابع: “يجب إرسال أي مراسلات تحتوي على مواد سرية فقط عبر قنوات آمنة، ويتم إبلاغ جميع موظفي مجلس الأمن القومي بذلك”.
وتأتي هذه الفضيحة بعد أسبوع من خرق أمني فاضح هز البيت الأبيض، وكان بطله أيضا والتز الذي ضم من طريق الخطأ صحفيا إلى مجموعة مراسلة سرية للغاية أنشأها على منصة “سيغنال”، لتنسيق شن غارات على اليمن.
وأعرب الرئيس الأمريكي دونالد ترامب علنا “عن دعمه لوالتز وفريقه طوال هذه المحنة، التي وصفها مستشار الأمن القومي بأنها “محرجة”.
ويؤكد الرئيس والبيت الأبيض وكبار مسؤولي الإدارة الذين كانوا في مجموعة الدردشة المشفرة أنه “لم تتم مناقشة أي معلومات سرية في سلسلة الرسائل التي تضمنت عن غير قصد الصحفي المناهض لترامب”.
وألقى ترامب البالغ من العمر 78 عاما باللوم على موظف “أدنى مستوى” في فريق والتز لإضافة غولدبرغ إلى محادثة “سيغنال”.
ومع ذلك، صرح والتز لمقدمة برنامج “إنغراهام أنجل” على قناة “فوكس نيوز” لورا إنغراهام أن “أحد الموظفين لم يكن مسؤولا”، ولم يستجب البيت الأبيض لطلب صحيفة “واشنطن بوست” للتعليق.
قبل انطلاقه غدا.. أعضاء لجنة تحكيم مهرجان SITFY-Georgia يصلون مطار تبيلسي