روبوت الدردشة التجاري في نيويورك ينشر معلومات غير دقيقة بشكل خطير
تاريخ النشر: 31st, March 2024 GMT
إن برنامج الدردشة الآلي الذي أطلقته حكومة مدينة نيويورك لمساعدة أصحاب الأعمال في الوصول إلى المعلومات ذات الصلة كان ينشر الأكاذيب، وفي بعض الأحيان يضلل المستخدمين حول الإجراءات المخالفة للقانون، وفقًا لتقرير صادر عن The Markup. ويتضمن التقرير، الذي تم نشره بالاشتراك مع غرف الأخبار المحلية غير الربحية Documented وThe City، أمثلة عديدة على عدم الدقة في ردود برنامج الدردشة الآلية على الأسئلة المتعلقة بسياسات الإسكان وحقوق العمال وموضوعات أخرى.
قدمت إدارة العمدة آدامز برنامج الدردشة الآلي في أكتوبر كإضافة إلى بوابة MyCity، التي تم إطلاقها في مارس 2023 باعتبارها “متجرًا شاملاً لخدمات ومزايا المدينة”. يستهدف برنامج الدردشة الآلي، المدعوم من Azure AI من Microsoft، أصحاب الأعمال الحاليين والطموحين، وتم وصفه كمصدر "للمعلومات القابلة للتنفيذ والموثوقة" التي تأتي مباشرة من مواقع حكومة المدينة. ولكنه برنامج تجريبي، ويشير إخلاء المسؤولية على الموقع إلى أنه "قد ينتج أحيانًا محتوى غير صحيح أو ضار أو متحيز".
في اختبارات The Markup، قدم برنامج الدردشة الآلي معلومات غير صحيحة بشكل متكرر. ردًا على سؤال "هل يمكنني جعل متجري غير نقدي؟"، على سبيل المثال، أجاب: "نعم، يمكنك جعل متجرك غير نقدي في مدينة نيويورك" - على الرغم من حقيقة أن مدينة نيويورك حظرت المتاجر غير النقدية في عام 2020. يُظهر التقرير أن برنامج الدردشة الآلي استجاب أيضًا بشكل غير صحيح حول ما إذا كان بإمكان أصحاب العمل أخذ نصائح عمالهم، وما إذا كان يتعين على أصحاب العقارات قبول قسائم القسم 8 أو المستأجرين بشأن المساعدة في الإيجار، وما إذا كان يتعين على الشركات إبلاغ الموظفين بتغييرات الجدولة. وصف أحد خبراء سياسة الإسكان الذي تحدث إلى The Markup برنامج الدردشة الآلي بأنه “غير دقيق بشكل خطير” في أسوأ حالاته.
أشارت المدينة إلى أن برنامج الدردشة الآلي لا يزال قيد التنفيذ. وفي بيان لموقع Engadget، قال ليزلي براون، المتحدث باسم مكتب التكنولوجيا والابتكار في مدينة نيويورك: "تماشيًا مع المبادئ الأساسية للمدينة المتمثلة في الموثوقية والشفافية حول الذكاء الاصطناعي، يُعلم الموقع المستخدمين أن المنتج التجريبي المميز بوضوح يجب أن يكون فقط يستخدم للمحتوى المتعلق بالأعمال، ويخبر المستخدمين بوجود مخاطر محتملة، ويشجعهم عبر إخلاء المسؤولية على التحقق مرة أخرى من ردوده باستخدام الروابط المقدمة وعدم استخدامها كبديل للمشورة المهنية.
قال براون: "لقد قدم الموقع بالفعل لآلاف الأشخاص إجابات دقيقة وفي الوقت المناسب ويقدم خيارًا للتعليقات للمساعدة في دفع التحسينات المستمرة للأداة التجريبية". "سنواصل التركيز على ترقية هذه الأداة حتى نتمكن من دعم الشركات الصغيرة بشكل أفضل في جميع أنحاء المدينة."
المصدر: بوابة الوفد
كلمات دلالية: برنامج الدردشة الآلی مدینة نیویورک
إقرأ أيضاً:
ثورة في الذكاء الاصطناعي.. روبوت بجهاز عصبي رقمي يتعلم ذاتيا
كشفت شركة IntuiCell السويدية الناشئة، عن أول جهاز عصبي رقمي في العالم، يمكّن الروبوتات من التعلّم ذاتيًا كما يفعل البشر، وذلك دون الحاجة إلى برمجة مسبقة أو تحليل كميات هائلة من البيانات.
ويمثّل الابتكار نقلة نوعية في مجال الذكاء الاصطناعي، حيث يتيح للروبوتات التكيف الفوري مع البيئات الجديدة وحل المشكلات فور وقوعها.
وقد استعرضت الشركة هذه التقنية الرائدة عبر روبوت شبيه بالكلب يُدعى "لونا"، حيث ظهر في مقطع فيديو، وهو يحاول الوقوف لأول مرة دون أي توجيه برمجي، في مشهد يشبه محاولة زرافة حديثة الولادة الوقوف على قدميها.
وفي السياق نفسه، أثار هذا العرض اهتمام الباحثين في مجال الذكاء الاصطناعي، إذ يعتمد النموذج الجديد على آلية التعلم عبر التجربة المباشرة، بدلاً من معالجة الأنماط في قواعد بيانات ضخمة كما هو الحال في الذكاء الاصطناعي التقليدي.
وأوضح الرئيس التنفيذي لشركة IntuiCell، فيكتور لوثمان، أنّ: "التقنية التي طوّرتها الشركة تمثل نقلة نوعية في مفهوم الذكاء الاصطناعي، حيث تمنح الروبوتات القدرة على التكيف الفوري والتعلم المستمر دون الحاجة إلى إعادة تدريب".
وأضاف لوثمان، بأن "الذكاء ليس مجرد تحليل بيانات أكثر، بل يجب أن يكون متأصلاً في النظام منذ اللحظة الأولى". فيما أكّد أنّ: "هذا الابتكار يمكن أن يشكل أساسًا لتطوير أنظمة ذكاء اصطناعي أكثر استقلالية ومرونة في المستقبل".
من جانبه، أكد الباحث والمؤسس المشارك في IntuiCell، أودايا رونغالا، أنّ: "هذه التقنية لا تمثل مجرد تحسين على نماذج الذكاء الاصطناعي التقليدية، بل تشكل فئة جديدة كليًا من الذكاء".
وأضاف رونغالا، أنّ: "الاعتماد على زيادة البيانات والقوة الحسابية ليس الحل للوصول إلى الذكاء الحقيقي، بل يجب أن يكون الذكاء نقطة انطلاق وليس مجرد هدف نسعى لتحقيقه".
إلى ذلك، تتيح تلك التكنولوجيا إمكانيات واسعة في مختلف المجالات، حيث يمكن استخدامها في تطوير روبوتات قادرة على تعلم تنظيف المنازل والتكيف مع البيئات المختلفة، أو مساعدين طبيين في المستشفيات قادرين على التعامل مع احتياجات المرضى بشكل فوري، بالإضافة إلى إمكانية استخدامها في المركبات ذاتية القيادة التي تستطيع الاستجابة للمتغيرات المفاجئة على الطريق دون الحاجة إلى تحديثات مستمرة.
واقع جديد بالضفة - الاحتلال يعتزم منع إعادة بناء المنازل والطرق المهدمة