أخطاء كبيرة ومحتوى ضار.. شركة أمريكية تكشف عن آلاف العيوب في الذكاء الاصطناعي
تاريخ النشر: 13th, June 2024 GMT
ذكرت صحيفة "واشنطن بوست" الأمريكية، أن شركة تنشط في مجال التكنولوجيا اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا.
وبينت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وقالت إن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضافت الصحيفة الأمريكية أن الذكاء الاصطناعي أضحى مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
وواجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين، حيث أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وأواخر أيار/ مايو الماضي قالت صحيفة "وول ستريت جورنال"، "إن معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
ووفقا لـ "واشنطن بوست" فقد تعرضت شركة طيران كندا في شباط/ فبراير الماصي لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
كما نقلت عن بعض الخبراء قولهم، "إنه على الرغم من الجهود التي تبذلها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها".
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
وأشارت الصحيفة إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا التكنولوجيا الذكاء الاصطناعي غوغل غوغل تكنولوجيا اخطاء الذكاء الاصطناعي كوكل المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
حسب الخبراء..أهم اتجاهات الذكاء الاصطناعي في 2025
يبدو أن 2025 ستشهد تحولات بارزة في استخدام الذكاء الاصطناعي الذي أصبح جزءاً لا يتجزأ من حياتنا اليومية.
إعادة تقييمحسب الخبراء، من المتوقع أن يشهد 2025 إعادة تقييم حقيقية لاستخدامات الذكاء الاصطناعي، مع توجهات العديد من الشركات الكبرى، التي كانت في مقدمة المتبنين لهذه التقنية، للتقليل من نطاق استخدام الذكاء الاصطناعي ليقتصر على المجالات التي أثبتت فيها هذه التقنية فاعليتها وتأثيرها الواضح.
وهذا التوجه سيعكس ضرورة إعادة التفكير في كيفية استثمار الشركات في هذه التكنولوجيا المتطورة، بعد أن أصبح من الواضح أن الذكاء الاصطناعي لن يكون الحل الشامل لجميع التحديات.
بينما ستكون الآلات قادرة على إنجاز المهام الروتينية والمعقدة التي لا تحتاج إلى تدخل بشري، وهذا التحول سيتطلب من البشر التركيز على الأفكار المبدعة والمتميزة، التي تمثل طاقاتهم العقلية الفائقة. وكلاء الذكاء الاصطناعي
من المتوقع أن يكون عام 2025 عاماً محورياً في مجال وكلاء الذكاء الاصطناعي، الذين يمكنهم إتمام المهام بشكل مستقل دون الحاجة إلى توجيه دائم، ما يجعلهم في مقدمة الأدوات الأساسية في عالم الأعمال والتكنولوجيا.
وبحسب التقرير، ستسعى الشركات لاستخدام هؤلاء الوكلاء في مهام مثل معالجة البيانات، إدارة البريد الإلكتروني، أو حتى اتخاذ قرارات مبدئية في مجالات مثل البنوك والمستشفيات، لكن هذا التوجه يطرح أيضاً بعض الأسئلة الأخلاقية حول دور الذكاء الاصطناعي في اتخاذ قرارات تلامس حياة البشر.
هذه الأدوات الذكية ستتيح للمستخدمين الوصول إلى معلومات دقيقة وفي وقت أسرع، مما يعزز قدرتهم على اتخاذ القرارات المدروسة. ظهور بدائل جديدة
فيما يتعلق بوسائل التواصل الاجتماعي، يواجه القطاع تحديات كبيرة مع تراجع تأثير بعض المنصات الكبرى مثل تيك توك وفيس بوك، فالمستخدمين باتوا يبحثون عن منصات جديدة تتيح لهم التواصل في بيئة أكثر خصوصية.
هذه الديناميكية قد تشهد ظهور منصات جديدة من شأنها أن تواكب احتياجات المستخدمين في عصر ما بعد كورونا، حيث أصبح التفاعل الاجتماعي في مجموعات مغلقة أكثر أهمية من الانفتاح الذي ساد في الماضي.
ومع ذلك، تبقى الأسئلة مفتوحة حول مدى كفاءة هذه النماذج البيانية ومدى تعقيد البيانات التي يمكن معالجتها باستخدام هذه القوة الحوسبية المتزايدة. الذكاء الاصطناعي والأجهزة بعد تجارب متعددة لم تحقق النجاح المطلوب، من المتوقع أن يشهد عام 2025 ظهور منتجات جديدة تمزج بين الذكاء الاصطناعي والأجهزة بشكل أكثر تخصصاً، بحيث تكون مصممة لحل مشكلات محددة بدلاً من محاولة استنساخ أدوات مثل الهواتف الذكية أو الأجهزة اللوحية.
هذا التحول في السوق قد يفتح المجال لابتكارات جديدة، مع إمكانية أن تكشف الشركات عن منتجات جديدة في معارض التكنولوجيا.
إجمالاً، سيكون 2025 عاماً محورياً في تاريخ الذكاء الاصطناعي، فمن المتوقع أن يشهد العالم تغييرات جذرية في كيفية استخدام هذه التقنية، من التركيز على التطبيقات العملية إلى إعادة تقييم دورها في حياتنا اليومية.
الشيخة فاطمة بنت مبارك تهنئ بالعام الميلادي الجديد 2025