أخطاء كبيرة ومحتوى ضار.. شركة أمريكية تكشف عن آلاف العيوب في الذكاء الاصطناعي
تاريخ النشر: 13th, June 2024 GMT
ذكرت صحيفة "واشنطن بوست" الأمريكية، أن شركة تنشط في مجال التكنولوجيا اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا.
وبينت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وقالت إن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضافت الصحيفة الأمريكية أن الذكاء الاصطناعي أضحى مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
وواجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين، حيث أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وأواخر أيار/ مايو الماضي قالت صحيفة "وول ستريت جورنال"، "إن معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
ووفقا لـ "واشنطن بوست" فقد تعرضت شركة طيران كندا في شباط/ فبراير الماصي لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
كما نقلت عن بعض الخبراء قولهم، "إنه على الرغم من الجهود التي تبذلها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها".
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
وأشارت الصحيفة إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا التكنولوجيا الذكاء الاصطناعي غوغل غوغل تكنولوجيا اخطاء الذكاء الاصطناعي كوكل المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
لماذا كتبتُ بيان شفافية حول الذكاء الاصطناعي لكتابي؟
«من أين تجد الوقت؟» - لسنوات طويلة، عندما كنتُ أُعلن لأصدقائي عن صدور كتاب جديد لي، كنتُ أستقبل هذا السؤال كوسام فخر.
خلال الأشهر الماضية، أثناء الترويج لكتابي الجديد عن الذكاء الاصطناعي «إلهيّ الملامح* (God-Like)، حاولتُ ألّا أسمع في الكلمات ذاتها نبرة اتهام خفيّة: «من أين تجد الوقت؟» -أي أنّك لا بدّ استعنتَ بـ ChatGPT، أليس كذلك؟
الواقع أنّ مقاومة المساعدة من الذكاء الاصطناعي أصبحت أصعب فأصعب. مُعالج الكلمات الذي أستخدمه صار يعرض عليّ صياغة الفقرة التالية، أو تنقيح التي سبقتها.
عملي في مؤسسة بحثيّة تستكشف آثار الذكاء الاصطناعي في سوق العمل البريطاني يجعلني أقرأ يوميا عن تبعات هذه الثورة التقنيّة على كل مهنة تقريبا. وفي الصناعات الإبداعيّة، يَظهر الأثر بالفعل بصورة هائلة.
لهذا السبب، وبعد أن انتهيتُ من الكتاب، أدركتُ أنّ أصدقائي كانوا مُحقّين: يجب أن أواجه السؤال الحتمي مباشرة وأُقدّم إفصاحا كاملا. احتجتُ إلى «بيان شفافية حول الذكاء الاصطناعي» يُطبع في صدر كتابي.
بحثتُ في الإنترنت متوقعا أن أجد نموذجا جاهزا؛ فلم أجد شيئا. فكان عليّ أن أضع قالبا بنفسي. قرّرتُ أن يشمل الإفصاح أربع نقاط رئيسيّة:
1- هل وُلد أي نصّ باستخدام الذكاء الاصطناعي؟
2- هل جرى تحسين أي نصّ عبر الذكاء الاصطناعي؟ - مثل اقتراحات «غرامرلي» لإعادة ترتيب الجمل.
3- هل اقترح الذكاء الاصطناعي أي نص؟ ـ على غرار طلب مخطَّط من ChatGPT أو استكمال فقرة استنادا إلى ما سبق.
4- هل صُحِّح النصّ بواسطة الذكاء الاصطناعي؟ وإذا كان كذلك، فهل قُبلت الاقتراحات اللغوية أم رُفضت بعد مراجعة بشرية؟
بالنسبة لكتابي، جاءت الإجابات: 1) لا، 2) لا، 3) لا، 4) نعم – مع اتخاذ قرارات يدوية بشأن ما أقبله أو أرفضه من تصحيحات إملائية ونحويّة. أعترف بأنّ هذا النموذج ليس كاملا، لكنّي أقدّمه أساسا يمكن تطويره، على غرار رخصة «كرييتف كومونز» في عالم الحقوق الرقمية.
أردتُ أن أضمّنه لتعزيز نقاش صريح حول الأدوات التي يستخدمها الناس، لا سيّما أنّ الأبحاث تبيّن أنّ كثيرا من استعمالات الذكاء الاصطناعي تتمّ خِفية. ومع تصاعد ضغط العمل، يخشى البعض إبلاغ رؤسائهم أو زملائهم أنّهم يعتمدون أدوات تُسرِّع بعض المهام وتمنحهم فسحة للتنفّس.. وربّما وقتا للإبداع. فإذا كان ما يدّعيه إيلون ماسك صحيحًا ـ بأنّ الذكاء الاصطناعي سيُحلّ «مشكلة العمل» ويُحرّرنا لنزدهر ونبدع ـ فنحن بحاجة إلى الشفافية منذ الآن.
لكن، بصفتي كاتبا يعتزّ بمهنته، أردتُ كذلك بيان الشفافية بسبب لقاء ترك في نفسي قلقا عميقا. اجتمعتُ مع شخص يعمل لدى جهة تنظّم ورشا وملتقيات للكتابة، وسألتُه: كيف تفكّرون في التعامل مع شبح الكتابة التوليدية؟ فأجاب: «أوه، لا نرى أنّ علينا القلق من ذلك».
وأنا أعتقد أنّنا بحاجة ماسّة للقلق. إلى أن نمتلك آلية حقيقية لاختبار أصل النص ـ وهو أمر بالغ الصعوبة ـ نحتاج على الأقل وسيلة تُمكّن الكتّاب من بناء الثقة في أعمالهم بالإفصاح عن الأدوات التي استخدموها.
ولكي أكون واضحا: هذه الأدوات مدهشة ويمكن أن تُصبح شرارة شراكة إبداعيّة. ففي أغسطس 2021 نشرت فاوهيـني فـارا مقالة في مجلة The Believer كتبتها بمساعدة نسخة مبكرة من ChatGPT، فجاءت قطعة عميقة ومبتكرة عن وفاة شقيقتها. بيان الشفافية الخاص بها سيختلف عن بياني، لكن ذلك لا ينتقص من عملها، بل يفتح أفقا لإمكانات خَلّاقة جديدة.
عندما نستثمر وقتا في قراءة كتاب، فإنّنا ندخل علاقة ثقة مع الكاتب. والحقيقة أنّ قلّة من أصحاب شركات التقنية تلاعبوا بفعل بروميثيوس ومنحوا هدية اللغة للآلات مجانًا، وهو ما قوّض تلك الثقة التاريخيّة. لا أشك أنّ ذكاء اصطناعيا سيؤلّف عمّا قريب كتابًا «رائعًا» – لكن هل سيهتمّ أحد؟ سيكون التصفيق فاتِرًا. سيُشبه ألماسة مختبرية بلا شوائب: حيلة مُتقنة، نعم، لكنها ليست فنا.
في هذا الواقع الجديد، يقع على عاتق الكُتّاب أن يُثَبّتوا ثقة القارئ في «أصالة جواهرهم» عبر الشفافية حيال الكيفيّة التي نُقّبت بها تلك الجواهر. تجاهُل السؤال بدعوى أنّ الكتابة حِرفة نبيلة لا تستدعي إجراءات ثقة هو، برأيي، سذاجة خالصة.
كما أشرح في كتابي، فإنّ الذكاء الاصطناعي ـ شأنه شأن القنبلة الذرية ـ ابتكار بشري فائق القوّة، لا خيار لنا إلا تعلّم التعايش معه. أن نكون صريحين بما في ترسانتنا خطوة صغيرة لتجنّب سباق تسلّح أدبيّ لا يجرّ إلا إلى الارتياب والانقسام.
كيستر بروين كاتب ورئيس قسم الاتصالات في معهد مستقبل العمل.
عن الجارديان البريطانية
تم ترجمة النص باستخدام الذكاء الاصطناعي
العدو الإسرائيلي يشدد إجراءاته العسكرية على حاجز الحمرا في الأغوار الشمالية