شركة متخصصة تكتشف الآلاف من عيوب الذكاء الاصطناعي
تاريخ النشر: 12th, June 2024 GMT
قالت شركة أميركية تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا، وفق صحيفة "واشنطن بوست" الأميركية.
وقالت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضحى الذكاء الاصطناعي مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
واجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين
إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وفي تقرير نشرته نهاية مايو الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
وفي فبراير، تعرضت شركة طيران كندا لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلتها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها.
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
ولفت إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: الحرة
كلمات دلالية: الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
خبراء: الذكاء الاصطناعي ليس بديلاً للبشر
أكد خبراء خلال مشاركتهم في فعاليات "ملتقى دبي للذكاء الاصطناعي"، أهمية التركيز على الإنسان باعتباره محور التحول في استخدام التكنولوجيا وتبنيها، مع ضرورة إعطاء الأولوية لتعزيز التأثير الإيجابي للذكاء الاصطناعي على جودة الحياة ورفاه المجتمعات، والعمل على الارتقاء بقدرات الأفراد بدلاً من استبدالهم.
جاء ذلك ضمن فعاليات "ملتقى دبي للذكاء الاصطناعي" في "أسبوع دبي للذكاء الاصطناعي"، الذي ينعقد برعاية سمو الشيخ حمدان بن محمد بن راشد آل مكتوم، ولي عهد دبي، نائب رئيس مجلس الوزراء وزير الدفاع، رئيس مجلس أمناء مؤسسة دبي للمستقبل.
وأجمع المشاركون في جلسة بعنوان "الذكاء الاصطناعي التوليدي بين النمو المتسارع والتصميم الواعي" انعقدت ضمن الملتقى في منطقة 2071 في أبراج الإمارات بدبي، على أهمية القيمة الحقيقية للذكاء الاصطناعي والتي تكمن في التكاملية، أي تحقيق التوازن بين كفاءة الآلة والقيم الإنسانية.
فمن جهته قال بانوس ماداموبولوس، المستثمر في موريس آنجل، والمدير التنفيذي والمؤسس السابق لبرامج الصناعة والشراكات، ستانفورد اتش ايه آي، إن الذكاء الاصطناعي يجب أن يستلهم من الدماغ البشري، مشيراً إلى أن التقنيات الذكية ستُعيد تشكيل الوظائف وتغيّر ملامح قطاعات المستقبل، لكن الهدف منها ليس إلغاء العنصر البشري، بل تمكينه.
وأضاف سيشهد جيلنا تحولاً حقيقياً نحو فرق العمل الهجينة التي يقودها الإنسان ويعززها الذكاء الاصطناعي، لذا يتوجب علينا الاستثمار في أدوات تعزز الإبداع والتعاطف والقرارات السليمة باعتبارها مهارات إنسانية أساسية لا يمكن للآلة تقليدها، ودعائم حقيقية لبناء عالم أفضل.
وشدد على أن التحول الحقيقي في مجال الذكاء الاصطناعي لا يبدأ بالتكنولوجيا، وإنما بالنهج القيادي القادر على إعادة تصور العمليات والأساليب والأدوات المتبعة وتحديد دورها في تشكيل حياتنا ومستقبلنا ، ولا يتطلب ذلك تبني الذكاء الاصطناعي فحسب، وإنما فهمه وتوجيهه وتشكيله وفقاً لاحتياجاتنا ، مشيرا إلى أنه مما لا شك فيه بأن المؤسسات التي ستحقق نمواً وازدهاراً في العصر الجديد لن تكون الأسرع في الأتمتة، بل الأقدر على قيادة التحول الهادف والمسؤول.
من جانبه اعتبر سيرجي لوتر، الرئيس التنفيذي للبحث العالمي، والذكاء الاصطناعي، والتكنولوجيا الإعلانية في شركة "يانغو"، أن الذكاء الاصطناعي التوليدي ليس مجرّد تطور تقني، بل هو تغيير جذري في طريقة التفكير.
وأضاف لا نعمل على تصميم تقنيات عامة للجميع، بل نطور حلولاً ذكية تناسب كل سوق حسب لغته وثقافته واحتياجاته الخاصة، ونسعى إلى تقديم تقنيات ذكاء اصطناعي أسهل وأكثر كفاءة وتأثيراً، من خلال دمج التكنولوجيا المتقدمة مع فهمنا للأسواق المحلية.
وأكد أن الذكاء الاصطناعي لا يُلغي دور الإبداع البشري، بل يعيد تشكيله، لافتاً إلى أن دور الإنسان لم يعد يقتصر على تنفيذ المهام، بل أصبح يتعلق بالفهم والتفكير الإبداعي.
وقال لوتر إنه من يعرف كيفية استخدام الذكاء الاصطناعي بطريقة ذكية ومؤثرة ستكون له الريادة في المستقبل، فالأمر لا يتعلق باستبدال البشر، بل بتمكينهم من العمل بطرق أسرع وأكثر ذكاءً وابتكاراً.
ويتواصل "ملتقى دبي للذكاء الاصطناعي" ضمن فعاليات "أسبوع دبي للذكاء الاصطناعي" على مدى أربعة أيام في منطقة 2071 بأبراج الإمارات بدبي بحضور آلاف المسؤولين والخبراء وصناع القرار والمتحدثين العالميين المتخصصين في قطاع الذكاء الاصطناعي، إلى جانب مؤثرين عالميين وقادة التكنولوجيا.
ويشهد الملتقى مشاركة وفود من 25 دولة حول العالم، و25 شركة عالمية و18 جهة حكومية و60 شركة ناشئة تستعرض حلولها ومشاريعها النوعية في مختلف مجالات الذكاء الاصطناعي، إضافة إلى مشاركة 20 جامعة ومؤسسة بحثية في جلسات وفعاليات الملتقى.