الحرة:
2024-11-02@10:25:27 GMT

شركة متخصصة تكتشف الآلاف من عيوب الذكاء الاصطناعي

تاريخ النشر: 12th, June 2024 GMT

شركة متخصصة تكتشف الآلاف من عيوب الذكاء الاصطناعي

قالت شركة أميركية تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا، وفق صحيفة "واشنطن بوست" الأميركية.

وقالت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".

وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.

وأضحى الذكاء الاصطناعي مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها. 

واجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين

إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر. 

وفي تقرير نشرته نهاية مايو الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".

وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من  غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.

وفي فبراير، تعرضت شركة طيران كندا لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.

متى عرف البشر الذكاء الاصطناعي؟ حقائق عن أصل الفكرة يصادفك على منصات التواصل الاجتماعي، يوميا، منشورات تشرح لك أداة ذكاء اصطناعي جديدة تقدم خدمة لم تكن تتوقعها. 

ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".

ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلتها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها.

ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.

وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".

ولفت إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.

المصدر: الحرة

كلمات دلالية: الذکاء الاصطناعی إلى أن

إقرأ أيضاً:

طحنون بن زايد: نتوافق مع «بلاكستون» في أهمية دمج الذكاء الاصطناعي باستراتيجيات الاستثمار العالمية

قال سموّ الشيخ طحنون بن زايد آل نهيان، نائب حاكم إمارة أبوظبي، مستشار الأمن الوطني، في تغريدة عبر منصة «إكس»: «ناقشت مع ستيفن شوارزمان، الرئيس التنفيذي والشريك المؤسس لمجموعة «بلاكستون» للاستشارات المالية مستقبل الذكاء الاصطناعي».
وأضاف سموّه: «لدينا رؤى متوافقة في أهمية دمج تقنيات الذكاء الاصطناعي ضمن استراتيجيات الاستثمار العالمية، ونتطلع إلى العمل معاً لاستكشاف المسارات المحتملة التي يمكن أن تعيد تعريف معايير الصناعة وتعزز الأطر الاقتصادية العالمية».

مقالات مشابهة

  • الأسهم الأمريكية تغلق منخفضة مع ارتفاع تكلفة الذكاء الاصطناعي
  • ولي عهد الفجيرة وابتسام المزروعي يؤكدان أهمية الذكاء الاصطناعي
  • ميتا ترصد 38 مليار دولار للاستثمار في الذكاء الاصطناعي
  • شركة ميتا تعتزم ضخ مبالغ مالية كبيرة في الذكاء الاصطناعي
  • طحنون بن زايد: نتوافق مع «بلاكستون» في أهمية دمج الذكاء الاصطناعي باستراتيجيات الاستثمار العالمية
  • ميتا تعتزم ضخ مبالغ كبيرة في الذكاء الاصطناعي
  • ولي عهد الفجيرة يشهد محاضرة حول الذكاء الاصطناعي
  • محمد بن حمد يشهد محاضرة حول الذكاء الاصطناعي
  • الذكاء الاصطناعي.. حجرٌ لا يتعاطف!
  • الذكاء الاصطناعي يكتشف 162 ألف فيروس جديد