شركة متخصصة تكتشف الآلاف من عيوب الذكاء الاصطناعي
تاريخ النشر: 12th, June 2024 GMT
قالت شركة أميركية تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا، وفق صحيفة "واشنطن بوست" الأميركية.
وقالت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضحى الذكاء الاصطناعي مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
واجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين
إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وفي تقرير نشرته نهاية مايو الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
وفي فبراير، تعرضت شركة طيران كندا لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
متى عرف البشر الذكاء الاصطناعي؟ حقائق عن أصل الفكرة يصادفك على منصات التواصل الاجتماعي، يوميا، منشورات تشرح لك أداة ذكاء اصطناعي جديدة تقدم خدمة لم تكن تتوقعها. ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلتها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها.
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
ولفت إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: الحرة
كلمات دلالية: الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
مع انتشار تطبيقات الـ«AI».. مشروع قانون حول حوكمة الذكاء الاصطناعي
تابع أحدث الأخبار عبر تطبيق
أعلنت النائبة أميرة صابر عضو مجلس النواب عن تنسيقية شباب الأحزاب والسياسيين، عن تقدمها بمشروع قانون حول حوكمة الذكاء الاصطناعي.
وأوضحت فى المذكرة الإيضاحية، لمشروع القانون أن الذكاء الاصطناعي يمثل طفرة علمية كبيرة تعيد تشكيل شكل الخدمات العامة المقدمة في مجالات عدة من الرعاية الصحية، التعليم والابتكار، الملكية الفكرية والاستثمار، إلى النقل والمواصلات.
وأضافت مع الانتشار السريع لتطبيقات الذكاء الاصطناعي (AI) ومنتجاتها على منصات التواصل الاجتماعي، خصوصا بسبب سهولة استخدامه وعدم تطلبه لخبرة تقنية معينة لاستخدامه بالإضافة إلى عدم وجود تكلفة مادية له (حتى الآن) وطبيعة منتجاته التي تحاكي إلى حد كبير الذكاء البشري، من الضروري الاستثمار في وعود الذكاء الاصطناعي في تحسين الكفاءة وتوفير النفقات وتحسين عمليات اتخاذ القرار مع الحرص على تقنين استخدامه وتطويره وتوفير الاستجابة للتحديات الأخلاقية والقانونية والاجتماعية التي يفرضها.
وأضافت "نائبة التنسيقية" أن فلسفة مشروع القانون وأهدافه تكمن فى أن فكرة التقدم بقانون جديد من عدمه لإدارة تلك النظم هي فكرة محل خلاف. ففي كل الدول توجد بالفعل قوانين تتعامل مع بعض الجوانب المتعلقة بالذكاء الاصطناعي. في مصر على سبيل المثال، يعالج قانون مكافحة الجرائم الإلكترونية رقم ١٧٥ لسنة ٢٠١٨ مشاكل التحرش الالكتروني والاعتداء على حرمة الحياة الخاصة. بالاضافة الى ذلك، فان محاولة اللحاق بالتطور التكنولوجي السريع في لحظة معينة ثابتة من الزمن قد تؤدي إلى إخفاقات لأن الذكاء الاصطناعي ما زال قيد التطوير.
وقد رأينا بخصوص ذلك الشأن اقتراح قانون عام وشامل، يصلح للتطبيق في كل المجالات، وغير مختص بمجال بعينه دون الآخر، يضع مبادئ توجيهية أساسية ومنظمة يقوم بتنفيذها جهة مستقلة (المجلس القومي للذكاء الاصطناعي) وبالتالي، يحقق لنا كلا من المرونة السياساتية بالإضافة إلى ضمان استقرار تشريعي في سياق المبادئ القانونية الحاكمة التكنولوجيا سريعة التطور.
ثانيا، بسبب طبيعة المجال نفسه، والذي يتسم بالتنافسية العالمية والتأثير والاستخدام العابر للدول، من المهم الأخذ في الاعتبار للأبعاد الاستراتيجية لتنظيم الذكاء الاصطناعي.
علي سبيل المثال، كيف يمكن استحداث قانون جديد يؤدي إلى جذب المزيد من الاستثمارات في هذا المجال في مصر؟ كيف يمكن تجنب الجرائم الإلكترونية – العابرة للحدود بطبيعتها؟ لذلك، قمنا بإدخال العديد من الإشارات في القانون الحالي حول تلك الالتزامات والحقوق وطرق جذب الاستثمار.
ومع ذلك، ندرك أن نص المشروع الحالي، على الرغم من كونه متماشيًا إلى درجة كبيرة مع تشريع الإتحاد الأوروبي وأفضل الممارسات العالمية، فإنه ليس كافيًا دون مشاورات جادة وفنية ومتخصصة مع جميع الجهات المعنية وأصحاب المصلحة في الوزارات مثل التعليم العالي، والاتصالات، والداخلية، والصحة، والتعليم، والاستثمار، والتخطيط، والتجارة، والعدل، وغيرها. بالإضافة إلى عدد كبير من جهات الدولة الهامة مثل المجلس الوطني للذكاء الاصطناعي، والجهاز القومي لتنظيم الاتصالات، والمخابرات العامة، والنيابة العامة، والمجالس القومية، وغيرها، بالإضافة إلى عدد من الخبرات الفنية والأكاديمية في المجالات المتعلقة بالذكاء الاصطناعي، سواء من الأكاديميين والممارسين المصريين في الداخل والخارج، أو رواد الأعمال، والشباب. هدفنا هو تحقيق نص متكامل وشامل يلبي احتياجات وتطلعات مصر في مجال الذكاء الاصطناعي ويعزز مكانتها في هذا المجال على الصعيدين المحلي والدولي.
ومن أجل تيسير تلك المناقشة، نقترح ادناه بعض من الخطوط العريضة لمشروع قانون حول حوكمة الذكاء الاصطناعي في مصر .
الجيش الملكي والرجاء البيضاوي يعلنان توزيع تذاكر نهائي كأس العرش مجانا