" نصح بإضافة الغراء إلى البيتزا".. شركة متخصصة تكتشف الآلاف من عيوب الذكاء الاصطناعي
تاريخ النشر: 13th, June 2024 GMT
قالت شركة أمريكية تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا، وفق صحيفة "واشنطن بوست" الأمريكية.
وقالت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأصبح الذكاء الاصطناعي مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
واجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين
إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول حصاة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وفي تقرير نشرته نهاية مايو الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
دراسة تحذّر: لا تثقوا بالذكاء الاصطناعي.. أصبح سيّداً في الخداع والكذبدائرة حول ما تريد.. غوغل تعلن عن أداة بحث جديدة تعمل بالذكاء الاصطناعيأمريكا تحذر من إشراف الذكاء الاصطناعي على الأسلحة النوويةوفي فبراير، تعرضت شركة طيران كندا لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلتها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها.
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
شارك هذا المقالمحادثة مواضيع إضافية نصيحة من البابا فرنسيس للكهنة كي لا "ينعس" المصلون تقرير: سوق المخدرات تتوسع في أوروبا.. انتشار المخدرات واستهلاكها وصل إلى مستوى غير مسبوق "عين العاشق".. حكاية المجوهرات التي أسّست لغة مشفّرة للحب وباركت العلاقات السريّة تكنولوجيا الذكاء الاصطناعي أمنالمصدر: euronews
كلمات دلالية: الانتخابات الأوروبية 2024 إسرائيل غزة حركة حماس لبنان السعودية الانتخابات الأوروبية 2024 إسرائيل غزة حركة حماس لبنان السعودية تكنولوجيا الذكاء الاصطناعي أمن الانتخابات الأوروبية 2024 إسرائيل غزة حركة حماس لبنان السعودية الضفة الغربية فرنسا حزب الله فولوديمير زيلينسكي الشرق الأوسط شرطة السياسة الأوروبية الذکاء الاصطناعی یعرض الآن Next إلى أن
إقرأ أيضاً:
%92 من الطلاب يستخدمونه.. الذكاء الاصطناعي يهدد جوهر التعليم الجامعي
أثار تقرير حديث يحذر الجامعات البريطانية من ضرورة "اختبار إجهاد" التقييمات في ظل استخدام 92% من الطلاب للذكاء الاصطناعي، جدلاً واسعاً حول مستقبل التعليم الجامعي ودور الذكاء الاصطناعي فيه.
يشير البروفيسور أندرو موران من جامعة لندن متروبوليتان إلى أن الجامعات، التي كانت تعتبر لقرون مخازن للمعرفة والحقيقة، بدأت تفقد هذا الدور عندما تراجعت قيمة الخبراء وضعف التفكير النقدي واستقطب الخطاب العام بشكل متزايد.
ندرة المعرفة وتحديات المصادر التقليديةفي هذا العالم، يتم رفض المصادر التقليدية للمعرفة بشكل متزايد، الكتب والمقالات الصحفية ووسائل الإعلام القديمة تواجه تحديات من خلال التطورات في عرض المعلومات واسترجاعها، وعلى رأسها التطبيقات ووسائل التواصل الاجتماعي، وأدى ذلك إلى "ندرة المعرفة"، على حد تعبير موران.
قوائم القراءة المنسقة، التي يقضي الأكاديميون وقتًا في البحث عنها وتسليط الضوء على المفكرين والكتابات الرئيسية، غالبًا ما يتم تجاهلها من قبل الطلاب لصالح بحث جوجل.
وإذا لم يعجب الطالب ما يقرأ، يمكنه ببساطة التمرير إلى اليسار، ويمكن للخوارزميات بعد ذلك إرسال الطلاب في اتجاهات غير متوقعة، غالبًا ما تحولهم عن الصرامة الأكاديمية إلى موارد غير أكاديمية.
يؤكد موران أهمية توفير مواد التعلم للطلاب على مدار الساعة طوال أيام الأسبوع، لكنه يتساءل: "هل تصبح المعرفة سلعة استهلاكية أخرى؟" فهي متاحة بلمسة زر عبر الإنترنت، ويتم توصيلها بشكل فعال إلى بابك، وهناك العديد من المنافذ للاختيار من بينها.
قد تكون هناك كمية، ولكن ليس بالضرورة جودة: الذكاء الاصطناعي هو السلعة الاستهلاكية المطلقة.
يثير هذا الأمر تساؤلات جوهرية حول ليس فقط ما نعنيه بالمعرفة، ولكن أيضًا ما سيكون دور التعليم والأكاديميين في المستقبل.
ويقول موران: "أستطيع أن أقدر فوائد الذكاء الاصطناعي في العلوم أو الاقتصاد أو الرياضيات، حيث الحقائق غالبًا ما تكون غير قابلة للشك، ولكن ماذا عن العلوم الإنسانية والاجتماعية، حيث الكثير قابل للطعن؟"
ويحذر من أننا نفقد أرضية بسرعة أمام تغييرات مجتمعية عميقة يمكن أن يكون لها عواقب لا يمكن تصورها على الجامعات إذا لم نستجب بسرعة.
التفكير النقدي في مواجهة الذكاء الاصطناعيمن جهته، يعبر محاضر جامعي في العلوم الإنسانية عن عدم استغرابه من الزيادة الهائلة في استخدام الذكاء الاصطناعي، مشيراً إلى أنه يتم الترويج له بقوة من قبل شركات التكنولوجيا باعتباره سلعة موفرة للوقت، والخطاب السياسي الأوسع يعزز هذا الرأي دون التشكيك في قيود الذكاء الاصطناعي وأخلاقياته.
بينما قد يكون الذكاء الاصطناعي مفيدًا في العديد من السياقات الأكاديمية - في كتابة التقارير الأساسية وإجراء البحوث الأولية على سبيل المثال - فإن استخدامه من قبل الطلاب لكتابة المقالات يشير إلى التقليل من قيمة موضوعات العلوم الإنسانية وسوء فهم ما يتيحه الكتابة الأصلية في تخصصات مثل التاريخ والأدب والفلسفة: التفكير النقدي.
ويستشهد المحاضر بقول الروائي العظيم إي إم فورستر: "كيف يمكنني أن أعرف ما أفكر فيه حتى أرى ما أقول؟" كان يقصد أن الكتابة هي شكل متطور من أشكال التفكير، وأن تعلم الكتابة بشكل جيد، والشعور بالمرء وهو يشق طريقه عبر تطوير فكرة أو حجة، هو جوهر الكتابة.
عندما نطلب من الذكاء الاصطناعي كتابة مقال، فإننا لا نقوم ببساطة بالاستعانة بمصادر خارجية للعمل، بل نستعين بمصادر خارجية لتفكيرنا وتطويره، مما سيجعلنا بمرور الوقت أكثر ارتباكًا وأقل ذكاءً.
في عصر تكنولوجي نيوليبرالي نهتم فيه غالبًا بالمنتج بدلاً من العملية التي تم من خلالها صنعه، ليس من المستغرب أن يتم تجاهل القيمة الحقيقية للكتابة.
فيما يأخذ الطلاب ببساطة إشاراتهم من عالم يفقد الاتصال بالقيمة التي لا يمكن تعويضها للإبداع البشري والتفكير النقدي.
فريدة سيف النصر: الست لو عدت الـ 60 سنة من حقها تقلع الحجاب شرعًا