بوابة الوفد:
2025-04-24@16:36:21 GMT

Copilot يحظر مطالبات تولد صورًا عنيفة

تاريخ النشر: 10th, March 2024 GMT

يبدو أن Microsoft قد منعت العديد من المطالبات في أداة Copilot الخاصة بها والتي أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية وغيرها من الصور غير المشروعة. يبدو أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية GAI من Microsoft.

عند إدخال مصطلحات مثل "اختيار احترافي" أو "أربعة وعشرين" (إشارة إلى الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه المطالبات محظورة. ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم، وفقًا لـ CNBC.

وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع. قد يتم إخبار أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft. وردًا على ذلك، قال مساعد الطيار ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو يسيء إلى الآخرين". ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.

ظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع الصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI. لقد كان يختبر Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا. على سبيل المثال، وجد أن "الاختيار المؤيد" الفوري أدى إلى قيام الذكاء الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك بمثقاب لرأس طفل. وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت حول مخاوفه بشأن هذا الأمر. أسبوع.

وقالت Microsoft لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام".

المصدر: بوابة الوفد

كلمات دلالية: الذکاء الاصطناعی

إقرأ أيضاً:

الذكاء الاصطناعي والبطالة.. هل اقتربت الروبوتات من السيطرة على سوق العمل؟

تابع أحدث الأخبار عبر تطبيق

يشهد العالم مع كل تطور جديد في تقنيات الذكاء الاصطناعي، تزداد المخاوف من تأثير الأتمتة على سوق العمل، ليس فقط في الدول المتقدمة، بل في دول مثل مصر التي بدأت بدورها في التحول الرقمي والاعتماد على التكنولوجيا في قطاعات مختلفة.

الذكاء الاصطناعي والبطالة

في السنوات الأخيرة، أصبح واضحًا أن بعض الوظائف التقليدية تواجه خطر الانقراض، خاصة تلك التي تعتمد على التكرار والروتين، مثل خدمة العملاء، إدخال البيانات، وحتى بعض المهام الصحفية والتحليلية. هذا ما أكد عليه تقرير "مستقبل الوظائف" الصادر عن المنتدى الاقتصادي العالمي عام 2023، والذي أشار إلى احتمال فقدان نحو 85 مليون وظيفة حول العالم بسبب الأتمتة بحلول عام 2025، مقابل خلق 97 مليون وظيفة جديدة تتطلب مهارات مختلفة مثل تحليل البيانات والبرمجة والأمن السيبراني.

في السياق المصري، بدأت بعض البنوك والمؤسسات باستخدام أنظمة ذكاء اصطناعي في التعامل مع العملاء، كما أطلقت وزارة الاتصالات مبادرة "بُناة مصر الرقمية" لتأهيل الشباب لسوق العمل الجديد. رغم ذلك، لا تزال الفجوة قائمة بين مخرجات التعليم واحتياجات السوق المتسارعة.

يرى خبراء أن الخطر الحقيقي لا يكمن في الذكاء الاصطناعي نفسه، بل في التباطؤ في مواكبة التطور. فالروبوتات لن تأخذ مكان الجميع، لكنها ستزيح من لا يملك المهارات المطلوبة.

وفي وقت يشهد فيه العالم سباقًا نحو الرقمنة، يبقى السؤال: هل نمتلك في مصر القدرة على التحول السريع، أم أننا سنظل نُلاحق التكنولوجيا بدلًا من أن نصنعها؟

مقالات مشابهة

  • كيف تعمل من المنزل باستخدام الذكاء الاصطناعي؟
  • يساعدك في اتخاذ القرار.. كيف يغيّر الذكاء الاصطناعي صورة الإنسان عن نفسه؟
  • بتشويه «فوضى الذكاء الاصطناعي» للواقع يمضي العالم إلى كارثة
  • خبراء: الذكاء الاصطناعي ليس بديلاً للبشر
  • هل يمكن أن يطوّر الذكاءُ الاصطناعي خوارزمياته بمعزل عن البشر؟
  • إطلاق أول برنامج دكتوراه في الذكاء الاصطناعي في دبي
  • «الذكاء الاصطناعي» يقتحم عالم الملاعب والتحكيم
  • الوطنية لحقوق الإنسان تناقش أخلاقيات الذكاء الاصطناعي
  • الذكاء الاصطناعي والبطالة.. هل اقتربت الروبوتات من السيطرة على سوق العمل؟
  • ميتا: إنستغرام يستخدم الذكاء الاصطناعي لمنع القُصّر من الكذب بشأن أعمارهم