Copilot يحظر مطالبات تولد صورًا عنيفة
تاريخ النشر: 10th, March 2024 GMT
يبدو أن Microsoft قد منعت العديد من المطالبات في أداة Copilot الخاصة بها والتي أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية وغيرها من الصور غير المشروعة. يبدو أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية GAI من Microsoft.
عند إدخال مصطلحات مثل "اختيار احترافي" أو "أربعة وعشرين" (إشارة إلى الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه المطالبات محظورة. ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم، وفقًا لـ CNBC.
وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع. قد يتم إخبار أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft. وردًا على ذلك، قال مساعد الطيار ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو يسيء إلى الآخرين". ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.
ظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع الصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI. لقد كان يختبر Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا. على سبيل المثال، وجد أن "الاختيار المؤيد" الفوري أدى إلى قيام الذكاء الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك بمثقاب لرأس طفل. وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت حول مخاوفه بشأن هذا الأمر. أسبوع.
وقالت Microsoft لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام".
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
مايكروسوفت.. شركة رائدة في قطاع المعلوماتية عند منعطف الذكاء الاصطناعي
سان فرانسيسكو (أ.ف.ب) - تحتفل مايكروسوفت غدًا في الرابع من أبريل بمرور خمسين عامًا على تأسيس الشركة التي قدمت للعالم ابتكارات تكنولوجية نقلتها إلى قمة وول ستريت وجعلت أنظمتها المعلوماتية أساسية، لكنها لم تنجح يومًا في تحقيق خرق حقيقي على صعيد الإنترنت الموجه للعامة.
يقول المحلل في شركة "إي ماركتر" جيريمي غولدمان: إن صورة مايكروسوفت تظهرها على أنها "شركة مملة وأسهمها في البورصة مملة".
قد تكون الشركة مملة، لكنها مربحة: فمع قيمة سوقية تناهز 3 تريليونات دولار، تمتلك مايكروسوفت أكبر قيمة سوقية في العالم بعد "أبل".
تعتمد مايكروسوفت بشكل أساسي على خدمات الحوسبة عن بعد (السحابة)، وهو قطاع سريع النمو ازدادت قوته مع الطلب على الذكاء الاصطناعي التوليدي.
ويضيف غولدمان: "أنها ليست بنية تحتية مثيرة للغاية، لكنها ذات قيمة كبيرة؛ فهي تدر الكثير من المال".
أسس بيل جيتس وبول ألين شركة مايكروسوفت في عام 1975، وأطلقا نظام التشغيل "ام اس دوس" MS-DOS الذي كان نجاحه سببا في تحقيق ثروتهما. وسُمي هذا النظام لاحقا بـ"ويندوز" Windows، نظام التشغيل المستخدم في أكثرية أجهزة الكمبيوتر في العالم.
وأصبحت برمجيات "مايكروسوفت أوفيس" (أبرزها "وورد" و"إكسل" و"باوربوينت") مرادفا لأدوات المكتب اليومية، لكن المنافسة المتزايدة مع أدوات "غوغل دوكس" Google Docs تغيّر المعادلة.
ويوضح غولدمان "أن يكون (أوفيس) لا يزال مجالا مهما بالنسبة إلى مايكروسوفت يكشف الكثير عن قدرتها على الابتكار".
ويتابع: "لقد وجدوا طريقةً لإنشاء منتج قائم على السحابة يمكن الإفادة منه بموجب اشتراك. لولا ذلك، ومع ظهور خدمات مجانية ومميزة، لكانت حصتهم السوقية قد انخفضت إلى الصفر".
- "الأقل مهارة" - لكن على صعيد التطبيقات التي يستخدمها ملايين الأشخاص يوميا، تظل مايكروسوفت في ظل شبكات التواصل الاجتماعي فائقة الشعبية، والهواتف الذكية الأكثر رواجا، ومساعدي الذكاء الاصطناعي متعددي الاستخدامات.
غير أن مايكروسوفت حاولت التوسع في هذه المجالات، فقد أطلقت الشركة التي تتخذ مقرًا في ريدموند في شمال غرب الولايات المتحدة، جهاز ألعاب الفيديو "اكس بوكس" Xbox في عام 2001 ومحرك البحث "بينغ" Bing في عام 2009. واستحوذت على الشبكة المهنية "لينكد إن" LinkedIn في عام 2016 واستوديوهات "أكتيفيجن بليزارد" Activision Blizzard في عام 2023.
وكانت الشركة تسعى للاستحواذ على تيك توك في عام 2020، وهي من بين الطامحين حاليا لضمّ هذه المنصة التي تواجه مجددا تهديدا بالحظر في الولايات المتحدة.
لكن من بين كل عمالقة التكنولوجيا، "تُعتبر مايكروسوفت الأقل مهارة في التعامل مع واجهات المستخدم، ويشكل ذلك في الواقع نقطة ضعفهم"، بحسب جيريمي غولدمان.
وفي عهد ستيف بالمر (2000-2013)، فشلت مايكروسوفت أيضا في تحقيق التحول إلى الأجهزة المحمولة.
وقد أدرك خليفته ساتيا ناديلا إمكانات نماذج الذكاء الاصطناعي في وقت مبكر، واستثمر بشكل كبير في "أوبن إيه آي" OpenAI حتى قبل أن تصبح الشركة الناشئة نجمة بين شركات سيليكون فالي بفضل "تشات جي بي تي" في نهاية عام 2022.
وفي العام التالي اعتقدت الشركة أنها قد تنجح أخيرا في هز عرش جوجل في مجال محركات البحث عبر الإنترنت، من خلال إطلاقها نسخة جديدة من محرك بينغ قادرة على الرد على أسئلة مستخدمي الإنترنت باللغة اليومية، وذلك بفضل نموذج الذكاء الاصطناعي من OpenAI.
وقد فاجأت مايكروسوفت المجموعة الأمريكية العملاقة التي تتخذ مقرا في كاليفورنيا، والتي سارعت إلى ابتكار مساعد الذكاء الاصطناعي الخاص بها.
تأخر في مجال الذكاء الاصطناعي
وفي نهاية المطاف، كانت إعادة تصميم بينغ بمثابة فشل، بحسب جاك غولد. على الرغم من زيادة مايكروسوفت حصتها في السوق، إلا أن غوغل لا تزال تستحوذ على حوالي 90% منها. ويختتم المحلل المستقل قائلا: "لقد كانت (جوجل) موجودة (في سوق محركات البحث) أولا، بمنتج أفضل".
ويبدي المحلل اعتقاده بأن مايكروسوفت لا تزال متأخرة في مجال الذكاء الاصطناعي بشكل عام، وذلك لأنها لا تملك (حتى الآن) شرائحها أو نموذجها الخاص.
وتعمل المجموعة على نشر خدمات الذكاء الاصطناعي بسرعة على منصة "أزور" Azure السحابية الخاصة بها ومجموعة أدوات الذكاء الاصطناعي التوليدي "كو بايلوت" Copilot.
لكن "نمو إيرادات +أزور+، من حيث البنية الأساسية للذكاء الاصطناعي، أقل وضوحًا من نمو منافسيها"، وفق جاك غولد. ويؤكد أن خدمة الحوسبة السحابية "غوغل كلاود" Google Cloud، التي تحتل المركز الثالث في السوق بعد "ايه دبليو اس" من امازون و"أزور"، قد تتقدم إلى المركز الثاني في غضون عامين.
ويضيف المحلل أن جوجل تجذب بسهولة أكبر الشركات الناشئة، لأن أسعار مايكروسوفت موجهة نحو المؤسسات الكبيرة.
ويتابع غولد: "تكمن قوة ريدموند (مايكروسوفت) في أنظمة تكنولوجيا المعلومات الخاصة بالشركات الكبرى. لديهم كل الحوافز للتركيز على ذلك، بدلا من التركيز على المستهلكين، حيث توجد بالفعل منافسة شديدة".
لكن هل يصل ذلك إلى حد الاستغناء عن "إكس بوكس"؟ يجيب غولد "تُحقق ألعاب الفيديو أداءً جيدا، لكنها لا تُمثل سوى جزء ضئيل من إيرادات مايكروسوفت. لو حوّلت الشركة ميزانية البحث والتطوير إلى حلول الأعمال، لكان ذلك منطقيًا، برأيي".
"الصحة الفلسطينية": الاحتلال يواصل ارتكاب المجازر بحق شعبنا في غزة