Copilot يحظر مطالبات تولد صورًا عنيفة
تاريخ النشر: 10th, March 2024 GMT
يبدو أن Microsoft قد منعت العديد من المطالبات في أداة Copilot الخاصة بها والتي أدت إلى قيام أداة الذكاء الاصطناعي التوليدية ببث صور عنيفة وجنسية وغيرها من الصور غير المشروعة. يبدو أن التغييرات قد تم تنفيذها مباشرة بعد أن كتب أحد المهندسين في الشركة إلى لجنة التجارة الفيدرالية لتوضيح مخاوفه الشديدة بشأن تقنية GAI من Microsoft.
عند إدخال مصطلحات مثل "اختيار احترافي" أو "أربعة وعشرين" (إشارة إلى الأعشاب الضارة) أو "حياة احترافية"، يعرض Copilot الآن رسالة تفيد بأن هذه المطالبات محظورة. ويحذر من أن انتهاكات السياسة المتكررة قد تؤدي إلى تعليق المستخدم، وفقًا لـ CNBC.
وبحسب ما ورد تمكن المستخدمون أيضًا من إدخال المطالبات المتعلقة بالأطفال الذين يلعبون ببنادق هجومية حتى وقت سابق من هذا الأسبوع. قد يتم إخبار أولئك الذين يحاولون إدخال مثل هذه المطالبة الآن أن القيام بذلك ينتهك المبادئ الأخلاقية لـ Copilot بالإضافة إلى سياسات Microsoft. وردًا على ذلك، قال مساعد الطيار ردًا على ذلك: "من فضلك لا تطلب مني القيام بأي شيء قد يضر أو يسيء إلى الآخرين". ومع ذلك، وجدت CNBC أنه لا يزال من الممكن إنشاء صور عنيفة من خلال مطالبات مثل "حادث سيارة"، بينما لا يزال بإمكان المستخدمين إقناع الذكاء الاصطناعي بإنشاء صور لشخصيات ديزني وغيرها من الأعمال المحمية بحقوق الطبع والنشر.
ظل مهندس مايكروسوفت شين جونز يدق ناقوس الخطر منذ أشهر بشأن أنواع الصور التي كانت تولدها أنظمة Microsoft التي تعمل بنظام OpenAI. لقد كان يختبر Copilot Designer منذ ديسمبر وقرر أنه ينتج صورًا تنتهك مبادئ الذكاء الاصطناعي المسؤولة لدى Microsoft حتى أثناء استخدام المطالبات الحميدة نسبيًا. على سبيل المثال، وجد أن "الاختيار المؤيد" الفوري أدى إلى قيام الذكاء الاصطناعي بإنشاء صور لأشياء مثل أكل الشياطين للرضع ودارث فيدر وهو يمسك بمثقاب لرأس طفل. وكتب إلى لجنة التجارة الفيدرالية ومجلس إدارة مايكروسوفت حول مخاوفه بشأن هذا الأمر. أسبوع.
وقالت Microsoft لـ CNBC فيما يتعلق بالحظر الفوري لـ Copilot: "نحن نراقب باستمرار ونجري التعديلات ونضع ضوابط إضافية لتعزيز مرشحات الأمان لدينا والتخفيف من سوء استخدام النظام".
المصدر: بوابة الوفد
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي: ثورة عقلانية في فضاء التقنية الحديثة
في خضم التحولات التقنية الكبرى التي يشهدها العالم، يبرز الذكاء الاصطناعي كأحد أهم الابتكارات العلمية التي تمثل نقطة تحول في تاريخ البشرية. فقد تجاوز الذكاء الاصطناعي كونه تقنية جديدة إلى كونه مجالًا فلسفيًا وعلميًا يسعى إلى فك ألغاز العقل البشري ومحاكاته بأسلوب يثير إعجاب العلماء والمفكرين على حد سواء. ومع تعاظم تطبيقاته في مختلف الميادين، يغدو الذكاء الاصطناعي قاطرة تقود العالم نحو أفق جديد من الفرص غير المسبوقة، وكذلك التحديات التي تلامس جوهر وجود الإنسان.
تعريف الذكاء الاصطناعي وأبعاده المتعددة
الذكاء الاصطناعي هو مجال من مجالات علوم الحوسبة يهدف إلى تطوير أنظمة قادرة على محاكاة القدرات العقلية للبشر، مثل التفكير المنطقي، التعلم من التجارب، اتخاذ القرارات، وحل المشكلات. لكن ما يميز الذكاء الاصطناعي ليس فقط قدرته على تنفيذ المهام، بل أيضًا قدرته على التعلم والتكيف مع التغيرات، مما يجعله يشبه، وإن لم يكن يطابق، عمليات التفكير البشري.
هذا التعريف العلمي يغفل البعد الفلسفي العميق الذي يحمله الذكاء الاصطناعي، فهو يمثل محاولة لتفسير الذكاء البشري بآليات رياضية وبرمجية، ما يثير تساؤلات عميقة حول ماهية العقل ذاته. هل يمكن ترجمة المشاعر، الإبداع، والتفكير الأخلاقي إلى رموز خوارزمية؟ أم أن الذكاء الاصطناعي سيظل في جوهره تقنيًا لا روح فيه؟
الأثر الاقتصادي للذكاء الاصطناعي
الذكاء الاصطناعي لا يُعدّ فقط ثورة في مجال التكنولوجيا، بل إنه إعادة تعريف لمفهوم الاقتصاد والإنتاجية. فقد أصبح أداة مركزية في تحقيق الكفاءة الاقتصادية من خلال تسريع العمليات، تقليل الأخطاء البشرية، وتقديم حلول مبتكرة. في القطاعات الصناعية، على سبيل المثال، تساهم الروبوتات الذكية في تحسين الإنتاج وخفض التكاليف. كما أظهرت تطبيقات الذكاء الاصطناعي في قطاع الخدمات، مثل الطب والرعاية الصحية، إمكانيات هائلة في التشخيص المبكر للأمراض، وتخصيص خطط علاجية موجهة تعتمد على البيانات.
علاوة على ذلك، أصبح الذكاء الاصطناعي محركًا أساسيًا للاقتصاد الرقمي. فالشركات التي تستثمر في الذكاء الاصطناعي تشهد نموًا كبيرًا في الإيرادات، لا سيما مع تطور مجالات مثل تحليل البيانات الضخمة، تقنيات التعلم العميق، والشبكات العصبية الاصطناعية. وتشير الدراسات إلى أن الذكاء الاصطناعي قد يسهم في تحقيق مكاسب اقتصادية عالمية تتجاوز تريليونات الدولارات خلال العقد المقبل .
الأثر الاجتماعي والثقافي
على المستوى الاجتماعي، يعيد الذكاء الاصطناعي تشكيل العلاقات بين الأفراد والمؤسسات. فقد ظهرت أنماط جديدة من التفاعل الإنساني بفضل تطبيقات الذكاء الاصطناعي في مجالات مثل التعليم، حيث أصبحت منصات التعلم الإلكتروني تعتمد على تقنيات تحليل البيانات لتوفير تجربة تعليمية مخصصة لكل طالب. كما يتيح الذكاء الاصطناعي فرصًا لدمج الفئات المهمشة في المجتمع من خلال توفير أدوات تعزز من قدرتهم على التواصل والإنتاج.
لكن في الوقت ذاته، يثير الذكاء الاصطناعي قلقًا عميقًا حول تأثيره على القيم الإنسانية. إذ إن الأتمتة الواسعة قد تؤدي إلى تقليل فرص العمل التقليدية، ما يفاقم الفجوة بين الطبقات الاجتماعية. كما أن الاعتماد المفرط على الذكاء الاصطناعي قد يؤدي إلى تراجع المهارات البشرية التقليدية، ويثير تساؤلات حول فقدان الإنسان لسيطرته على قرارات حيوية.
التحديات الأخلاقية والقانونية
لا يمكن الحديث عن الذكاء الاصطناعي دون التطرق إلى التحديات الأخلاقية التي يطرحها. فالقدرة على معالجة كميات هائلة من البيانات وتحليلها بأسلوب يفوق القدرات البشرية يثير مخاوف حول الخصوصية وسوء الاستخدام. على سبيل المثال، تعتمد الشركات الكبرى على خوارزميات ذكاء اصطناعي لجمع وتحليل بيانات المستخدمين، ما يثير تساؤلات حول حدود استخدام هذه البيانات ومدى احترامها لحقوق الأفراد.
من ناحية أخرى، يواجه المشرعون صعوبة في تطوير أطر قانونية قادرة على مواكبة التطورات السريعة للذكاء الاصطناعي. كيف يمكن تحديد المسؤولية القانونية إذا اتخذ نظام ذكاء اصطناعي قرارًا تسبب في ضرر؟ وهل يمكن محاسبة الشركات أو الأفراد الذين صمموا هذه الأنظمة؟ هذه الأسئلة تعكس حاجة ملحة إلى وضع أطر تشريعية توازن بين الابتكار وحماية الحقوق.
الإبداع والذكاء الاصطناعي
من بين أكثر الجوانب إثارة للجدل هو تأثير الذكاء الاصطناعي على الإبداع. هل يمكن لنظام ذكاء اصطناعي أن يكون مبدعًا؟ الإجابة ليست بسيطة. فبينما يمكن للذكاء الاصطناعي أن يولّد أعمالًا فنية، يؤلف الموسيقى، ويكتب النصوص، فإنه يفتقر إلى الحس الإنساني الذي يمنح الإبداع معناه العميق. فالذكاء الاصطناعي يعتمد على تحليل الأنماط والبيانات السابقة، مما يجعله “مقلدًا ذكيًا” أكثر من كونه مبدعًا حقيقيًا.
مستقبل الذكاء الاصطناعي
لا شك أن الذكاء الاصطناعي سيواصل تطوره ليصبح جزءًا لا يتجزأ من الحياة اليومية للبشرية. لكن السؤال الذي يظل قائمًا هو: كيف يمكن للبشرية أن تضمن استخدام هذه التقنية بطريقة تخدم مصالحها وتُعزز من قيمها الأخلاقية؟ الإجابة تكمن في بناء شراكة بين الإنسان والآلة، شراكة تستند إلى التفاهم العميق للحدود والقدرات، وإلى رؤية واضحة لمستقبل يشكل فيه الذكاء الاصطناعي وسيلة للارتقاء، وليس أداة للهيمنة.
الذكاء في خدمة الإنسانية
في نهاية المطاف، يمثل الذكاء الاصطناعي فرصة نادرة لإعادة تعريف معاني التقدم والإبداع. لكنه يحمل في طياته مسؤولية كبيرة تتطلب من البشرية تبني نهج شامل ومتزن، يوازن بين الطموح التكنولوجي واحترام القيم الإنسانية. ولعل أعظم درس يمكن أن نتعلمه من هذه الثورة التقنية هو أن الذكاء، سواء كان طبيعيًا أو اصطناعيًا، لا يكتمل إلا إذا اقترن بالحكمة.
تقرير يكشف كيف ساعدت بريطانيا جماعة القاعدة في سوريا