شفق نيوز:
2024-12-25@06:06:45 GMT

ميتا تفكك فريق الرقابة على الذكاء الاصطناعي

تاريخ النشر: 19th, November 2023 GMT

ميتا تفكك فريق الرقابة على الذكاء الاصطناعي

شفق نيوز/ حلّت شركة ميتا فريقها Responsible AI، المختص بتطوير واستخدام الذكاء الاصطناعي بشكل آمن داخل الشركة.

وبحسب موقع "ذي إنفورميشن"، فإن ميتا وجهت غالبية موظفي الفريق إلى العمل في فريق Generative AI، بينما البقية ضُمُّوا لفريق البنية التحتية.

وفريق Generative AI كان قد أُسس مطلع فبراير/ شباط الماضي، وهو يعمل على تطوير نماذج ومزايا ذكية تسمح بإنشاء صور اعتماداً على الأوامر النصية للمستخدم، وكذلك تطوير روبوتات دردشة قادرة على التفاعل مع المستخدمين والإجابة عن استفساراتهم.

واعتمدت الشركة على الفريق منذ مطلع العام لتقديم العديد من أدوات ومزايا الذكاء الاصطناعي في عموم تطبيقاتها وشبكاتها، مثل انستجرام وفيسبوك وماسنجر وواتساب، وكان أحدثها روبوتات الدردشة الذكية داخل المحادثات على مختلف شبكاتها الاجتماعية، إلى جانب مساعدها الذكي Meta AI.

ويأتي قرار إعادة هيكلة فريق الذكاء الاصطناعي المسؤول وتوزيع أعضائه بين أقسام الشركة، ليكون جزءاً جديداً من خطة الشركة لـ"عام الكفاءة Year of Efficiency"، وهو المسمى الذي أطلقه مارك زوكربيرج مؤسس الشركة ومديرها على عام 2023.

وشهد العام الحالي موجات من التسريحات وإعادة الهيكل ومراجعة المهام المهنية لموظفي ميتا، في محاولة لتوجيه كافة الموارد البشرية والمالية تجاه القطاعات الأكثر تحقيقاً للعوائد ولأهداف الشركة.

ووفقاً للمتحدث الرسمي باسم ميتا، فعلى الرغم من حل الفريق، إلّا أن مسؤولية أعضائه ستستمر في التركيز على تطوير الذكاء الاصطناعي والخروج باستخدامات مبتكرة له، تحت مظلة من الابتكار المسؤول.

وركزت شركات كبرى عدّة بشكل ملحوظ على وضع أطر ومعايير عامة تنظم وتقنن استخدام الذكاء الاصطناعي، وذلك في محاولة لتفادي الوقوع في أزمات مع المُشرعين القانونيين حول العالم، خاصة مع تصاعد استخدامات الأدوات الذكية بشكل غير قانوني، عبر فبركة الصور والفيديوهات بسهولة وبشكل مقنع للغاية.

وأسست شركات مايكروسوفت وأنثروبيك وجوجل و OpenAL، مؤسسة مستقلة تعمل على وضع معايير السلامة، لتتطور سوياً مع التطور السريع للنماذج الذكية.

المصدر: شفق نيوز

كلمات دلالية: العراق هاكان فيدان تركيا محمد شياع السوداني انتخابات مجالس المحافظات بغداد ديالى نينوى ذي قار ميسان اقليم كوردستان السليمانية اربيل نيجيرفان بارزاني إقليم كوردستان العراق بغداد اربيل تركيا اسعار الدولار روسيا ايران يفغيني بريغوجين اوكرانيا امريكا كرة اليد كرة القدم المنتخب الاولمبي العراقي المنتخب العراقي بطولة الجمهورية الكورد الفيليون الكورد الفيليون خانقين البطاقة الوطنية مطالبات العراق بغداد ذي قار ديالى حادث سير الكورد الفيليون مجلة فيلي عاشوراء شهر تموز مندلي الذكاء الاصطناعي ميتا الذکاء الاصطناعی

إقرأ أيضاً:

دراسة: الذكاء الاصطناعي قادر على الخداع

تابع أحدث الأخبار عبر تطبيق

أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .

كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.

ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.

تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.

كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.

وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .

ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.

مقالات مشابهة

  • مترجمون يناقشون مستقبل الترجمة في عصر الذكاء الاصطناعي
  • الشيف ChatGPT..وصفات من الذكاء الاصطناعي
  • د. ندى عصام تكتب: العبادات في عصر الذكاء الاصطناعي
  • موظفو البنوك.. أين أنتم من الذكاء الاصطناعي؟
  • ميتا تعتزم إضافة شاشة إلى نظارات "راي-بان" الذكية
  • الذكاء الاصطناعي يختار الملاعب الأكثر رعبا في العالم
  • هل يغير الذكاء الاصطناعي مستقبل أطفالنا؟
  • الذكاء الاصطناعي يكشف سر الحفاظ على شباب الدماغ
  • اقرأ غدًا في «البوابة».. السيسي يوجه باستمرار العمل على تطوير منظومة الطيران بشكل متكامل
  • دراسة: الذكاء الاصطناعي قادر على الخداع