دراسة: الذكاء الاصطناعي قادر على الخداع
تاريخ النشر: 22nd, December 2024 GMT
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
المصدر: البوابة نيوز
كلمات دلالية: الذكاء الاصطناعي دراسة نماذج الذكاء وجهات نظر مختلفة الذکاء الاصطناعی
إقرأ أيضاً:
تطوير ثوري في Llama 4 لمنافسة عمالقة الذكاء الاصطناعي
تواصل شركة Meta تعزيز استثماراتها في تقنيات الذكاء الاصطناعي، حيث تستعد لإطلاق نموذج Llama 4 بقدرات صوتية متطورة تهدف إلى تحسين تجربة المستخدم وجعل التفاعل مع الذكاء الاصطناعي أكثر طبيعية وسلاسة.
ووفقًا لمصادر مطلعة، فإن الشركة تعمل على جعل المحادثة مع النموذج الصوتي الجديد أشبه بالحوار ثنائي الاتجاه، مما يسمح للمستخدمين بمقاطعة الذكاء الاصطناعي أثناء التفاعل، بدلاً من الاقتصار على أسلوب الأسئلة والأجوبة التقليدي. تأتي هذه الخطوة ضمن رؤية مارك زوكربيرغ لجعل Meta "رائدة في الذكاء الاصطناعي"، خاصة مع تصاعد المنافسة مع OpenAI وGoogle وMicrosoft.
اشتراكات مدفوعة وإعلانات ضمن البحثفي إطار استراتيجيتها لتعظيم العوائد من تقنيات الذكاء الاصطناعي، تدرس Meta إطلاق خطط اشتراك مدفوعة لمساعدها الذكي Meta AI، تشمل خدمات مثل حجز المواعيد وإنشاء مقاطع الفيديو. كما تفكر في إدخال الإعلانات المدفوعة أو المنشورات المروجة داخل نتائج البحث التي يقدمها المساعد الذكي.
كشف كريس كوكس، مدير المنتجات في Meta، أن Llama 4 سيكون "نموذجًا متعدد الوسائط"، مما يعني أنه سيتمكن من معالجة الصوت مباشرة دون الحاجة إلى تحويله إلى نص قبل تمريره إلى نموذج اللغة الكبير (LLM)، ما يعزز سرعة الاستجابة وجودة التفاعل.
سباق نحو الذكاء الاصطناعي الأقل تقييدًاوسط تنافس الشركات على إطلاق نماذج ذكاء اصطناعي أكثر انفتاحًا، تناقش Meta تخفيف قيود الإشراف على Llama 4، في وقت تسعى فيه شركات أخرى، مثل xAI المملوكة لإيلون ماسك، إلى تطوير نماذج مثل Grok 3 بقدرات استجابة أكثر تحررًا.
Meta تراهن على الأجهزة الذكيةتعزز هذه التحديثات أهمية المساعدات الصوتية في منتجات Meta، مثل نظارات Ray-Ban الذكية، التي اكتسبت شعبية متزايدة مؤخرًا. كما تسرّع الشركة خططها لتطوير سماعات رأس خفيفة الوزن قد تحل محل الهواتف الذكية كأجهزة الحوسبة الرئيسية للمستهلكين.
مع هذا الزخم التقني، يتجه مستقبل الذكاء الاصطناعي نحو تجربة تفاعلية أكثر تطورًا، حيث يصبح الصوت الوسيلة الرئيسية للتواصل مع الأجهزة الرقمية، وهو ما قد يغير جذريًا طريقة تعامل المستخدمين مع التكنولوجيا.
الصحة: تخصيص عيادة للعقر وتوفير الأمصال واللقاحات بمستشفى حميات الخارجة