المنتدى السعودي للإعلام.. مختصون يحذرون من مخرجات الذكاء الاصطناعي
تاريخ النشر: 21st, February 2024 GMT
حذّر مختصون في الإعلام السياسي من استخدام برامج الذكاء الاصطناعي في اختلاق أخبار ومعلومات مضللة أو كاذبة، مطالبين بالرقابة الصارمة على مخرجات تلك البرامج والمنصات التي تستخدمها.
جاء ذلك خلال جلسة اليوم، بعنوان "الإعلام السياسي في مواجهة ذاكرة السمكة" ضمن أعمال المنتدى السعودي للإعلام بالرياض.
أخبار متعلقة الحدود الشمالية وعسير.
وأكد رئيس المركز الفرنسي الأبحاث والتحليل والسياسات عقيل الدبيشي, أهمية أن يكون بأي جهة إخبارية إعلام سياسي مختص، كون الإعلام السياسي لكل أطياف المجتمع، داعيًا إلى رقابة أكبر على المنصات لأن النشر غير المسؤول قد يحدث فوضى.
ودعا إلى محاربة المنصات الوهمية التي قد تؤدي إلى مشكلات كبيرة، عبر قوانين واضحة تبرز أهمية نشر الوعي والثقافة المصداقية والدقة في المعلومة.
المصدر: صحيفة اليوم
كلمات دلالية: واس الرياض برامج الذكاء الاصطناعي المنصات الرقمية المنتدى السعودي للإعلام المنتدى السعودي للإعلام 2024 السعودية الإعلام السیاسی
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.