أنت تتعرض للخداع.. تحذير من خطر جديد للذكاء الاصطناعي
تاريخ النشر: 9th, April 2024 GMT
ما يزال الذكاء الاصطناعي يقع تحت الاختبار من ملايين الأشخاص، سواء لدقة بياناته أو سرعته أو حتى قدرته على إنجاز المهام البشرية في بعض المجالات، لكن وسط رحلة استكشافه تبين الوجه السيئ لتلك التقنية المرعبة، الذي يحمل كثير من الخداع والاحتيال.
اكتشاف خطر جديد للذكاء الاصطناعيدراسة جديدة أطلقت تحذيرات من أنظمة الذكاء الاصطناعي المتقدمة، التي انتشرت بشكل واسع في الفترة الأخيرة، خاصة أنها تحمل سلبيات بالجملة، من بينها إمكانية تدريبها على خداع البشر والكذب عليهم بسهولة.
الدراسة أجرتها شركة «Anthropic» الناشئة للذكاء الاصطناعي، وقررت اختبار العديد من الأشياء، بينها إمكانية روبوتات الدردشة المتطورة مثل «تشات جي بي تي» يمكن أن تتعلم الكذب من أجل خداع مستخدميها، والنتيجة كانت صادمة.
برامج الذكاء الاصطناعي تعطي بيانات كاذبةالفريق البحثي القائم على هذه الدراسة، بحسب صحيفة «الشرق الأوسط»، وجد أن الروبوتات لا تستطيع تعلم الكذب فقط، بل أنها لا تملك القدرة على العودة لقول الحقيقة مرة أخرى، بعد تدريبها على منح معلومات مغلوطة، من قبل الأشخاص الذين أعدوها، لذلك حذرت الدراسة من وجود شعور زائف بالأمان أثناء استخدام أنظمة الذكاء الاصطناعي.
الهدف من هذا التدريب، هو استخدام الذكاء الاصطناعي من قبل مجموعة من الأشخاص للنصب والاحتيال، وإخفاء أي معلومات قد تضر ببعض السلع والمنتجات، عبر موقعه الإلكتروني، وفي أحيان أخرى يستعان به في استخدام أعمال المبدعين دون إسناد.
وتحاول الحكومات على مستوى العالم، اتخاذ إجراءات صارمة وتحركات واسعة، من أجل وضع لوائح قادرة على الحد من مخاطر الذكاء الاصطناعي، واستخدامه بشكل إيجابي ليكون عامل مساعدة وليس ضرر.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي برامج الذكاء الاصطناعي شات جي بي تي الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي من أوبن إيه آي قد يتفوق على الأطباء في تشخيص الحالات الطبية المعقدة
كشفت دراسة حديثة أجراها باحثون من كلية الطب بجامعة هارفارد وجامعة ستانفورد، أن نموذج الذكاء الاصطناعي "شات جي بي تي o1" (في الوضع التجريبي "بريفيو-01") من شركة "أوبن إيه آي" (OpenAI) قد يتفوق على الأطباء في تشخيص الحالات الطبية المعقدة.
وخضع النموذج خلال الدراسة لسلسلة شاملة من اختبارات التشخيص الطبي، وأظهرت النتائج أنه حقق قفزات نوعية مقارنة بالإصدارات السابقة، فقد تمكن نموذج "بريفيو-01" (o1-preview) من تشخيص 78.3% من الحالات التي حللت بدقة.
وفي مقارنة مباشرة شملت 70 حالة محددة، ارتفعت دقة النظام إلى 88.6%، متفوقا بفارق كبير على نظام "جي بي تي-4" (GPT-4) السابق الذي سجل نسبة قدرها 72.9%. وأثبت النظام كفاءته العالية في مجال الاستدلال (التفكير) الطبي، إذ حصل على درجات عالية في 78 من أصل 80 حالة وفق مقياس "آر-آي دي إي إيه" (R-IDEA) المستخدم لتقييم جودة الاستدلال.
وأشار الباحثون إلى احتمال تضمن بيانات التدريب الخاصة بالنموذج بعض الحالات المستخدمة في الدراسة، لكن أداء النموذج ظل مرتفعا عند اختباره على حالات جديدة لم يسبق أن تعامل معها، مع انخفاض طفيف في الأداء.
وأوضح الباحثون أن إجابات النموذج التفصيلية قد أسهمت في رفع تقييمه، مؤكدين أن الدراسة اقتصرت على أدائه منفردا من دون دراسة كيفية تعاونه مع الأطباء.
إعلانويظهر نموذج "بريفيو-01" تفوقا في مهام التفكير النقدي، مثل التشخيص وتقديم التوصيات العلاجية، لكنه يواجه صعوبات في المهام التجريدية، كتقدير الاحتمالات.
وكانت شركة "أوبن إيه آي" قد أعلنت حديثا إطلاق الإصدار الكامل النهائي "أو 1" (o1)، بالإضافة إلى الإصدار الجديد "أو 3" الذي أظهر تحسينات كبيرة في التفكير التحليلي.
طظˆظ„ ط§ظ„ظ…ظˆظ‚ط¹