دراسة: احذروا الذكاء الاصطناعي.. يمكن تدريبه على الكذب بكل سهولة
تاريخ النشر: 19th, January 2024 GMT
حذرت دراسة جديدة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.
اختبر باحثون في شركة "أنثروبيك"، وهي شركة ناشئة للذكاء الاصطناعي، ما إذا كانت روبوتات الدردشة، ذات الكفاءة البشرية، مثل نظام "كلاود" أو "شات جي بي تي" قادرة على تعلم الكذب من أجل خداع الناس.
وخلص الباحثون إلى أن هذه الروبوتات لا تستطيع الكذب فحسب، بل من المستحيل إعادة تدريبها على قول الحقيقة والمعلومات الصحيحة بعد ذلك، باستخدام تدابير السلامة الحالية الخاصة بالذكاء الاصطناعي.
وبالتالي فقد حذر الباحثون من وجود "شعور زائف بالأمان" ينتابنا دائماً تجاه أنظمة الذكاء الاصطناعي، فقط أثبتت كل "بروتوكولات السلامة" أنها لا تستطيع منع مثل هذا السلوك.
منح القضاة في إنجلترا وويلز إذنا لاستخدام الذكاء الاصطناعي بحذر في كتاباتهم القانونيةصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالموأكد الباحثون: "هذا النمط السلوكي مثير للقلق في الذكاء الاصطناعي، إذ يستطيع إخفاءه بشكل فعّال، وعند برمتجه على الكذب، تصبح العودة إلى الوراء مستحيلة".
أصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين خلال السنوات الأخيرة، مع ظهور روبوتات الدردشة المتقدمة مثل "شات جي بي تي"، مما أدى إلى تجديد التركيز من جانب الهيئات التنظيمية.
في نوفمبر-تشرين الثاني 2023، بعد عام من إصدار "شات جي بي تي" عقدت المملكة المتحدة قمة "سلامة الذكاء الاصطناعي" لمناقشة الطرق التي يمكن من خلالها التخفيف من المخاطر المرتبطة بالتكنولوجيا.
وقد أكد رئيس الوزراء ريشي سوناك، الذي استضاف القمة، أن التغييرات التي أحدثها الذكاء الاصطناعي يمكن أن تكون "بعيدة المدى" مثل الثورة الصناعية وأنّ التهديد الذي يشكله يجب اعتباره أولوية عالمية إلى جانب الأوبئة والحرب النووية.
"إذا أخطأنا في هذا الأمر، فإن الذكاء الاصطناعي يمكن أن يسهل بناء أسلحة كيميائية أو بيولوجية وقد تقوم الجماعات الإرهابية يباستخدام الذكاء الاصطناعي لنشر الخوف والدمار على نطاق أوسع"، أضاف سوناك.
وحذر سوناك من استغلال المجرمين للذكاء الاصطناعي لشن هجمات إلكترونية أو الاحتيال أو الاعتداء الجنسي على الأطفال، مشددا على خطر أن تفقد البشرية السيطرة على الذكاء الاصطناعي بالكامل من خلال هذا النوع من الذكاء الاصطناعي، الذي يشار إليه أحيانًا بالذكاء "الفائق".
وكثيرا ما أعرب الباحثون عن مخاوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف، لذلك تسعى الحكومات عبر العالم إلى إنشاء لوائح تنظيمية أو قوانين للذكاء الاصطناعي لتعزيز السلامة، مع تشجيع الابتكار.
المصادر الإضافية • independent
شارك هذا المقالمحادثة مواضيع إضافية خلال اجتماع في بريطانيا.. 20 دولة توقع أول إعلان عالمي بشأن مخاطر الذكاء الاصطناعي هل الذكاء الاصطناعي محايد؟ هذه أجوبة شات جي بي تي عن حق الإسرائيليين والفلسطينيين بالحرية الأعمال الأدبية للمؤلفين غذاء لخوارزميات برامج الذكاء الاصطناعي علم الإنسان الآلي الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسةالمصدر: euronews
كلمات دلالية: الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسة إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة باكستان إيران توتر عسكري الشرق الأوسط قصف إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة الذکاء الاصطناعی یعرض الآن Next شات جی بی تی قطاع غزة
إقرأ أيضاً:
حلول الذكاء الاصطناعي تقلل كميات الطرود المرتجعة في التجارة الإلكترونية
المناطق_واس
تتزايد نسب الاعتماد على الأدوات القائمة على الذكاء الاصطناعي، خاصة في قطاع التجارة الإلكترونية، إذ تلجأ إليه الشركات للحد من كميات الطرود المرتجعة التي تؤثر في أرباحهم، بأجهزة فائقة التقدم أهمها روبوتات إدارة المخزون.
بعض المواقع التي توفر منتجات منخفضة الأسعار، باتت ترسل رسالة باللون الأحمر بأنّ المهلة النهائية لإعادة المنتج 30 يومًا، بينما كانت 45 يومًا سنة 2024، فيما قلصت مواقع أخرى المهلة من 100 إلى 30 يومًا.
أخبار قد تهمك “سدايا” تطلق فعالية “ديوانية الذكاء الاصطناعي” في واحة الرياض الذكية لتعزيز الابتكار والتفاعل المعرفي 26 فبراير 2025 - 6:39 مساءً جامعة سانت أندروز تنظم مؤتمر “Nexus 2030” برعاية الملحقية الثقافية في المملكة المتحدة 26 فبراير 2025 - 2:08 صباحًاوبدأ تشديد هذه السياسة عام 2023، عن طريق فرض بضعة دولارات مقابل إرجاع السلع التي اُشْتُرِيَت عبر الإنترنت، وفي حديث لوكالة فرانس برس، توضح المحللة المتخصصة في التجارة عبر الإنترنت ليتيسيا لاماري أنّ الإرجاع المجاني للسلعة الذي يُعدّ ضروريًا في عمليات الشراء عبر الإنترنت، بما أنّ تجربة القطعة غير ممكن، كان شائعًا جدًا في المرحلة الأولى من التجارة الإلكترونية، حتى أوائل العقد الحالي، حيث دخلنا مرحلة المحاسبة والقيود.
وعادة يتم إرجاع ما يصل إلى 30% من القطع المرتبطة بالموضة، لأسباب منها أنّ الزبائن يشترون سلعًا ذات مقاسات عدة أو أنماط كثيرة ويعيدون معظمها، وتؤثر هذه الممارسة على هوامش تجار التجزئة الإلكترونيين للمنسوجات، إذ تتراوح تكاليف إعادة الطرد في المتوسط بين 21 و 46 دولارًا، مع الأخذ في الاعتبار التكاليف الكبيرة للنقل والمعالجة وإعادة التعبئة.
وفي عالم الأزياء عبر الإنترنت، ترتبط 70% من الطرود المرتجعة بمشكلة الحجم، على ما تلاحظ المتخصصة زوي تورنان، مشيرة إلى أن الخوارزميات تعطي المقاس المناسب للزبون مع بعض التعليقات لمساعدته أكثر.
ويتم في بعض المواقع تجهيز عربات مَن يحضرون الطلبات بكاميرا ذكية تتحقق من أن لون المنتج أو حجمه يتوافقان مع طلب الزبون، وتنبّه الموظف فورًا إذا وضع في العربة سلعة خاطئة، وفي أقل من عامين، ساهمت هذه الكاميرات في خفض كميات الطرود المرتجعة بنسبة 90%.
وفي المستودع، يتعلم روبوت مستقل “قائم على الذكاء الاصطناعي” رسم خرائط للأماكن “لتحديث المخزون استنادًا لما يراه”, ويعالج من 6 إلى 30 ألف منصة نقالة في الليلة، وفي حالة إعادة الطرد، يمكن للذكاء الاصطناعي المساعدة على تحديد ما إذا كان المشتري قد أعاد المنتج الصحيح، لمكافحة عمليات الاحتيال.
مياه القليوبية ترفع حالة الاستعداد القصوى خلال شهر رمضان