دراسة: احذروا الذكاء الاصطناعي.. يمكن تدريبه على الكذب بكل سهولة
تاريخ النشر: 19th, January 2024 GMT
حذرت دراسة جديدة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.
اختبر باحثون في شركة "أنثروبيك"، وهي شركة ناشئة للذكاء الاصطناعي، ما إذا كانت روبوتات الدردشة، ذات الكفاءة البشرية، مثل نظام "كلاود" أو "شات جي بي تي" قادرة على تعلم الكذب من أجل خداع الناس.
وخلص الباحثون إلى أن هذه الروبوتات لا تستطيع الكذب فحسب، بل من المستحيل إعادة تدريبها على قول الحقيقة والمعلومات الصحيحة بعد ذلك، باستخدام تدابير السلامة الحالية الخاصة بالذكاء الاصطناعي.
وبالتالي فقد حذر الباحثون من وجود "شعور زائف بالأمان" ينتابنا دائماً تجاه أنظمة الذكاء الاصطناعي، فقط أثبتت كل "بروتوكولات السلامة" أنها لا تستطيع منع مثل هذا السلوك.
منح القضاة في إنجلترا وويلز إذنا لاستخدام الذكاء الاصطناعي بحذر في كتاباتهم القانونيةصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالموأكد الباحثون: "هذا النمط السلوكي مثير للقلق في الذكاء الاصطناعي، إذ يستطيع إخفاءه بشكل فعّال، وعند برمتجه على الكذب، تصبح العودة إلى الوراء مستحيلة".
أصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين خلال السنوات الأخيرة، مع ظهور روبوتات الدردشة المتقدمة مثل "شات جي بي تي"، مما أدى إلى تجديد التركيز من جانب الهيئات التنظيمية.
في نوفمبر-تشرين الثاني 2023، بعد عام من إصدار "شات جي بي تي" عقدت المملكة المتحدة قمة "سلامة الذكاء الاصطناعي" لمناقشة الطرق التي يمكن من خلالها التخفيف من المخاطر المرتبطة بالتكنولوجيا.
وقد أكد رئيس الوزراء ريشي سوناك، الذي استضاف القمة، أن التغييرات التي أحدثها الذكاء الاصطناعي يمكن أن تكون "بعيدة المدى" مثل الثورة الصناعية وأنّ التهديد الذي يشكله يجب اعتباره أولوية عالمية إلى جانب الأوبئة والحرب النووية.
"إذا أخطأنا في هذا الأمر، فإن الذكاء الاصطناعي يمكن أن يسهل بناء أسلحة كيميائية أو بيولوجية وقد تقوم الجماعات الإرهابية يباستخدام الذكاء الاصطناعي لنشر الخوف والدمار على نطاق أوسع"، أضاف سوناك.
وحذر سوناك من استغلال المجرمين للذكاء الاصطناعي لشن هجمات إلكترونية أو الاحتيال أو الاعتداء الجنسي على الأطفال، مشددا على خطر أن تفقد البشرية السيطرة على الذكاء الاصطناعي بالكامل من خلال هذا النوع من الذكاء الاصطناعي، الذي يشار إليه أحيانًا بالذكاء "الفائق".
وكثيرا ما أعرب الباحثون عن مخاوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف، لذلك تسعى الحكومات عبر العالم إلى إنشاء لوائح تنظيمية أو قوانين للذكاء الاصطناعي لتعزيز السلامة، مع تشجيع الابتكار.
المصادر الإضافية • independent
شارك هذا المقالمحادثة مواضيع إضافية خلال اجتماع في بريطانيا.. 20 دولة توقع أول إعلان عالمي بشأن مخاطر الذكاء الاصطناعي هل الذكاء الاصطناعي محايد؟ هذه أجوبة شات جي بي تي عن حق الإسرائيليين والفلسطينيين بالحرية الأعمال الأدبية للمؤلفين غذاء لخوارزميات برامج الذكاء الاصطناعي علم الإنسان الآلي الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسةالمصدر: euronews
كلمات دلالية: الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسة إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة باكستان إيران توتر عسكري الشرق الأوسط قصف إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة الذکاء الاصطناعی یعرض الآن Next شات جی بی تی قطاع غزة
إقرأ أيضاً:
الذكاء الاصطناعي والرقمنة في العمل
أحمد بن خلفان الزعابي
يُعدّ الذكاء الاصطناعي أحد أهم ما قام بتطويره الإنسان لخدمة مصالحه واستجابة للتطور والنمو الهائل الذي يشهدهُ العالم في مجال ذكاء الآلة حتى الآن، ويأتي احتفال دول العالم هذا العام بمناسبة اليوم العالمي للسلامة والصحة المهنية 28-4-2025 ليوظف هذه التقنيات في مجال العمل بهدف توفير بيئة أكثر أمانًا.
ومع التطور الهائل الذي يشهده العالم في مجال تطوير نماذج الذكاء الاصطناعي والرقمنة في قطاع الأعمال تحتفل منظمة العمل الدولية ILO هذا العام تحت شعار "إحداث ثورة في الصحة والسلامة دورة الذكاء الاصطناعي والرقمنة في العمل" بمناسبة اليوم العالمي للسلامة والصحة المهنية، ولا شك أن الجميع على اطلاع لما وصل إليه الذكاء الاصطناعي وتطبيقاته من تقدم هائل في شتى المجالات لذلك فإنه من الأولى تطويع كل هذه التقنيات والتطبيقات والنماذج لخدمة سلامة الإنسان والحفاظ على بقائه آمنًا مطمئنًا.
لا شك أن الإنسان قام بتطوير أنظمة سلامة تحدّ من المخاطر في بيئات العمل الأكثر خطرًا إلا أن دخول الآلات التي يعتمد تشغيلها على تقنيات وتطبيقات الذكاء الاصطناعي المتقدم ستساهم بشكلٍ فعّال في الحد من مخاطر بيئات العمل والتي تحلُّ محلَ الإنسان في مجالات العمل الأكثر خطرًا كالعمل في المناجم العميقة أو بالقربِ من المصاهر أو التعامل مع المواد الكيماوية أو المواد التي تتسم بدرجة سُميّته عالية أو رفع الأحمال الثقيلة حيث تتولى هذه الروبوتات مهام عمل متكررة وروتينية والتي يمكن برمجتها للعمل في مختلف الظروف أو حتى بشكل متواصل.
ولا يمكننا هنا أن نغفل دور الإنسان الذي قام هو بذاتهِ بإبتكار هذه التطبيقات وأدوات الذكاء الاصطناعي حيث لولا الإنسان لما عملت هذه الآلات لأنه يبقى تهديد الاختراقات والهجمات السيبرانية قائما وبالتالي يمكن لهذه الآلات أن تتعطل وتتوقف عن العمل وبالتالي يبقى دور التدخل البشري قائمًا لمعالجة هذه المشكلة وبالتالي فإن الآلة مهما تطورت لا يمكنها أن تحلّ محل الإنسان أو تلغي دورهُ تمامًا، إنما هي تساعدهُ في تسريع العمل بكفاءةٍ وإتقان وتضمن أفضل درجات السلامة للعاملين.
من جهة أخرى، يقوم مهندسو وفنيو السلامة في أماكن العمل بإجراء تقييمٍ شامل لمخاطر بيئة العمل بشكل دوري مستمر وذلك بهدف المحافظة على بيئة العمل أكثر أمانا وضمان خلوها من التهديدات التي يمكن أن تتسبب في وقوع حوادث وشيكة، أما الآن ومع دخول الأجهزة الرقمية وأجهزة الاستشعار الذكية فيمكنها أن تساعد المعنيين في الكشف المبكر عن مخاطر بيئة العمل بكفاءة عالية حيث أصبحت هذه الأجهزة تساعد على اكتشاف المخاطر مبكرًا وبالتالي تسمح للمختصين بالتدخل مبكرًا أيضًا والعمل على معالجة أسباب الخطر مما يُساهم ذلك في بقاء بيئة العمل أكثر أمانا.
وبما أن قطاع تقنية المعلومات والاتصالات يشهد تطورًا هائلًا مدعومًا ببحوث تطوير التقنيات المتقدمة وأدوات الذكاء الاصطناعي وكذلك سباق شركات قطاع تقنية المعلومات المحموم لتقديم أفضل الابتكارات في مجال الذكاء الاصطناعي والرقمنة فهذا يدعونا لتطوير سياسات سلامة وصحة مهنية تـُركزُّ على اعتماد استخدام مثل هذه التقنيات في بيئات العمل للمساهمة في الحفاظ على سلامة وصحة الإنسان في مكان العمل.
ويأتي الاحتفال بهذه المناسبة سنويًا للتذكير بضرورة مناقشة أسباب الخطر في أماكن العمل واعتماد أفضل الوسائل التي تحافظ على سلامة وصحة الإنسان واستدامة موارد المنشآت وارتفاع العائدات بمختلف أنواعها.
رابط مختصر
العدو الإسرائيلي يشدد إجراءاته العسكرية على حاجز الحمرا في الأغوار الشمالية