دراسة: احذروا الذكاء الاصطناعي.. يمكن تدريبه على الكذب بكل سهولة
تاريخ النشر: 19th, January 2024 GMT
حذرت دراسة جديدة من إمكانية تدريب نماذج الذكاء الاصطناعي المتقدمة على الكذب على البشر وخداعهم بكل سهولة.
اختبر باحثون في شركة "أنثروبيك"، وهي شركة ناشئة للذكاء الاصطناعي، ما إذا كانت روبوتات الدردشة، ذات الكفاءة البشرية، مثل نظام "كلاود" أو "شات جي بي تي" قادرة على تعلم الكذب من أجل خداع الناس.
وخلص الباحثون إلى أن هذه الروبوتات لا تستطيع الكذب فحسب، بل من المستحيل إعادة تدريبها على قول الحقيقة والمعلومات الصحيحة بعد ذلك، باستخدام تدابير السلامة الحالية الخاصة بالذكاء الاصطناعي.
وبالتالي فقد حذر الباحثون من وجود "شعور زائف بالأمان" ينتابنا دائماً تجاه أنظمة الذكاء الاصطناعي، فقط أثبتت كل "بروتوكولات السلامة" أنها لا تستطيع منع مثل هذا السلوك.
منح القضاة في إنجلترا وويلز إذنا لاستخدام الذكاء الاصطناعي بحذر في كتاباتهم القانونيةصندوق النقد الدولي: الذكاء الاصطناعي يهدد 40% من وظائف العالموأكد الباحثون: "هذا النمط السلوكي مثير للقلق في الذكاء الاصطناعي، إذ يستطيع إخفاءه بشكل فعّال، وعند برمتجه على الكذب، تصبح العودة إلى الوراء مستحيلة".
أصبحت مسألة سلامة الذكاء الاصطناعي مصدر قلق متزايد لكل من الباحثين والمشرعين خلال السنوات الأخيرة، مع ظهور روبوتات الدردشة المتقدمة مثل "شات جي بي تي"، مما أدى إلى تجديد التركيز من جانب الهيئات التنظيمية.
في نوفمبر-تشرين الثاني 2023، بعد عام من إصدار "شات جي بي تي" عقدت المملكة المتحدة قمة "سلامة الذكاء الاصطناعي" لمناقشة الطرق التي يمكن من خلالها التخفيف من المخاطر المرتبطة بالتكنولوجيا.
وقد أكد رئيس الوزراء ريشي سوناك، الذي استضاف القمة، أن التغييرات التي أحدثها الذكاء الاصطناعي يمكن أن تكون "بعيدة المدى" مثل الثورة الصناعية وأنّ التهديد الذي يشكله يجب اعتباره أولوية عالمية إلى جانب الأوبئة والحرب النووية.
"إذا أخطأنا في هذا الأمر، فإن الذكاء الاصطناعي يمكن أن يسهل بناء أسلحة كيميائية أو بيولوجية وقد تقوم الجماعات الإرهابية يباستخدام الذكاء الاصطناعي لنشر الخوف والدمار على نطاق أوسع"، أضاف سوناك.
وحذر سوناك من استغلال المجرمين للذكاء الاصطناعي لشن هجمات إلكترونية أو الاحتيال أو الاعتداء الجنسي على الأطفال، مشددا على خطر أن تفقد البشرية السيطرة على الذكاء الاصطناعي بالكامل من خلال هذا النوع من الذكاء الاصطناعي، الذي يشار إليه أحيانًا بالذكاء "الفائق".
وكثيرا ما أعرب الباحثون عن مخاوفهم من تسبب هذه الأنظمة في انتشار المعلومات الخاطئة على نطاق واسع، خصوصاً عبر التزييف العميق، واستخدام أعمال المبدعين دون إسناد، وخسارة هائلة في الوظائف، لذلك تسعى الحكومات عبر العالم إلى إنشاء لوائح تنظيمية أو قوانين للذكاء الاصطناعي لتعزيز السلامة، مع تشجيع الابتكار.
المصادر الإضافية • independent
شارك هذا المقالمحادثة مواضيع إضافية خلال اجتماع في بريطانيا.. 20 دولة توقع أول إعلان عالمي بشأن مخاطر الذكاء الاصطناعي هل الذكاء الاصطناعي محايد؟ هذه أجوبة شات جي بي تي عن حق الإسرائيليين والفلسطينيين بالحرية الأعمال الأدبية للمؤلفين غذاء لخوارزميات برامج الذكاء الاصطناعي علم الإنسان الآلي الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسةالمصدر: euronews
كلمات دلالية: الذكاء الاصطناعي وسائل التواصل الاجتماعي دراسة إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة باكستان إيران توتر عسكري الشرق الأوسط قصف إسرائيل الصراع الإسرائيلي الفلسطيني ضحايا غزة حركة حماس قطاع غزة الذکاء الاصطناعی یعرض الآن Next شات جی بی تی قطاع غزة
إقرأ أيضاً:
مصطفى سليمان المدير التنفيذي لقطاع الذكاء الاصطناعي في مايكروسوفت
أحد أبرز القائمين على مشاريع الذكاء الاصطناعي، بدأ مسيرته في لندن حيث نشأ في بيئة متعددة الثقافات، ترك جامعة أكسفورد في سن مبكرة وانخرط في العمل المجتمعي ثم انتقل إلى قطاع التكنولوجيا. وهو من الشخصيات البارزة في تطوير تطبيقات الذكاء الاصطناعي في مجالات الصحة والاستدامة. شارك في تأسيس شركة "ديب مايند" البريطانية. واجه اتهامات بالتواطؤ في دعم عمليات عسكرية إسرائيلية في قطاع غزة، بسبب دوره التنفيذي في شركة مايكروسوفت المتهمة بتعاونها مع الجيش الإسرائيلي.
المولد والنشأةوُلد مصطفى سليمان في أغسطس/آب 1984 في العاصمة البريطانية لندن، لأب سوري كان يعمل سائق سيارة أجرة وأم إنجليزية كانت ممرضة ضمن هيئة الخدمات الصحية الوطنية.
نشأ في شمال لندن بالقرب من محطة مترو أنفاق المدينة "كاليدونيان رود"، حيث تربى مع والديه وشقيقه الأصغر.
أبدى منذ أعوامه الأولى اهتماما بالغا بالقراءة، خاصة في مجال الفلسفة، كما لفتت انتباهه قضايا الأعمال وريادة الأعمال في سن مبكرة.
الدراسة والتكوين العلميالتحق مصطفى سليمان بمدرسة "ثورنهيل" الابتدائية الحكومية في منطقة إزلنغتون، ثم انتقل إلى مدرسة "كوين إليزابيث" الثانوية للبنين في بارنيت. وبفضل تفوقه الأكاديمي، أُتيح له اختيار الجامعة التي يرغب بها، فاختار دراسة الفلسفة في كلية "مانسفيلد" بجامعة أكسفورد، المعروفة بتوجهها المناهض للنخبوية، وكان غالبية طلابها في تلك الفترة يأتون من مدارس حكومية.
إعلانمع مرور الوقت، شعر أن الدراسة الأكاديمية لا تواكب طموحه العملي على حد وصفه، وأدرك أنه لا يرغب في قضاء شبابه داخل قاعات المحاضرات. وبدافع رغبته في إحداث تغيير حقيقي في العالم، قرر في سن التاسعة عشرة ترك الجامعة، وشرع في تأسيس خدمة استشارية مخصصة لدعم الشباب المسلمين في المملكة المتحدة.
كان شغف سليمان بريادة الأعمال واضحا منذ سن مبكرة، إذ أطلق أول مشروع تجاري له في سن الحادية عشرة، فقد صرح في إحدى مقابلاته أنه كان يبيع الحلوى لزملائه في المدرسة.
وكان يستأجر خزائن الطلاب لتخزين الحلويات، ثم توسّع في نشاطه وبدأ توظيف زملائه ليتولوا عمليات البيع أثناء فترات الاستراحة، واستمر المشروع حتى تدخل المعلمون وأوقفوه.
وفي وقت لاحق، وجّه سليمان طاقاته نحو العمل المجتمعي، فكرّس جزءا من وقته لمساعدة ذوي الاحتياجات الخاصة، ما عكس اهتمامه المبكر بخدمة الآخرين.
التجربة العمليةبعد انسحابه من جامعة أكسفورد في سن الـ19، أسس مصطفى سليمان رفقة زميله محمد مامداني "خط المساعدة للشباب المسلمين"، وهو خط هاتفي مجاني يقدم الدعم النفسي والاستشارات للشباب المسلم في المملكة المتحدة. وسرعان ما تحوّل هذا المشروع إلى إحدى أكبر خدمات الصحة النفسية الموجهة للجالية المسلمة في البلاد.
أكد لاحقا أن عمله في "خط المساعدة" عمّق فهمه لجذور المشكلات الاجتماعية، وربط الكثير منها بعدم المساواة والتحامل السائد في المجتمع، وهو ما دفعه للتفكير بتوسيع أثره خارج نطاق جماعات محددة.
في سن 22، غادر "خط المساعدة" بسبب التحديات المرتبطة بالتمويل والتوسّع في المؤسسات غير الربحية، وانتقل إلى العمل في مجال سياسة حقوق الإنسان بمكتب عمدة لندن آنذاك كين ليفينغستون.
لاحقا انتقل مصطفى سليمان إلى العمل على مستوى عالمي، وشارك في تأسيس شركة "ريوس بارتنرز"، وهي شركة استشارية تُعنى بحل النزاعات العالمية ومواجهة التحديات مثل الأمن الغذائي والتلوث والاستدامة.
أهلته هذه الشركة للعمل مع مؤسسات كبرى منها الأمم المتحدة والحكومة الأميركية والهولندية، والصندوق العالمي للطبيعة وشركة شل التي ساهم فيها بمشاريع متعلقة بالاستدامة البيئية.
كما كان له دور محوري في محادثات مؤتمر كوبنهاغن للمناخ، ثم غادر الشركة في وقت لاحق من نهاية عام 2009.
إعلانفي عام 2010، ومع إدراكه لإمكانات التكنولوجيا في إحداث تغيير جذري، شارك في تأسيس شركة "ديب مايند" إلى جانب ديميس هاسابيس وشين ليغ. وكان هدفهم تطوير أنظمة ذكاء اصطناعي متقدمة يمكن أن تُستخدم في تحسين حياة البشر.
كان لمصطفى سليمان دور حاسم في توسّع الشركة، لا سيما في جذب الاستثمارات، وإقناع شخصيات بارزة في وادي السيليكون منهم بيتر ثيل وإيلون ماسك بدعم المشروع في مراحله الأولى.
كان أحد أبرز قادة مبادرات الذكاء الاصطناعي في المجال الصحي ضمن ديب مايند، إذ أسس وقاد فريق "ديب مايند هيلث"، ونجح في عقد شراكات مع عدد من مؤسسات هيئة الخدمات الصحية الوطنية البريطانية، لتطوير أدوات تكنولوجية مثل تطبيقات لمراقبة المرضى، وأنظمة ذكاء اصطناعي يمكنها اكتشاف مؤشرات الأمراض في مراحل مبكرة.
إلا أن هذا التعاون لم يخلُ من الجدل، خاصة بعدما كُشف عن مشاركة غير شفافة لبيانات 1.6 مليون مريض مع ديب مايند، وهو ما دفع هيئة الرقابة البريطانية لاعتبار الاتفاقية غير قانونية.
كان مصطفى سليمان حريصا على تطوير الذكاء الاصطناعي ضمن أطر أخلاقية واضحة، وفي عام 2016، شارك في تأسيس "بارتنرشيب للذكاء الاصطناعي"، وهي منظمة غير ربحية تهدف إلى ضمان تطوير الذكاء الاصطناعي بشكل آمن وشفاف، بمشاركة قادة تقنيين بارزين منهم يان لوكون المسؤول في شركة فيسبوك وإريك هورفيتز المسؤول في مايكروسوفت.
في نوفمبر/تشرين الثاني 2018، وتحت إدارة شركة غوغل، تم دمج فريق الصحة التابع لـ "ديب مايند" ضمن شركة فرعية جديدة بقيادة ديفيد فاينبرغ. ورغم هذا التغيير في الهيكل، استمر مصطفى سليمان في الإشراف على الأبحاث المتعلقة بالصحة، ومن بينها مشروع تنبؤ إصابات الكلى الحادة قبل 48 ساعة من حدوثها.
إعلانوفي عام 2019 شغل منصب نائب رئيس شركة غوغل لمنتجات وسياسات الذكاء الاصطناعي، بعد استحواذ الأخيرة على "ديب مايند" في 2014.
في يناير/كانون الثاني 2022، بدأت أفكار مصطفى سليمان تتجه نحو تأسيس مشروعه الخاص، بعدما شعر أن غوغل كانت مترددة في تبني الذكاء الاصطناعي للمحادثة في منتجاتها، هذا التردد دفعه إلى التفكير في مغادرة الشركة.
وفي العام نفسه شارك في تأسيس شركة "إنفليكشن إيه آي" مع ريد هوفمان، وكارين سيمونيان، وكان أول مشاريع الشركة هو تطوير برنامج للذكاء الاصطناعي للدردشة، يركز على التفاعل العاطفي، وأُطلق عليه اسم "باي".
وفي مارس/آذار 2024 أصبح مصطفى سليمان رئيسا لوحدة الذكاء الاصطناعي الاستهلاكية في مايكروسوفت التي عينت عددا من موظفي إنفليكشن.
دعم حرب الإبادةاتهمت خبيرة الذكاء الاصطناعي، هايدي خلاف، الجيش الإسرائيلي بالاعتماد على تطبيقات الذكاء الاصطناعي في تنفيذ هجماته على قطاع غزة، مشيرة إلى تعاون وثيق بينه وبين شركات تكنولوجية كبرى مثل غوغل ومايكروسوفت وأمازون. واعتبرت أن هذا التعاون يجعل تلك الشركات شريكة في جرائم حرب.
وأوضحت هايدي خلاف أن هذا الدعم يعود إلى عام 2021، حين بدأت غوغل وأمازون بتقديم خدمات سحابية وتقنيات ذكاء اصطناعي للجيش الإسرائيلي، وقد توسع التعاون بشكل أكبر بعد السابع من أكتوبر/تشرين الأول 2023، مع ازدياد اعتماد إسرائيل على خدمات مايكروسوفت التقنية.
وفي أبريل/نيسان 2025، تزامنا مع تجدّد الهجمات الإسرائيلية على قطاع غزة، قاطعت المبرمجة والمهندسة المغربية ابتهال أبو سعد – وهي موظفة في مايكروسوفت وخريجة جامعة هارفارد – كلمة ألقاها مصطفى سليمان، أثناء الاحتفال الرسمي بالذكرى الخمسين لتأسيس مايكروسوفت.
واتهمت ابتهال زميلها بالتواطؤ فيما وصفته بـ"سفك الدماء"، مؤكدة أن مايكروسوفت متورطة في دعم الجيش الإسرائيلي عبر تزويده بخدمات الحوسبة السحابية والبنية التحتية التكنولوجية، مثل "مايكروسوفت أزور".
وقالت أثناء وقوفها على المسرح "أنت تدّعي أنك تسعى لتطوير الذكاء الاصطناعي لخدمة البشرية، في حين أن مايكروسوفت تبيعه لدعم آلة الحرب". وأضافت: "أكثر من 50 ألف شخص قُتلوا، ومايكروسوفت تواصل دعم هذه الإبادة الجماعية".
واكتفى مصطفى سليمان بالرد قائلا: "شكرا لك على احتجاجك، لقد سمعتك". بينما تابعت ابتهال قائلة إنه و"كلّ مايكروسوفت" أيديهم ملطخة بالدماء. كما ألقت على المسرح الكوفية الفلسطينية، التي أصبحت رمزا لدعم الشعب الفلسطيني، قبل أن يتم إخراجها من الفعالية.
إعلان الجوائز والأوسمة وسام الإمبراطورية البريطانية عام 2019. جائزة رؤية وادي السيليكون لعام 2019. مُدرج ضمن قائمة تايم لأكثر 100 شخصية تأثيرا في مجال الذكاء الاصطناعي لعام 2023.
ارتفاع درجات الحرارة على جميع الأنحاء اليوم مع رياح مثيرة للأتربة