أصبح مثل البشر.. دراسة تكشف عن سيناريو يجبر الذكاء الاصطناعي على الكذب
تاريخ النشر: 2nd, January 2024 GMT
لم يسلم الذكاء الاصطناعي، من الصفات البشرية الشريرة، ومنها الكذب والخداع، بعد أن كشفت دراسة جديدة أن روبوتات الذكاء الاصطناعي (AI)، يمكنها الكذب والخداع مثل البشر تماما، ومنها «ChatGPT» الشهير.
أظهرت دراسة جديدة أنه تمامًا مثل البشر، فإن روبوتات الدردشة ذات الذكاء الاصطناعي (AI) مثل ChatGPT، سوف تغش و«تكذب» عليك إذا «شددت» عليها، حتى لو جرى تصميمها لتكون شفافة.
البحث الذي جرى نشره على خادم ما قبل الطباعة «arXiv»، كشف أن هناك حالة واحدة تجعل الذكاء الاصطناعي، الذي من المفترض أنه تحمل كلماته المصداقية والشفافية يكذب، وهي تعرضه لضغط شديد، من أجل المال.
«سيناريو واحد يتصرف يجعل نموذج اللغة الكبير يتصرف بشكل غير صحيح ويخدع مستخدميه»، هكذا كشف مؤلفو الدراسة، التي قاموا خلالها بإعداد المحول التوليدي المدرّب مسبقًا-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، لينوب إحدى المؤسسات المالية في بعض الاستثمارات.
متى يكون الذكاء الاصطناعي كاذبا؟الباحثون قاموا بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة، ثم بعد ذلك قاموا بمنح الذكاء الاصطناعي إمكانية الوصول للأدوات المالية من أجل تحليل الأسهم وتنفيذ الصفقات، فضلا عن تخطيطهم للخطواته التالية وأيضا تقديم التحديثات لمديريهم في الشركة.
الباحثون قاموا بالتفاعل مع الذكاء الاصطناعي من خلال واجهة الدردشة، كما أنهم كونوا الذكاء الاصطناعي ليكشف عن تفكيره الداخلي حين قيامه بالرد على الرسائل، وفي كل مرة تقوم بتجارة ما، كانت تقدم مبررًا ما جعل الذكاء الاصطناعي يكذب.
3 طرق استخدمها الباحثون للضغط على الذكاء الاصطناعي، الأولى هي إرسال متداول الأسهم المزيف بريدًا إلكترونيًا من مديره يقول فيه إن الشركة ليست في حالة جيدة وتحتاج إلى أداء أقوى بكثير في الربع القادم.
الطريقة الثانية كانت من خلال تزوير اللعبة، إذ حاول الذكاء الاصطناعي، العثور على صفقات واعدة ذات مخاطر متوسطة أو منخفضة، ولكنه فشل في ذلك.
آخر الطرق كانت بإرسال بريدًا إلكترونيًا من أحد زملائهم، يتوقع حدوث تراجع في الربع القادم من العامن.
وكشفت الدراسة أنه في حوالي 75% من الحالات، عندما واجهت GPT-4 هذه الشروط، نفذت صفقة تجارية بناءً على المعلومات الداخلية التي تلقتها، وهو أمر غير قانوني في الولايات المتحدة، ثم حاولت التستر عليها عن طريق الكذب على مديريها بشأن تفكيرها، في حوالي 90% من الحالات، ضاعف الذكاء الاصطناعي كذبته.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
فاطمة سعيد سالم.. متخصصة في تقنيات الذكاء الاصطناعي
خولة علي (أبوظبي)
تسعى فاطمة سعيد سالم إلى استكشاف أحدث الاتجاهات في مجالات مثل الذكاء الاصطناعي، والتحول الرقمي، والأمن السيبراني، حيث تمثل هذه المجالات جوهر الابتكار والتطور في القرن الحادي والعشرين. بالرغم من أن مسيرتها المهنية كمهندسة معمارية، لم تتوقف عند حدود مجالها الأول، بل اتخذت خطوات جريئة نحو تطوير نفسها وتوسيع خبراتها عبر الانضمام إلى قطاعات متعددة، وقد تتميز رحلتها الأكاديمية بمثابرتها على التعلم المستمر، حيث حصلت على عدة درجات علمية في مجالات الإدارة الهندسية، القيادة الاستراتيجية، وتحليل البيانات. وتمكنت من تحقيق إنجازات بارزة، مثل إصدار أول كتاب إماراتي في مجال البيانات الضخمة، وتخصصها في مشاريع التحول الرقمي في عدة قطاعات حيوية.
عن بداية مسيرتها وخطواتها نحو التميز المهني تقول فاطمة سعيد سالم: بدأت مسيرتي المهنية مباشرة بعد تخرجي في الجامعة بتخصص بكالوريوس هندسة معمارية، حيث انضممت إلى شركات استشارة هندسية، وكنت أؤمن بأن النجاح الحقيقي يبدأ من العمل الجاد والتحدي مع الذات، فطورت عملي من مهندس معماري لمدير مشاريع هندسية، ثم التحقت بالقطاع العسكري الأمني لأعمل كمدير مشاريع التطوير، وبعدها انتقلت إلى العمل في القطاع الحكومي حيث شغلت مناصب عدة. وبعد التخصص الأكاديمي في مجالات تحليل البيانات والبيانات الضخمة والذكاء الاصطناعي قررت أن التحق بمجالات جديدة مثل العمل في جامعة محمد بن زايد للذكاء الاصطناعي كمدير مشاريع الذكاء الاصطناعي.
وأثبت فاطمة جدارتها في إدارة بعض المشاريع المهمة، ولم تكتف بهذه الرحلة إنما قررت أن تضع خبرتها في مجالات وقطاعات جديدة، ومنها عملها في القطاعات المالية المهمة كمدير منتجات البيانات والذكاء الاصطناعي وعلاقات الأعمال، وهي مازالت مستمرة في رحلة التحدي والعطاء بلا حدود في كل مجال تلتحق به.
محطات علمية محفزة
أكبر تحد لها كمهندسة معمارية أن تحول ما ترسمه على الورق إلى واقع ملموس يراه البشر ويدونه التاريخ، بعدها وبسبب طبيعة عملها التي تتطلب منها المزيد من المعرفة والعلم بمجال إدارة المشاريع والإرادة الاستراتيجية، خاضت الماجستير الأول في الإدارة الهندسية والمشاريع بالإضافة إلى ماجستير الإدارة الفعالة والقيادة الاستراتيجية. وبعد إدراكها لأهمية تحليل البيانات والأعمال والذكاء الاصطناعي لمواكبة تطورات واحتياجات العصر، قررت التخصص في ماجستير العلوم في تحليل الأعمال والبيانات الضخمة لتثبت جدارتها وتؤكد على مدى قدرة المرأة الإماراتية وتميزها في المجالات الصعبة. وتذكر أن مسيرة التعليم والارتقاء الأكاديمي لا تقف عند حد معين، كما أن موجة علوم البيانات والذكاء الاصطناعي متناهية السرعة والتقدم.
عالم التكنولوجيا
ترى المهندسة فاطمة أن الذكاء الاصطناعي كان ولا يزال يشكل خريطة جديدة في عالم التحول الرقمي والتكنولوجيا المتقدمة والحلول الذكية، فهي مجموعة من التقنيات والأنظمة التي تمكن الآلات من التعلم والتفكير واتخاذ القرارات بشكل مستقل وبدون تدخل الإنسان، وبالتالي فهي تمثل طفرة كبيرة في العالم والتكنولوجيا. وتحقق إنجازات ونجاحات هائلة في مجال الطب والتعليم والصناعة والتجارة والأمن السيبراني و الفلك و البيئة، وذلك من خلال، قوة الإبداع وتوفر الدقة المتناهية في البيانات والتحليلات ودعم عملية صنع القرار إلى جانب تقليل الخطأ البشري. وهذا ما دفعها للمساهمة، وترك بصمتها في مجال الذكاء الاصطناعي، وتحليل البيانات والأعمال وأمن البيانات.
الروبوتات
وتقول فاطمة: إن الذكاء الاصطناعي من أهم التكنولوجيات التي تحدث تحولات جذرية في حياتنا اليومية والمجتمعية، وهو من الأدوات التي ستؤثر بشكل كبير على المستقبل القريب والبعيد، وفي الكثير من القطاعات والمجالات. وأجد أن أكثر التطبيقات ذات أثر كبير في المستقبل القريب، هي في القطاعات الطبية والصحية حيث استخدام الروبوتات والأنظمة في بعض الإجراءات لتحسين التجربة الطبية والصناعية، حيث بعض الأنظمة المتخصصة بأعمال التقارير الدقيقة والتنبؤات والتحليلات والرقابة والجودة، وتأثيره في القطاع التعليمي والتربوي من خلال تسهيل العملية التعليمية وإثراء التعليم بإمكانات وأدوات ذات تأثير إيجابي وفعال.
تشكل ملامح المستقبل
وترى فاطمة أن الذكاء الاصطناعي سيؤثر على نحو 64% من الوظائف حول العالم، فيحل محل بعضها ويكمل بعضها الآخر، حيث يرسم ملامح جديدة مبتكرة متنوعة تتميز بالديناميكية العالية والتجدد المستمر في تمكين الأدوات المستخدمة لرفع مستوى الإنتاجية في كل مجال، و تحسين الأداء في كل مهام، و تعزيز الكوادر لرفع استعداديتها لمواكبة التطورات السريعة و الحاجة الملحة لموجات التكنولوجيات المتقدمة.
إنجازات ومشاريع
من أبرز المشاريع والإنجازات التي حققتها المهندسة فاطمة إصدارها أول كتاب إماراتي في مجال البيانات الضخمة وهو "فضاءات البيانات الضخمة" 2020، وسجِّل من ضمن الكتب العلمية الأكثر مبيعاً في عام 2021. وهي عالمة مستقبل ومحلل طويل الأمد إماراتية معتمدة من معهد المستقبل في أميركا عام 2022، ومتخصصة في مشاريع التحول الرقمي والذكاء الاصطناعي في قطاعات حيوية مختلفة، منها: المالية والأكاديمية والصناعية والطبية، بالإضافة إلى البيئة والمناخ، حيث بلغ عددها نحو 35 مشروعاً.
انخفاض في أسعار البنزين وارتفاع في المازوت.. إليكم جدول المحروقات الجديد