الروبوتات تكذب وتغش تحت الضغط
تاريخ النشر: 4th, January 2024 GMT
موسكو ــ وكالات
أظهرت دراسة جديدة أنه تماماً مثل البشر، فإن روبوتات الدردشة الذكية اصطناعياً مثل ChatGPT ستغش وتكذب عليك إذا «ضغطت» عليها، حتى لو تم تصميمها لتكون صادقة وشفافة. وظهر هذا السلوك الخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصائح حول «التداول الداخلي»، ثم كلف بجمع الأموال لمؤسسة قوية.
وقام الباحثون بتغذية GPT-4 بمجموعة من المطالبات النصية لإنشاء بيئة محاكاة. ومنح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية، وتقديم التحديثات للمديرين في الشركة. وتفاعل الباحثون مع الذكاء الاصطناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه وأعطوا النموذج نصيحة وانتظروا ليروا كيف سيتصرف. وفي نحو 75 % من الحالات، عندما واجه GPT-4 هذه الشروط، نفذ صفقة تجارية بناءً على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي نحو 90 % من الحالات، تضاعف الكذب.
المصدر: صحيفة البلاد
كلمات دلالية: الروبوتات
إقرأ أيضاً:
الذكاء الاصطناعي دربنا للسعادة أم للتعاسة؟
مؤيد الزعبي
من الأسئلة التي أجد بأنها جوهرية في وقتنا الحالي، هل الذكاء الاصطناعي دربنا للسعادة أم للتعاسة؟ وأنا اسأل هذا التساؤل عزيزي القارئ بعد تجربتنا الإنسانية مع التكنولوجيا المتمثلة بوسائل التواصل الاجتماعي التي جعلتنا أتعس للأسف رغم أنها وفرت لنا حاجة إنسانية مهمة متمثلة بالتواصل، إلّا أنها جعلت البشر أكثر تعاسة.
أطرح هذا التساؤل في وقت بتنا ندرك أنه بحلول عام 2030 من المتوقع أن يكون مرض الاكتئاب هو المرض الأول من حيث أعداد المصابين عالميًا، واليوم مع دخولنا عصر الذكاء الاصطناعي فهل هذه التكنولوجيا هي دربنا للسعادة أم للتعاسة؟، قبل أن تشرع في قراءة هذا الطرح أطلب منك عزيزي القارئ أن تأخذ نفسًا عميقًا وتجيب بنفسك على تساؤلي ها هنا، هل أجبت نفسك إذن حان الوقت لنشرع معًا في إكمال هذا الطرح.
ومنذ قدم البشرية ونحن نبحث كبشر عن السعادة ومصادرها وتعريفاتها، ورغم ما وصلنا له من تقدم في فهم الإنسان البشري، إلا أنه ما زال محيرًا أن نفهم السعادة وما هي دروبها، فهناك شخص يجدها في صحته الجسدية وشخص آخر يجدها في صحته النفسية، وشخص يجدها في إنجازاته ومخزونه العلمي والعقلي وآخر يجدها في مخزون جيبته وأرصدة حساباته البنكية، وشخص يجدها بالرضا وقبول القدر وآخر يجدها في تحدي الواقع وتغييره، إشكالية عميقة لا يمكن فهمها أو تحديدها بشكل دقيق. ولهذا أجد في محاولتنا لاستنجاد الذكاء الاصطناعي ليبحث لنا عن معنى السعادة في كل ما كُتب في تاريخنا الإنساني ليجد لنا تعريفًا محددًا، وهذه طريقة أجدها مناسبة جدًا لنجد تعريفًا محددًا للسعادة نقارنه بتعريف أرسطو الذي كان يجد السعادة بأنها الهدف الأسمى للحياة.
هناك اتجاه آخر قد يخدمنا لنفهم السعادة وندركها أنه الآن ومع انتشار الساعات الذكية التي باتت تقيس لك نبضات قلبك ونسبة الاوكسجين في الدم ونسبة نشاطك وتقيس تحركاتك وخطواتك ولحظات سكونك وحتى نومك أجد بأننا يمكن استخدامها لتقيس لنا درجة سعادتنا أو تعاستنا بناء على معلومات دقيقة حول أجسامنا والتي هي انعكاس لأحاسيسنا أو حتى لحالتنا النفسية، وقد قام خبراء من شركة هيتاشي بتطوير تجربة مماثلة تقوم بقياس حركة الإنسان ومدى نشاطه وسرعة تحركاته ولحظات توقفه وبناء على تحليلات الذكاء الاصطناعي تقوم بقياس مدى سعادتك أو تعاستك في هذه اللحظة، صحيح أن الشركات المصنعة للساعات باتت تختبر مثل هذه المميزات في أن تقيس لك درجة توترك بناء على قراءاتك الحيوية إلا أن التجربة تحتاج سنوات من التطوير لنصل لطريقة مثلى تكشف لنا حقيقة فيما إذا كنا سعداء أم تعساء.
الأمر الأهم الذي يوعز له الكثيرون بأنه سيعالج الكثير من مشاكلنا النفسية يتمثل بتطبيقات الذكاء الاصطناعي التوليدي والتي ستكون حلًا لكل فاقدي التواصل وستساعدهم في التحدث والتخاطر، ولكن ما قولنا أن سابق تجربتنا كبشر مع وسائل وجدت لنتواصل وأقصد وسائل التواصل الاجتماعي بأنها أصبحت سببًا لتعاستنا فكيف سيكون حالنا ونحن نخاطب نماذ ذكاء اصطناعي توليدي وليس بشر حقيقيون، وكيف سيكون حالنا لو انعزلنا عن محيطنا وانخرطنا لنتحدث مع روبوتات الدردشة أو الروبوتات التي ستتمثل على هيئة بشر في قادم الأيام، كيف سيكون حالنا عندما نصبح نُعبر عن أحاسيسنا ومشاعرنا لنماذج إلكترونية نجدها أقرب لنا من بشر مثلنا مثلهم، هل سنصل للسعادة؟، هذا هو جوهر التساؤل الحقيقي عزيزي القارئ والذي حتى الآن لا يستطيع أي شخص أن يجيبك عليه لأن تجربتنا مازالت ناقصة فلا نحن طورنا نماذج ذكاء اصطناعي بديلة عن البشر في التواصل ولا نحن اختبرناها واختبرنا طريقة تعاطيها مع الأمور.
تخيل أن يدفعنا الذكاء الاصطناعي من خلال برمجته لأن ننتحر مثلًا، ربما ليس مقصودًا أن يُبرمج ليجعلك تنتحر ولكن لكي يختصر عليك الألم، فيكون حله أن تُقدم على هذا الأمر الشنيع، وفي المقابل ربما تكون هذه الأنظمة هي الكاشفة والمكتشفة للكثير من مشاكلنا النفسية والمتنبئة بها قبل أن تصبح مشكلة أكبر وتحاول مساعدتنا لتخطيها أو تجاوزها أو حتى علاجها؛ إذن الصورة ليست كاملة حتى الآن والأمر لا يعتمد على الذكاء الاصطناعي لوحده بل يعتمد على تعامنا معه نحن البشر.
الخلاصة- عزيزي القارئ- أننا لو انخرطنا بالذكاء الاصطناعي وتجهلنا تعريف أهم من السعادة وهو تعريف الإنسان نفسه لنفسه فحينها سنخلق لنا مشكلة أكبر بأن نفقد بوصلتنا مرة أخرى فبدلًا من أن نصنع نظامًا يمكنه أن يجعل حياتنا أفضل وأسهل وأسرع فسنحوله لأداة تجلب لنا السعادة، ولكن إذا أدركنا أن كل ما نصنعه ونطوره يجب أن يخضع لمقياس واحد هو أن يجعل حياتنا "كبشر" أكثر سعادة وصحة ويسر وأنا اقولها كبشر لا كحومات ولا كشركات ولا كأنظمة إذا صنعناه للشر فحينها سيكون الذكاء الاصطناعي دربنا لحياة سعيدة فهو سيقدم لنا الحلول والتحليلات ولكن بشرط أن نُحسن استخدامه، إما إذا اسئنا استخدامه فسنعيد التجربة مرة أخرى ونجعل ما صنعناه ليطورنا يصبح أداة تهدمنا.
رابط مختصر
سعر الذهب اليوم الخميس 19-12-2024 بمنتصف التعاملات.. تحديث عيار 21