تحذير من جعل الذكاء الاصطناعي بديلاً للتفاعل البشري
تاريخ النشر: 10th, August 2024 GMT
تبدي شركة "أوبن إيه آي" المطورة لنموذج "تشات جي بي تي" قلقها من إمكان أن تتسبب الواقعية الكبيرة، في الصوت المرفق ببرنامجها لللذكاء الاصطناعي، في تعلّق المستخدمين بالتفاعلات الآلية على حساب العلاقات البشرية.
وأشارت الشركة، التي تتخذ مقراً في سان فرانسيسكو، في تقرير إلى أن الدردشة مع الذكاء الاصطناعي، كما قد يفعل المرء مع شخص آخر، قد تدفع بالمستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة "جي بي تي- 4 أو" (GPT-4o) من "تشات جي بي تي" قد تفاقم هذا التأثير.
وقالت "أوبن إيه آي"، في التقرير عن العمل الأمني الذي تقوم به على نسخة ChatGPT-4o من برنامج الذكاء الاصطناعي الخاص بها، إن تقنيات التشبيه بالإنسان Anthropomorphization "تتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الاصطناعي".
وحذّرت من أن "هذا الخطر قد يزداد بسبب القدرات الصوتية لـGPT-4o، والتي تسهّل المزيد من التفاعلات الشبيهة بالإنسان مع البرنامج" الآلي.
وقالت شركة "أوبن إيه آي" إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي.
ولفتت إلى أن هذه الحالات تبدو حميدة، ولكن يتعيّن دراستها لمعرفة كيفية تطورها على مدى فترات أطول من الزمن.
وتكهنت "أوبن إيه آي" بأن التفاعل الاجتماعي مع الذكاء الاصطناعي قد يجعل المستخدمين أقل مهارة أو ميلاً للتواصل مع البشر.
وأشار التقرير إلى أن "التفاعل الموسّع مع البرنامج قد يؤثر على المعايير الاجتماعية"، مضيفاً "على سبيل المثال، نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الاصطناعي".
وبحسب "أوبن إيه آي"، فإن قدرة الذكاء الاصطناعي على تذكّر التفاصيل أثناء المحادثة وإنجاز المهام قد تجعل الناس يعتمدون بشكل مفرط على التكنولوجيا.
- بديل عن البشر؟
قال ألون يامين، المؤسس المشارك والرئيس التنفيذي لمنصة "كوبي ليكس" المتخصصة في رصد عمليات السرقة الأدبية من خلال الذكاء الاصطناعي، إن "المخاوف الأخيرة، التي شاركتها أوبن إيه آي حول الاعتماد المحتمل على الخدمة الصوتية في تشات جي بي تي، تشير إلى ما بدأ الكثيرون بالفعل في طرحه: هل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا على التفاعل البشري والعلاقات؟".
وشدد على ضرورة ألا يكون الذكاء الاصطناعي أبداً بديلاً للتفاعل البشري الفعلي.
وقالت "أوبن إيه آي" إنها ستختبر بشكل أكبر كيف يمكن لقدرات الصوت في الذكاء الاصطناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.
وقد تمكنت الفرق، التي اختبرت القدرات الصوتية في نسخة ChatGPT-4o، أيضاً من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، ما أثار مخاوف من إمكان أن يُحمل الذكاء الاصطناعي إلى القيام بذلك بصورة تلقائية. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي تشات جي بي تي الذکاء الاصطناعی أوبن إیه آی جی بی تی إلى أن
إقرأ أيضاً:
الذكاء الاصطناعي يصل باهتاً إلى "آيفون 16".. إليك ملخص تجربته
قدمت شركة "أبل" الإصدار الجديد من هاتفها المنتظر "آيفون 16" قبل ساعات، والذي صرّح الرئيس التنفيذي للشركة تيم كوك بأنه تم إنتاجه خصيصاً للتعامل من آليات الذكاء الاصطناعي "من الأساس".
وخصصت الشركة أكثر من 15 دقيقة في تسويقها خلال حدث إطلاق آيفون 16 للحديث عن ذلك. وقال كوك: "إنه يمثل بداية عصر جديد ومثير".
يدور كل شيء في هاتف آيفون 16 حول الذكاء الاصطناعي، ولكن في الاختبارات التي أجراها بعض الخبراء على نسخة ما قبل الإصدار من البرنامج، تم ارتكاب عدد من الأخطاء.
وبحسب صحيفة "واشنطن بوست"، فإنه عند اختبار البرنامج وجدوه مفيداً في بعض الأحيان، وفي أحيان أخرى يكون "غريباً إلى حد الضحك"، مثل تعديله صورة شخصية لتجعل صاحبها "أصلعاً".
وفي المعاينة المستخدمة، قام Apple Intelligence بقدر "غير مريح" من اختلاق الأشياء. ويحدث هذا عادةً مع المعلومات ذات الأهمية المنخفضة مثل ملخصات التنبيهات من التطبيقات،
كما أن التطبيق لا يفهم الفكاهة، لذا فإن ملخصاته للدردشات مع الأصدقاء والعائلات أو الصور قد تكون سخيفة. ذات مرة، وصف التطبيق صورة لطفل بأنها "مجموعة من الأشخاص في غرفة ذات جدران بيضاء".
وتصبح الأمور أكثر خطورة عندما يخترع Apple Intelligence معلومات خاطئة. فقد اقترح إعادة صياغة رسالة إلكترونية كتبها ممثل الصحيفة إلى جيرانه، والتي أغفلت سؤالاً رئيسياً كان يحاول إقناعهم بالإجابة عليه.
والأسوأ من ذلك أن أخطاءه كانت تدفع في بعض الأحيان إلى اتخاذ الإجراء الخطأ.
على سبيل المثال، قام ذات مرة بتلخيص رسالة بريد إلكتروني ورفعها إلى حالة "الأولوية" وقال إن صاحب الجهاز بحاجة إلى تغيير كلمة المرور الخاصة به على الفور.
وفي الواقع هذا ليس ما قاله البريد الإلكتروني، لقد حذّر فقط من تغيير كلمة المرور إذا لم يكن مسؤولاً عن تسجيل الدخول الأخير.
ورغم أن شركة أبل ردت على ممثل الصحيفة بأن برنامج الذكاء الاصطناعي الذي كان يختبره، وهو إصدار المعاينة الثالث للمطورين لنظام التشغيل iOS 18.1، ليس مكتملًا ولا يمثل بالضرورة المنتج النهائي، إلا أن "واشنطن بوست" أكدت تشككها في اكتمال قدرات الذكاء الاصطناعي للهاتف الجديد.
وبررت ذلك بسببين؛ الأول هو أن شركة أبل عملت لسنوات على تحريف الحقيقة بشأن القدرات الحقيقية لأداة الذكاء الاصطناعي الحالية، "سيري".
وثانياً، أن اختبارات العديد من منتجات الذكاء الاصطناعي التوليدي التي أثارت ضجة كبيرة خذلت المستخدمين بمعلومات غير موثوقة أو معلومات وهمية.
وبعيداً عن الضجة التسويقية، أشارت "واشنطن بوست" إلى أن شركة أبل تعلم أن ميزة Apple Intelligence ليست جاهزة بالكامل بعد، إذ تقول الشركة إن إصداراً به بعض الميزات سيتوفر "في مرحلة تجريبية" في أكتوبر (تشرين الأول)، لأولئك الذين يختارون تشغيلها. وقد لا تصل جميع ميزات Apple Intelligence الموعودة إلى مستخدمي iPhone 16 و15 Pro العاديين قبل أسابيع أو أشهر.
ألا توجد مميزات؟
ورغم الإشارة لعدم جاهزية الذكاء الاصطناعي التوليدي بشكل كامل بعد، إلا أن Apple Intelligence تعد طريقة أكثر ذكاءً وأماناً لجلب الذكاء الاصطناعي إلى منتج استهلاكي عام، مقارنة بما قدمته شركات تقنية كبيرة أخرى، لأنها ليست مجرد روبوت محادثة يعرف كل شيء موجود على هاتفك.
وفي أفضل حالاتها، تدمج Apple Intelligence قدراتها في التطبيقات الموجودة بطرق صغيرة لتسريع المهام.
وخلال الاختبار التجريبي، كانت هذه الميزة مفيدة في كثير من النواحي. على سبيل المثال، في تطبيق "الصور"، تتيح لك ميزة "ذكاء Apple" استخدام لغة أكثر طبيعية للبحث عن صور من مناسبة معينة. أو يمكنك تسليط الضوء على جزء من الصورة تجده مزعجاً، وستستخدم ميزة "الذكاء الاصطناعي التوليدي" لإخفائه.
الطريقة التي ستلاحظ بها ذكاء Apple في العمل هي محاولة تلخيص الكم الهائل من المعلومات الواردة.
على سبيل المثال، يعرض تطبيق Mail التقليدي منذ فترة طويلة سطرين من المعاينة لكل بريد إلكتروني لمساعدتك في تحديد ما إذا كنت تريد فتحه أم لا. ومع ذكاء Apple، أصبح هذان السطران الآن عبارة عن ملخص مكتوب بواسطة الذكاء الاصطناعي، والذي يمكن أن يمنحك قراراً أفضل بما إذا كنت تريد فتح البريد الإلكتروني أم لا. (يعرف أنه يجب عليك تخطي "أتمنى أن تكون بخير").
المشكلة التي لا مفر منها هي أن Apple Intelligence تخطئ أحياناً في تفسير معاني النص، أو عكس أسماء الأشخاص، أو التقاط الصور في اتجاه غير سار.
ويحدث هذا لأن الأخطاء الواقعية، التي تحاول الصناعة التقليل من شأنها باعتبارها "هلوسة"، متأصلة في هذا الجيل من تكنولوجيا الذكاء الاصطناعي.
والذكاء الاصطناعي التوليدي ليس مصمماً للحقيقة، بل إنه مصمم للبحث عن الأنماط وإعادة إنشائها، إذ تواجه أداة جيميني من غوغل وأداة تشات جي بي تي من أوبن إيه آي نفس المشكلة.
وبالنسبة لمستخدمي iPhone، فإن السؤال هو مدى قدرة Apple على احتواء الأخطاء في الأماكن التي لا تهم حقاً.
ورغم ذلك، هناك بعض الأسباب التي تدعو إلى التفاؤل. فحتى لو لم تتمكن أبل من التخلص من الأخطاء، فإنها قادرة على تقليص الأماكن والأنواع الأكثر خطورة من المعلومات التي يخطئ فيها ذكاء أبل الاصطناعي.
هذا بالإضافة إلى أن الأخطاء المتكررة قد تجعل المستخدمين يشعرون بأن هواتفهم الذكية أقل ذكاءً، وهو ما يتشابه مع ما يشعر به الكثيرون بالفعل إزاء عدم كفاءة سيري.
وفقاً للصحيفة، فربما يجب التريث في شراء الهاتف الجديد حتى تتوصل Apple Intelligence إلى التوازن الصحيح بين المفيد وغير المهم، وحتى نفهم تأثيره على عمر البطارية.
وحتى ذلك الحين، من المرجح أن يخدمك طراز أقدم أو iPhone مجدد بشكل جيد ويكلف أقل. لأنه في العام المقبل، سيكون لديهم هاتف iPhone أفضل لبيعه لك بالتأكيد.
بعد افتتاح جامعة باديا.. أحمد موسى: الدولة لم تبخل على التعليم والصحة