تحذير من جعل الذكاء الاصطناعي بديلاً للتفاعل البشري
تاريخ النشر: 10th, August 2024 GMT
تبدي شركة "أوبن إيه آي" المطورة لنموذج "تشات جي بي تي" قلقها من إمكان أن تتسبب الواقعية الكبيرة، في الصوت المرفق ببرنامجها لللذكاء الاصطناعي، في تعلّق المستخدمين بالتفاعلات الآلية على حساب العلاقات البشرية.
وأشارت الشركة، التي تتخذ مقراً في سان فرانسيسكو، في تقرير إلى أن الدردشة مع الذكاء الاصطناعي، كما قد يفعل المرء مع شخص آخر، قد تدفع بالمستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة "جي بي تي- 4 أو" (GPT-4o) من "تشات جي بي تي" قد تفاقم هذا التأثير.
وقالت "أوبن إيه آي"، في التقرير عن العمل الأمني الذي تقوم به على نسخة ChatGPT-4o من برنامج الذكاء الاصطناعي الخاص بها، إن تقنيات التشبيه بالإنسان Anthropomorphization "تتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الاصطناعي".
وحذّرت من أن "هذا الخطر قد يزداد بسبب القدرات الصوتية لـGPT-4o، والتي تسهّل المزيد من التفاعلات الشبيهة بالإنسان مع البرنامج" الآلي.
وقالت شركة "أوبن إيه آي" إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الاصطناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي.
ولفتت إلى أن هذه الحالات تبدو حميدة، ولكن يتعيّن دراستها لمعرفة كيفية تطورها على مدى فترات أطول من الزمن.
وتكهنت "أوبن إيه آي" بأن التفاعل الاجتماعي مع الذكاء الاصطناعي قد يجعل المستخدمين أقل مهارة أو ميلاً للتواصل مع البشر.
وأشار التقرير إلى أن "التفاعل الموسّع مع البرنامج قد يؤثر على المعايير الاجتماعية"، مضيفاً "على سبيل المثال، نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الاصطناعي".
وبحسب "أوبن إيه آي"، فإن قدرة الذكاء الاصطناعي على تذكّر التفاصيل أثناء المحادثة وإنجاز المهام قد تجعل الناس يعتمدون بشكل مفرط على التكنولوجيا.
- بديل عن البشر؟
قال ألون يامين، المؤسس المشارك والرئيس التنفيذي لمنصة "كوبي ليكس" المتخصصة في رصد عمليات السرقة الأدبية من خلال الذكاء الاصطناعي، إن "المخاوف الأخيرة، التي شاركتها أوبن إيه آي حول الاعتماد المحتمل على الخدمة الصوتية في تشات جي بي تي، تشير إلى ما بدأ الكثيرون بالفعل في طرحه: هل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا على التفاعل البشري والعلاقات؟".
وشدد على ضرورة ألا يكون الذكاء الاصطناعي أبداً بديلاً للتفاعل البشري الفعلي.
وقالت "أوبن إيه آي" إنها ستختبر بشكل أكبر كيف يمكن لقدرات الصوت في الذكاء الاصطناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.
وقد تمكنت الفرق، التي اختبرت القدرات الصوتية في نسخة ChatGPT-4o، أيضاً من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، ما أثار مخاوف من إمكان أن يُحمل الذكاء الاصطناعي إلى القيام بذلك بصورة تلقائية. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي تشات جي بي تي الذکاء الاصطناعی أوبن إیه آی جی بی تی إلى أن
إقرأ أيضاً:
أحيانا عبر نظرة العين.. كيف يهدد الذكاء الاصطناعي في الهاتف خصوصيتك؟
بالرغم من أن الذكاء الاصطناعي سهّل حياة البشر بصورة كبيرة، فإن استخدامه لا يزال يثير مخاوف بشأن الخصوصية، خاصة عندما يتعلق الأمر بالهواتف الذكية، التي تحمل أدق تفاصيل حياتنا.
وأوضح الخبير في تكنولوجيا المعلومات رونالد أبي نجم، الإثنين، في حديث إلى قناة "الحرة"، أن تقنيات الذكاء الاصطناعي غيرت كثيرا في أساليب حياة البشر، لافتا في الوقت نفسه إلى أنها قادرة على اختراق خصوصيات الناس، التي وصفها بـ"النفط الجديد" الذي يحقق الكثير من الأرباح للشركات.
وبشأن حماية بيانات الذين يستخدمون برامج الذكاء الاصطناعي، قال: "تلك البرامج قادرة على جمع الكثير من المعلومات والبيانات، وما تقوله بعض الشركات عن قدرتها بشأن حماية المعلومات يدخل في باب التسويق والدعاية".
وزاد: "بعضنا يقول كنت أفكر في منتج أو شيء معين فظهر لي فجأة على منصات التواصل الاجتماعي، والحقيقة أن برامج الذكاء الاصطناعي وصل بعضها إلى قدرة قراءة حركة عين المستخدم وأين يركز بصره خلال تصفح الهاتف، وبالتي يمكن معرفة اهتماماته".
واستشهد أبي نجم بأن شركة أبل تقول إنها تسعى دائما لحماية بيانات مستخدمي أجهزتها، مردفا: "لكن مع التشارك والتداخل مع برنامج (تشات جي بي تي)، يتم نقل البيانات من أجل تقديم خدمات أو معلومات أفضل".
وأضاف: "بمجرد قبولنا سياسة استخدام الهواتف الذكية ومنصات التواصل الاجتماعي ومواقع خدمات أخرى، فإننا نكون قد أعطينا موافقتنا المسبقة على مشاركة بياناتنا، وهناك شركات تعرضت لعقوبات بسبب ذلك، فمثلا ميتا التي تملك موقع فيسبوك، اعترفت بأنها تستخدم بيانات المستخدمين حتى تتمكن من تطوير برامج الذكاء الاصطناعي لديها".
وأردف: "عندما نستخدم منصات التواصل الاجتماعي وخدمات تقدمها مواقع أخرى بشكل مجاني، فإن الثمن الذي ندفعه هو مشاركة البيانات والخصوصية".
واستطرد الخبير التكنولوجي: "البيانات التي تحصل عليها تلك الشركات بات يطلق عليها (النفط الجديد)، وكلما حصلت تلك الشركات على بيانات أكثر، ارتفعت نسب أرباحها وزاد نفوذها بشكل أكبر".
الصين وأميركا.. توقعات باشتداد المنافسة على الذكاء الاصطناعي يتحدث الرئيس المنتخب، دونالد ترامب عن جهود لدعم التفوق الأميركي في سباق التسلح مع الصين في مجال الذكاء الاصطناعي. تقنيات متطورةوفيما يتعلق بتقنياتالذكاء الاصطناعي المتطورة وكيفية تغييرها لحياة البشر، قال أبي نجم إن تلك التقنيات جعلت لكل شخص أساليبه الخاصة في التعامل مع هاتفه الذكي، مشيرا إلى أن الهواتف "أصبحت قادرة على فهم لغات البشر بشكل جيد، وتلقي الأوامر الصوتية وتنفيذها".
وأضاف: "حتى الآن الكثير منا لا يستطيعون الاستفادة من الخدمات التي تتوفر في أجهزتم بفضل تلك التقنيات الحديثة.. وحتى قبل ظهور هذه التقنيات، فإن الناس كانوا يستخدمون 2 بالمئة من مزايا تلك الأجهزة".
نوه الخبير التكنولوجي بأن "المساعدات الصوتية المعتمدة على الذكاء الاصطناعي، باتت أدوات تقنية متقدمة تُسهِّل التفاعل بين المستخدمين وأجهزتهم"، مستطردا بأن قدراتها تختلف حسب إمكانيات الشركة المصنعة أو الداعمة لها.
وشرح قائلا: "المساعد الصوتي سيري (Siri) تطور في الآونة الأخيرة، وأصبح قادرا على تنفيذ أوامر صوتية أكثر، مثل تلخيص المقالات وتسجيل المكالمات وتفريغ النصوص، مما يُحسِّن تجربة المستخدم بشكل ملحوظ، كما أن ذلك المساعد بات مرتبطا بتطبيق (تشات جي بي تي)، وبالتالي هناك إمكانيات أكبر للإجابة على الكثير من الأسئلة والمواضيع".
وزاد: "بالنسبة للمساعد الصوتي بيكسبي (Bixby) من سامسونغ، فقد تم تطويره بحيث يُمكّن المستخدمين من التحكم في هواتفهم وأجهزتهم المنزلية الذكية التي تنتجها تلك الشركة عن طريق الأوامر الصوتية".
حادثة انتحار مراهق.. ما مخاطر "العلاقات الخيالية" مع الذكاء الاصطناعي؟ تصدرت حادثة انتحار مراهق يُدعى سيول سيتزر في ولاية فلوريدا، عناوين الأخبار، حيث يُزعم أن المراهق، البالغ من العمر أربعة عشر عامًا، أنهى حياته بعد ارتباطه العاطفي بشخصية افتراضية على منصة الذكاء الاصطناعي Character.AI. كما تطرق أبي نجم إلى مساعد غوغل (Google Assistant)، وهي خدمة ذكاء اصطناعي متقدمة متاحة على أجهزة أندرويد وأجهزة "غوغل هوم"، موضحا أنها "مفيدة جدا في عمليات البحث عبر محرك غوغل".
وتابع: "بالتالي.. لكل مساعد مزاياه، حسب الشركة التي تنتجه وتدعمه".
ومن مزايا الذكاء الاصطناعي في الهواتف، كما يرى أبي نجم، "تحسين جودة التصوير الفوتوغرافي والفيديو خاصة في ظروف صعبة مثل عدم وجود إضاءة كافية، حيث تعمل تلك البرامج على تحسين جودة الصور ومقاطع الفيديو بشكل تلقائي دون تدخل بشري".
وزاد: "حتى بعد مرحلة التصوير يمكن إدخال الكثير من التطويرات على المنتج، فعل سبيل المثال أصبح حذف أي عنصر في الصورة مثل شخص أو شجرة أو سيارة أمرا سهلا للغاية".
قصف متبادل بين حزب الله وإسرائيل والمدارس تغلق في بيروت