تحذير عاجل من الإفراط في استعمال ChatGPT
تاريخ النشر: 14th, August 2023 GMT
حذرت جهات متخصصة في الأمن السيبراني من الإفراط في استخدام روبوت الدردشة الذي يقدم إجابات سريعة ومطولة "ChatGPT"، وذلك بعد استطلاع رأي أظهر تنامي الاعتماد عليه لدى الموظفين.
وكشف استطلاع للرأي أجري في الولايات المتحدة عن تنامي استخدام الروبوت "ChatGPT" في البيئة العمل، علما بأن الاستطلاع أجري بين 11و 17 يوليو الماضي وشمل 2625 شخصا.
وكانت نتائج الاستطلاع على النحو التالي:
28 بالمئة من إجمالي المشاركين في الاستطلاع قالوا إنهم يستخدمون روبوت الدردشة المدعوم بالذكاء الاصطناعي في العمل غالبا.
25 بالمئة من المشاركين في الاستطلاع قالوا إنهم لا يعرفون إن كان أرباب العمل يسمحون لهم باستخدام الروبوت أم لا.
10 بالمئة فقط قالوا إن أرباب العمل طالبوهم تحديدا بعدم استخدام تقنيات الذكاء الاصطناعي الخارجية في العمل.
قال المشاركون في الاستطلاع إنهم يستعلمون الروبوت من أجل المساعدة في أداء المهام البسيطة مثل كتابة رسالة بالبريد الإلكتروني.
وكانت المخاوف الأمنية بشأن الروبوت "ChatGPT" قد دفعت العديد من الشركات العملاقة مثل "مايكروسوفت" و"غوغل" إلى الحد من استخدمه.
ويقول موقع "geo" إن العديد من المجموعة المختصة بالأمن السيبراني والشركات قد أعربت عن مخاوفها بشأن احتمال تسريب معلومات تخص الشؤون الاستراتيجية والملكية الفكرية.
وكانت شركة "أوبن آي" الأميركية، التي تطور الروبوت، أكدت في مارس الماضي أن هناك ثغرة حدثت فيه، هددت خصوصية المستخدمين.
وأوضحت أن الثغرة تكشف سجل الموضوعات التي طرحها المستخدمون أثناء استعمالهم للروبوت للآخرين، وهو أمر ما كان يجب أن يحدث.
وأرجع المدير التنفيذي للشركة، سام ألتمان، الثغرة إلى مشكلة في مصدر بمكتبة المصادر المفتوحة، التي يعتمد عليها الروبوت.
عن سكاي نيوز عربيةالمصدر: أخبارنا
إقرأ أيضاً:
باحثون يستخدمون الذكاء الاصطناعي لتفنيد نظريات المؤامرة
أشارت دراسة نشرتها مجلة "ساينس"الأميركية مؤخرا إلى نجاح باحثين في تطوير روبوت يعتمد على الذكاء الاصطناعي، للدخول في نقاش مع أشخاص يصدقون نظريات مؤامرة منتشرة على الإنترنت، وإقناعهم بتغيير آرائهم.
الدراسة التي نشرت الخميس، مولها معهد ماساتشوستس للتكنولوجيا بالتعاون مع مؤسسة جون تمبلتون، وأثبتت أنه بإمكان استخدام الذكاء الاصطناعي، أن يلمع صورته التي أصبحت مرتبطة بنشر المعلومات المضللة، كي يتمكن من محاربتها.
وقام فريق الباحثين الذي قاده أستاذ علم النفس في الجامعة الأميركية، توماس كوستيلو، بتصميم روبوت محاور، "تشات بوت"، باستخدام برمجية "تشات جي بي تي 4"، وهي أحدث إصدارات النماذج اللغوية لشركة "أوبن إيه آي"، ومقرها سان فرانسيسكو، شمال ولاية كاليفورنيا.
وفي مرحلة موالية تم تدريب ذلك الروبوت على الحوار والنقاش، باستخدام قاعدة بيانات ضخمة، تتضمن معلومات متنوعة في عدة مجالات، مثل الصحة والتغير المناخي والأفكار السياسية المتطرفة.
شملت الدراسة عينة تتضمن أكثر من ألفي شخص، تم اختيارهم طبقا لمعطيات مركز الإحصاء الوطني الأميركي، حتى تعكس الخصائص الأساسية للمجتمع الأميركي، من النواحي العرقية والثقافية والفئة العمرية وغيرها.
وأجاب المشاركون على سؤال يتعلق بفحوى الأفكار والمفاهيم التي توصف بأنها نظريات مؤامرة مخالفة للواقع، والتي يؤمنون بها. وبناء على تلك الإجابات، دخل الروبوت الجديد في حوار مع جميع الأشخاص المشاركين في الدراسة.
يشير كوستيلو إلى أن حواراً قصيراً مع برنامج محاورة يعتمد على الذكاء الاصطناعي، يمكن أن يقلص مصداقية نظريات المؤامرة، بنسبة قد تصل إلى 20 في المئة. ويأتي هذا التأكيد بعد تحليل لنتائج الحوار الذي خاضه الروبوت مع المشاركين في الدراسة، والآراء التي خرجوا بها بعد انتهاء التجربة.
لكن العلماء أشاروا إلى الحاجة لمزيد من الأبحاث المماثلة، تهدف إلى تصميم نماذج معيارية للذكاء الاصطناعي، بإمكانها تفنيد نظريات المؤامرة التي ظهرت حديثاً أو منذ مدة قصيرة، ولم يتم تداول الكثير من المعلومات حولها. إذ يعتمد نجاح الروبوت المحاور على قاعدة البيانات الضخمة، التي تمكنه من تقديم أدلة ملموسة أثناء النقاش، قصد مواجهة الأفكار المضللة، والمعلومات المزيفة. وهو ما قد يقلل من فرص نجاح الروبوت في تفنيد الأفكار البسيطة أو تلك التي تنتشر بسرعة عقب ظهورها.
تأتي هذه الدراسة بالتزامن مع تصاعد المخاوف من الاستخدام المتزايد للذكاء الاصطناعي لإنتاج محتوى مزيف، يتم نشره للتأثير على الرأي العام. إذ يمكن الذكاء الاصطناعي من جعل عمليات التضليل الإعلامي تدار بطريقة آلية، ما يمنحها زخما أكبر، وانتشاراً أوسع.
وكانت صحيفة نيويورك تايمز أشارت إلى الاستخدام المتزايد للروبوتات المعتمدة على الذكاء الاصطناعي في الحملات الدعائية على وسائل التواصل الاجتماعي.
وتمكنت تلك الروبوتات من التفاعل مع أعداد كبيرة من الأشخاص عبر توجيه أسئلة وتعليقات مباشرة، وخلال حيز زمني قصير، في محاكاة ردود الفعل البشرية.
تتزايد المخاوف أيضاً من استخدام دول وحكومات للذكاء الاصطناعي في حملاتها الدعائية، مثل الاتهامات الموجهة لروسيا وإيران بمحاولة التأثير على الانتخابات الأميركية، والتي أثارت الكثير من الجدل السياسي في الولايات المتحدة.
الأبيض: ماضون في إنشاء شبكة صحية قوية