دراسة: دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين
تاريخ النشر: 20th, May 2024 GMT
أظهرت دراسة أمريكية حديثة أن منصات دردشة الذكاء الاصطناعي تغذي التحيزات الشخصية للمستخدمين، لأنها تميل إلى تقديم إجابات تتفق مع آراء المستخدمين بشكل متكرر.
وقال شيانغ شياو الباحث في جامعة جونز هوبكنز الأمريكية: "لأن الناس تقرأ فقرات ملخصة باستخدام الذكاء الاصطناعي، فإنهم يعتقدون أنهم حصلوا على إجابات موضوعية تستند إلى الحقائق".
لكن شياو وزملاءه في فريق البحث يرون أن هذه الافتراضات خطأ بدرجة كبيرة، في ضوء دراسة نتائج اختبارات شملت 272 شخصاً طلبوا منهم استخدام محركات بحث الإنترنت العادية أو الذكاء الاصطناعي للمساعدة في كتابة قصص إخبارية في الولايات المتحدة عن موضوعات، مثل الرعاية الصحية أو القروض الدراسية.
وبحسب الدراسة، فإن تأثير ما يعرف باسم "غرفة الصدى" يزيد عندما يطلب الأشخاص المعلومات من منصات ذكاء اصطناعي تستخدم نماذج لغوية كبيرة مقارنة بطلب المعلومات من محركات البحث التقليدية على الإنترنت.
وقال شياو قبل إعلان نتائج الدراسة أمام مؤتمر جمعية أجهزة الكمبيوتر حول العوامل الإنسانية في أنظمة الحوسبة: "حتى إذا لم تكن منصات المحادثة مصممة لكي تكون منحازة، فإن إجاباتها (على أسئلة المستخدم) تعكس انحيازات أو ميول الشخص، الذي يطرح الأسئلة. لذلك سيحصل الأشخاص على الإجابات التي يريدون سماعها" حتى لو لم تكن هي الإجابات المثالية.
يذكر أنه تم نشر نتائج هذه الدراسة في دورية "سيل برس" العلمية يوم 10 مايو (أيار) الحالي، وأظهرت أنه يمكن استخدام الذكاء الاصطناعي في الخداع في مجموعة كبيرة من المواقف بدءاً من لعبة البوكر وحتى المحاكيات الدبلوماسية.
المصدر: أخبارنا
كلمات دلالية: الذکاء الاصطناعی
إقرأ أيضاً:
ديب سيك الصيني يُذهل العلماء ويتحدى عمالقة الذكاء الاصطناعي العالمي
أثار نموذج اللغة الكبير "ديب سيك-R1"، الذي تم تطويره في الصين، حماسة العلماء باعتباره نموذجاً مفتوحاً ومتاحاً للبحث، ومنافساً قوياً لنماذج الذكاء الاصطناعي في مجال "الاستدلال" مثل نموذج OpenAI "o1".
ووفقاً لتقرير نشرته مجلة Nature العلمية، يُجري هذا النموذج عمليات الاستنتاج خطوة بخطوة بأسلوب مشابه للتفكير البشري، مما يجعله أكثر كفاءة من النماذج السابقة في حل المشكلات العلمية واستخدامه في الأبحاث.
وأظهرت الاختبارات الأولية للنموذج، التي صدرت في 20 يناير، أن أداءه في مهام الكيمياء والرياضيات والبرمجة يماثل أداء النموذج "o1"، الذي لاقى استحسان الباحثين عند إطلاقه في سبتمبر الماضي.
يتميز "ديب سيك-R1" أيضًا بكونه نموذجا مفتوحا يمكن للباحثين دراسته وتطويره. النموذج متاح بموجب ترخيص MIT، مما يتيح استخدامه بحرية، ولكن لا يعتبر مفتوح المصدر بالكامل لأن بيانات تدريبه لم تُنشر.
تبلغ تكلفة استخدام النموذج عبر واجهته حوالي جزء من ثلاثين من تكلفة تشغيل "o1".
كما طورت الشركة نسخًا مصغرة من النموذج لتمكين الباحثين ذوي الموارد المحدودة من استخدامه، ما يجعل تكاليف التجارب أقل بشكل كبير.
اقرأ أيضاً.. تطبيقات الذكاء الاصطناعي تحطم الأرقام القياسية.. إنفاق يتجاوز المليار دولار في 2024
تحديات النموذج
يأتي "ديب سيك-R1" في إطار موجة من نماذج اللغة الكبيرة الصينية. وتواجه الصين تحديات متعلقة بالقيود على تصدير الشرائح المتقدمة للذكاء الاصطناعي، مما جعل الشركة تبتكر حلولاً تقلل من الاعتماد على موارد ضخمة.
أسلوب التفكير المتسلسل
يعتمد النموذج على أسلوب "سلسلة التفكير" لتحسين قدرته على حل المهام المعقدة، مع استخدام التعلم التعزيزي لتدريبه على الوصول إلى الإجابات الصحيحة.
اقرأ أيضاً.. هل يتفوق "O3" على البشر؟ قفزة جديدة تُعيد تعريف الذكاء الاصطناعي
حقق "ديب سيك-R1" نتائج مبهرة في الاختبارات، حيث سجل نسبة 97.3% في مجموعة مسائل الرياضيات MATH-500 وتفوق على 96.3% من المشاركين البشر في مسابقة Codeforces، ما يضعه على قدم المساواة مع "o1".
النموذج مفتوح المصدر جزئياً، مما يمنح الباحثين فرصة لفهم كيفية عمله بشكل أفضل، ويساعد في تفسير آلية التفكير التي يتبعها.
إسلام العبادي(أبوظبي)
محافظ المنيا يشهد انطلاق الملتقى الأول للمبدع الصغير