هل سنتمكن من تمييز النتاج البشري من الاصطناعي في السنوات المقبلة؟
تاريخ النشر: 23rd, August 2023 GMT
أثارت فيه تطبيقات الذكاء الاصطناعي التوليدي قلقا كبيرا في أغلب دول العالم من استخدامها لإعداد الواجبات المنزلية بدلا من الطلاب وكذلك إعداد أوراق بحثية أو قصص صحفية مزيفة أو حتى استخدامها لانتحال شخصيات مزيفة، كما أظهرت دراسة لجامعة «كوليدج لندن» البريطانية أن أكثر من ربع الأصوات المقلدة باستخدام ما يعرف باسم «التزييف العميق» نجحت في خداع حتى أشد المستمعين حدة وتركيزا.
وبحسب الباحثين في الجامعة فإن أكثر من 500 شخص تم تدريبهم على تمييز الأصوات الحقيقية من المقلدة استطاعوا اكتشاف 73% فقط من الأصوات المقلدة أثناء الدراسة.
وتم إجراء الدراسة باستخدام اللغتين الإنجليزية والصينية (الماندرين)، حيث تشابهت النسب في نتائج اللغتين، رغم أن فريق البحث وجد أن الناطقين باللغة الإنجليزية استطاعوا تمييز الصوت البشري عن الصوت المقلد المولد باستخدام الذكاء الاصطناعي من خلال إيقاع التنفس، في حين أشار الناطقون باللغة الصينية إلى الإيقاع والسرعة وطلاقة الحديث كمعيار للتمييز.
يذكر أنه يتم استخدام الأصوات المقلدة بدقة للاحتيال على الأشخاص والحصول منهم على الأموال من خلال ادعاء المحتال بأنه أحد الأصدقاء أو شركاء لعمل، ويطلب من الضحية تحويل أموال إليه. وأثارت التطورات الأخيرة في تكنولوجيا الذكاء الاصطناعي القلق من إمكانية انتشار عمليات الاحتيال بتقليد الأصوات خاصة مع قدرة تطبيقات الذكاء لاصطناعي على تقليد الأصوات بدرجة دقة عالية.
وحذر فريق الباحثين في الجامعة البريطانية من أنه «نتيجة التطورات التكنولوجية، أصبح من الممكن توليد نسخة شبه حقيقية من صوت أي شخص باستخدام تسجيل لكلمات قليلة بصوته».
وقال الباحثون: إن نتائج الدراسة قد لا تعكس الواقع الفعلي؛ لأن المشاركين في الدراسة حتى من غير المدربين، كانوا يعرفون أنهم جزء من تجربة وبالتالي كانوا أكثر تركيزا على اكتشاف الأصوات المقلدة.
وتتركز أغلب جهود مكافحة تزييف الأصوات حاليا على استخدام أنظمة ذكاء اصطناعي أيضا لاكتشافها، والتي جاء أداؤها على نفس مستوى أداء الأشخاص المشاركين في تجربة الجامعة، لكنها تفوقت مقارنة بالأشخاص الذين لا يعرفون أنهم يشاركون في تجربة لاكتشاف الأصوات المقلدة.
وقال الباحثون إنه في ظل توقع حدوث تطوير وتقدم كبير في تقنيات تقليد الأصوات، المطلوب هو تطوير أدوات أكثر تقدما لاكتشافها.
- هل توصلت اليابان للحل؟ -
لا يشعر اليابانيون بنفس القدر من القلق بعد أن أظهرت إحدى الدراسات العلمية أنه يمكن التمييز بين النصوص والأعمال التي تم إعدادها باستخدام تطبيق الذكاء الاصطناعي الأشهر شات جي.بي.تي والنصوص التي كتبها أشخاص طبيعيون باللغة اليابانية بنسبة دقة بلغت 100%.
وقد قام الباحثون في جامعة ميجيرو بالعاصمة اليابانية طوكيو وجامعة كيوتو للعلوم المتقدمة بمقارنة 72 ورقة بحثية أكاديمية حقيقية، مع عدد مماثل من الأوراق البحثية التي تم إعدادها من خلال تطبيق شات جي.بي.تي، باستخدام تطبيق لاكتشاف النصوص المولدة من تطبيقات الذكاء الاصطناعي.
وأظهرت نتائج الدراسة أن قدرة نظام اكتشاف مؤلفات تطبيقات الذكاء الاصطناعي باللغة اليابانية تزيد بنسبة هائلة عن قدرته على اكتشاف مؤلفات اللغة الإنجليزية التي لم تزد عن 26%. وقال الباحثون في الدراسة: إن تطبيق اكتشاف مؤلفات الذكاء الاصطناعي باللغة الإنجليزية أخطأ في اكتشاف 74% من النصوص المولدة باستخدام التكنولوجيا، وقال إنها مؤلفات بشرية. وقال فريق الباحثين الياباني إنه يمكن إجراء اختبارات مماثلة باستخدام منصات ذكاء اصطناعي توليدي أخرى مثل جوجل بارد وبنج أيه.آي من مايكروسوفت.
كما أظهرت دراسة نشرت مؤخرا أن تطبيقات اكتشاف منتجات الذكاء الاصطناعي يمكن أن تكون «متحيزة» ضد غير الناطقين باللغة الإنجليزية، حيث يتم تصنيف أغلب كتاباتهم باعتبارها من إنتاج تطبيقات ذكاء اصطناعي، على خلاف كتابات الناطقين باللغة الإنجليزية. وأظهرت دراسة أخرى أن الناطقين بكل من اللغة الإنجليزية واللغة الصينية الماندراين عرضة بنفس القدر للسقوط في فخ الأصوات المزيفة المولدة باستخدام الذكاء الاصطناعي.
المصدر: لجريدة عمان
كلمات دلالية: باللغة الإنجلیزیة الذکاء الاصطناعی تطبیقات الذکاء
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
1.5% زيادة في إجمالي المساحة المنزرعة عام 2022 / 2023