خبير روسي يوضح مدى خطورة الشبكات العصبية على سمعة الإنسان
تاريخ النشر: 14th, August 2024 GMT
روسيا – أوضح خبير تكنولوجيا المعلومات الروسي روديون قديروف إن الشبكات العصبية يمكن أن تنتج بيانات خاطئة.
أدرجت الشبكة العصبية ChatGPT الأسبوع الماضي أستاذ القانون جوناثان تورلي على قائمة المحامين المزعوم تورطهم في قصة غير قانونية، لكن هذه الاتهامات باطلة، والمعلومات مأخوذة من مقال غير موجود في صحيفة “واشنطن بوست”.
وأشار المتخصص إلى أن مشكلة المحامي “ليست مجرد حادثة معزولة”، بل هي “مثال على قدرة النماذج اللغوية الحديثة، مثل ChatGPT من OpenAI، توليد معلومات كاذبة تعرض سمعة الناس وحتى حياتهم للخطر”. ولاحظ قديروف أن الأمر المثير للقلق بشكل خاص هو أن “الهلوسة” المتعلقة بالشبكات العصبية أصبحت طبيعية وتنشأ بسبب خصوصيات عملها.
وأوضح الخبير أن مثل هذه الإخفاقات تحدث عندما تبدأ نماذج الذكاء الاصطناعي في محاولة للإجابة على أي طلب، بـ”اصطناع” المعلومات. ويحدث هذا عندما يتطلب الأمر حجما معينا من المعلومات، بينما لا تحتوي الشبكة العصبية على بيانات كافية لإكماله.
وأوضح المتخصص: “على سبيل المثال، إذا طلبت من شبكة عصبية ذكر 10 أسماء مرتبطة بحدث ما، فيمكنها أن تأتي بسبعة خبراء، حتى لو كانت على علم في الواقع بثلاثة أسماء فقط”.
ولا تقتصر المشكلة المتعلقة بهذا النوع من المعلومات الخاطئة على النص فقط. وفي مارس الماضي، نشرت تصور يُزعم أنها تُظهر اعتقال الرئيس الأمريكي السابق دونالد ترامب. وتم إنشاء هذه الصور المزيفة باستخدام الذكاء الاصطناعي، وبعد ذلك انتشرت على شبكات التواصل الاجتماعي.
لقد سلط الخبير الضوء أيضا على عدم وجود ضوابط فعالة من جانب منصات التواصل الاجتماعي، فضلا عن الحاجة إلى معايير ولوائح أكثر صرامة لاستخدام الذكاء الاصطناعي في مثل هذه المجالات الحساسة”. ودعا الناس إلى الاهتمام بجودة المحتوى والانتباه إلى التفاصيل لأن جودة النسخة المزيفة غالبا ما تكون أقل من جودة المحتوى الأصلي.
المصدر: كومسومولسكايا برافدا
المصدر: صحيفة المرصد الليبية
إقرأ أيضاً:
الذكاء الاصطناعي التوليدي: هل يمكن للروبوتات طلب المساعدة مثل البشر؟
في ظل الانتشار المتزايد للذكاء الاصطناعي التوليدي في مختلف المجالات، من الصحة إلى الصناعة، أصبحت الشركات تعمد بشكل متزايد إلى استخدام هذه التكنولوجيا لتوفير الجهد والمال.
وفي هذا السياق، أعرب فيك سينج، نائب رئيس شركة مايكروسوفت، عن أهمية تطوير روبوتات الدردشة لتتعلم طلب المساعدة عندما تكون غير قادرة على أداء المهام الموكلة إليها.
هل يمكن للروبوتات طلب المساعدة؟وفقًا لما ذكره سينج، فإن أدوات الذكاء الاصطناعي التوليدي، مثل الروبوتات الذكية، يجب أن تكون قادرة على الاعتراف عندما لا تتمكن من تنفيذ مهمة معينة وطلب المساعدة.
يساهم هذا في تحسين فعالية هذه الأدوات ويقلل من الأخطاء التي قد تحدث عند محاولة تقديم إجابات غير دقيقة أو "هلوسة" - وهي ظاهرة حيث يخترع الذكاء الاصطناعي إجابات غير منطقية أو غير صحيحة.
مشكلة "الهلوسة" في الذكاء الاصطناعيعلى الرغم من التقدم الكبير في تكنولوجيا الذكاء الاصطناعي، لا تزال هناك مشاكل تتعلق بـ "الهلوسة" أو تقديم إجابات خاطئة.
كما أشار مارك بينيوف، الرئيس التنفيذي لشركة Salesforce، إلى أن العديد من العملاء يشعرون بالإحباط بسبب تعقيدات البرامج مثل "Copilot" التابعة لمايكروسوفت.
جهود البحث لتحسين الذكاء الاصطناعيأوضح سينج أن الباحثين يعملون على تحسين قدرة روبوتات الدردشة على طلب المساعدة عند الحاجة.
حتى إذا كان النموذج بحاجة إلى اللجوء إلى الإنسان في نصف الحالات، فإن هذا لا يزال يوفر الوقت والمال للشركات.
تأثير الذكاء الاصطناعي على الأعمالفي ذروة الاهتمام بالذكاء الاصطناعي، كانت الشركات الناشئة وعدت بأنظمتها المتقدمة سترتقي بالإنسانية.
كما أشار سام ألتمان، رئيس OpenAI، إلى أن الذكاء الاصطناعي يمكن أن يكون له تأثير إيجابي كبير.
من جهة أخرى، أكدت شركة مايكروسوفت أن برنامج "Copilot" يمكن أن يجري الأبحاث نيابة عن مندوبي المبيعات، مما يوفر الوقت والجهد في الاتصال بالعملاء.
وذكر سينج أن شركة Lumen للاتصالات، على سبيل المثال، قد وفرت نحو 50 مليون دولار سنويًا بفضل استخدام هذه التكنولوجيا.
مستقبل الذكاء الاصطناعي في مراكز الاتصالأعلن بعض قادة الشركات الكبرى، مثل كيه كريثيفاسان، رئيس شركة TCS الهندية، أن الذكاء الاصطناعي التوليدي قد يقضي على الحاجة لمراكز الاتصال التقليدية.