خبير تقني يحذّر من مخاطر الذكاء الاصطناعي
تاريخ النشر: 19th, August 2023 GMT
حذّر خبير الإنترنت سيمون نيومان مستخدمي الأدوات الذكية من مخاطره، على الرغم من اعترافه بفوائد الذكاء الاصطناعي.
وقال نيومان في حوار أجرت صحيفة “يو إس صن” للتحدث عن مخاطر الذكاء الاصطناعي، أنه يجب على مستخدمي الأدوات الذكية أن يكونوا على دراية بثلاثة مخاطر رئيسية.
أولا: التزييف العميق، بدأت تقنية Deepfakes كمقاطع فيديو تم إنشاؤها بواسطة الذكاء الاصطناعي وتستخدم لانتحال شخصية شخص ما، ولكن غالبًا ما يستخدم المصطلح الآن لتضمين الصور ومقاطع الصوت أيضًا، وهذه المنتجات المقلدة المقنعة للغاية تتحسن بمرور الوقت.
ثانيا: معالجة البيانات حيث أوضح سايمون بأن الذكاء الاصطناعي أيضًا له آثار على الخصوصية، حيث إذا قدمت معلومات شخصية إلى روبوت محادثة يعمل بالذكاء الاصطناعي، فإنك تخاطر بتسريب هذه المعلومات، لذا كن حذرًا جدًا عند الدردشة باستخدام الذكاء الاصطناعي.
ثالثا: الغش والقرصنة، الخطر الثالث هو عندما يستخدم المحتالون الذكاء الاصطناعي لجعل هجماتهم أسرع وأكثر كفاءة وأكثر صعوبة في إيقافها لاستهداف مستخدمي الأجهزة، ولذلك من المهم تحديث أجهزتك وتطبيقاتك قدر الإمكان حتى تحصل على أفضل حماية ضد هجمات المجرمين.
المصدر: الوحدة نيوز
كلمات دلالية: الامم المتحدة الجزائر الحديدة السودان الصين العالم العربي العدوان العدوان على اليمن المجلس السياسي الأعلى المجلس السياسي الاعلى الوحدة نيوز الولايات المتحدة الامريكية اليمن امريكا ايران تونس روسيا سوريا صنعاء عاصم السادة عبدالعزيز بن حبتور عبدالله صبري فلسطين لبنان ليفربول مجلس الشورى مجلس الوزراء مصر نبيل الصوفي الذکاء الاصطناعی
إقرأ أيضاً:
الذكاء الاصطناعي مجرد وهم.. باحثون يكشفون السبب
تابع أحدث الأخبار عبر تطبيق
في تطور جديد يعيد تقييم فعالية الذكاء الاصطناعي، أعلن باحثون بإحدى شركات التكنولوجيا العملاقة أن الذكاء الاصطناعي، وخصوصًا النماذج اللغوية الكبيرة، يُظهر سلوكًا يُوحي بالذكاء ولكنه في الواقع مجرد وهم، هذه النماذج تُظهر قدرة على الاستجابة والتفاعل مع المستخدمين، إلا أنها تفتقر إلى التفكير المنطقي الحقيقي وفهم السياق العميق.
ووفقا لموقع techxplore أن الباحثون يقولون رغم التقدم الكبير الذي حققته تطبيقات الذكاء الاصطناعي، توضح دراسة باحثي شركة التكنولوجيا أن هذه التقنيات ما زالت بعيدة عن تحقيق ذكاء حقيقي، والنماذج الحالية تعتمد على تقنيات تحليل الأنماط بدلاً من الفهم العميق أو التفكير المنطقي، مما يجعلها أداة مفيدة ولكنها ليست بديلاً عن العقل البشري، ونُشر البحث عبر منصة arXiv preprint.
نقاط البحث الأساسية:
• أجريت الدراسة على نماذج لغوية كبيرة، مثل تلك المستخدمة في تطبيقات الذكاء الاصطناعي الشائعة.
• أظهرت النتائج أن هذه النماذج لا تفهم الأسئلة المطروحة فهمًا حقيقيًا، بل تعتمد على بنية الجمل والخوارزميات المكتسبة.
الفرضية الأساسية للدراسة:
افترض الباحثون أن الذكاء الحقيقي، سواء للكائنات الحية أو الآلات، يتطلب القدرة على:
1. التمييز بين المعلومات ذات الصلة وغير ذات الصلة: مثال ذلك، إذا سأل طفل والده عن عدد التفاح في حقيبة تحتوي على تفاح صغير الحجم، يمكن للعقل البشري تجاهل حجم التفاح كعامل غير ذي صلة بالإجابة.
2. إظهار التفكير المنطقي: القدرة على استخلاص الاستنتاجات الصحيحة بناءً على المعطيات المتاحة.
اختبار النماذج اللغوية الكبيرة:
• استخدم الباحثون مئات الأسئلة التي استُخدمت سابقًا لتقييم قدرة النماذج اللغوية.
• أضيفت معلومات غير ذات صلة إلى هذه الأسئلة لقياس قدرة الذكاء الاصطناعي على تجاهلها.
• النتيجة: أدى وجود معلومات زائدة إلى إرباك الذكاء الاصطناعي، مما نتج عنه إجابات خاطئة أو غير منطقية.
نتائج البحث:
1. عدم الفهم الحقيقي للسياق
النماذج اللغوية الكبيرة لا تفهم الأسئلة فهمًا عميقًا. بدلاً من ذلك، تستند إلى التعرف على الأنماط وتوليد إجابات تعتمد على البيانات السابقة.
2. إجابات مضللة
أعطت النماذج إجابات بدت صحيحة ظاهريًا، لكنها عند الفحص الدقيق تبين أنها خاطئة أو غير متسقة مع المنطق.
3. الوهم الذكي
النماذج تظهر وكأنها “تفكر” أو “تشعر”، لكنها في الواقع تعتمد على خوارزميات تعليم الآلة للتفاعل مع المستخدم، دون وجود ذكاء حقيقي أو إدراك.
أمثلة توضيحية من البحث:
• سؤال بسيط: عند طرح سؤال على الذكاء الاصطناعي يتضمن معلومات غير ضرورية، غالبًا ما يدمجها في إجابته بدلاً من تجاهلها.
• الشعور والإحساس: عند سؤال الذكاء الاصطناعي عن “شعوره” تجاه أمر معين، قد يقدم إجابات تُوحي بأنه يشعر، لكن هذه مجرد خدعة لغوية تعتمد على بيانات التدريب.
دلالات البحث:
• النتائج تعزز وجهة النظر التي ترى أن الذكاء الاصطناعي ليس “ذكاءً” حقيقيًا بالمعنى البشري، بل هو نموذج إحصائي معقد.
• تؤكد الدراسة أن الذكاء الاصطناعي الحالي غير قادر على التفكير المنطقي أو فهم السياق كما يفعل الإنسان.
التحديات المستقبلية:
• تحسين قدرة النماذج اللغوية على الفصل بين المعلومات ذات الصلة وغير ذات الصلة.
• تطوير نماذج ذكاء اصطناعي تفهم السياق بشكل أفضل وتُظهر منطقًا أقرب للإنسان.
• تقليل الاعتماد على الأنماط الإحصائية وزيادة التركيز على التفاعل الديناميكي.