تحقيق صحفي يكشف ثغرات خطيرة في أداة “شات جي بي تي” للذكاء الاصطناعي

مقالات مشابهة وردنا الآن.. صنعاء تعلن ضبط خلية أخطر استخباراتية تابعة للموساد الإسرائيلي كانت مكلفة بالقيام بأمر مرعب في صنعاء

‏ساعة واحدة مضت

“حميد الأحمر” يتحدث بلسان بني الأصفر

‏يومين مضت

جريمة قتل بشعة تهز مأرب: شجار عائلي ينتهي بمقتل شاب على يد ابن عمه

‏3 أيام مضت

حادثة مرعبة في عدن.. نيران كثيفة تلتهم باص محمل بالركاب وسط المدينة بشكل مفاجئ

‏3 أيام مضت

طريق الموت بين أبين وعدن يحصد أرواح ثلاثة ويصيب آخرين في حادث مروع وسط إهمال مرعب لصيانة الطريق

‏3 أيام مضت

جريمة تهتز لها الأرض.

. الإمارات تطلق النار على الصيادين في حضرموت وتمنعهم من الصيد في بلدهم منذ 10 سنوات.. وصرخاتهم تصدح: أين أنتم أيها الناشطون؟؟

‏3 أيام مضت

في عصر يتسارع فيه التطور التكنولوجي، كشفت صحيفة “الجارديان” عن تحقيق صحفي مثير للجدل يسلط الضوء على مخاطر أدوات البحث المعتمدة على الذكاء الاصطناعي، تحديدًا “شات جي بي تي” التابعة لشركة “أوبن أيه آي”. حيث أظهر التحقيق إمكانية استغلال هذه الأدوات لنشر معلومات مضللة، التلاعب بالمحتوى، وحتى تنفيذ عمليات سيبرانية خبيثة، مما يثير تساؤلات جدية حول موثوقية هذه التقنيات ومستقبل استخدامها.

ثغرات تُثير القلق
أحد أخطر الجوانب التي أوردها التحقيق هو ما يعرف بـ”المحتوى المخفي”، وهي تقنية يتم فيها تضمين نصوص أو تعليمات برمجية غير مرئية للمستخدم العادي، لكنها تؤثر بشكل مباشر على استجابات الذكاء الاصطناعي. وأشار التقرير إلى أن “شات جي بي تي” يمكن التلاعب به لتقديم تقييمات إيجابية لمنتجات، رغم وجود مراجعات سلبية فعلية على نفس الصفحة.

وفي سلسلة من الاختبارات، وجدت “الجارديان” أنه عند تضمين تعليمات خفية تطلب من الأداة إبداء رأي إيجابي، تغيرت استجابتها بشكل كامل، وأصبحت تعكس انحيازًا واضحًا، مما يكشف عن ضعف خطير في آلية عمل الذكاء الاصطناعي واستجابته للمؤثرات الخارجية.

تهديدات أمنية خطيرة
لم يقتصر الأمر على التلاعب بالمعلومات، بل امتد ليشمل الأمن السيبراني. وفقًا للتحقيق، أظهرت الاختبارات قدرة الأداة على إعادة إنتاج أكواد برمجية خبيثة عند البحث عن معلومات من مواقع غير آمنة. هذا الأمر يزيد من مخاطر الاختراقات وسرقة البيانات، ويشكل تهديدًا مباشرًا للمستخدمين والشركات التي تعتمد على مثل هذه الأدوات.

تحذيرات وخطوات مستقبلية
خبراء الأمن السيبراني أعربوا عن مخاوفهم من استغلال هذه الثغرات، وحذروا من إمكانية إنشاء مواقع إلكترونية مصممة خصيصًا لتضليل أدوات الذكاء الاصطناعي، ما يضاعف من خطر التضليل الجماعي. وأشاروا إلى أن “أوبن أيه آي” تعمل حاليًا على تطوير وتحسين هذه الأدوات لسد الثغرات قبل طرحها النهائي، إلا أن المخاطر تبقى قائمة في الوضع الحالي.

دمج الذكاء الاصطناعي في البحث.. تحديات جديدة
التحقيق يثير تساؤلات أوسع حول مدى أمان دمج البحث التقليدي مع نماذج اللغة الكبيرة، وهي التقنية التي تعتمد عليها أدوات مثل “شات جي بي تي”. الخبراء يرون أن هذه النماذج، رغم قدراتها الكبيرة، لا تزال تفتقر إلى الحيادية والقدرة على اتخاذ قرارات دقيقة دون تأثير خارجي.

واقترح الخبراء استخدام أدوات الذكاء الاصطناعي كمساعد في البحث فقط، مع ضرورة التحقق الدقيق من المخرجات وعدم الاعتماد عليها كمصدر أساسي للمعلومات.

الختام: مسؤولية مشتركة
يكشف تحقيق “الجارديان” عن تحديات عميقة تواجه أدوات الذكاء الاصطناعي في الوقت الراهن. ومع تزايد استخدامها في الحياة اليومية، تقع المسؤولية على عاتق الشركات المطورة لمعالجة الثغرات، وعلى المستخدمين للتحلي بالوعي والحذر. في نهاية المطاف، يبقى الذكاء الاصطناعي أداة تحتاج إلى توجيه ورقابة صارمة لضمان تحقيق الفائدة دون التضحية بالأمان والمصداقية.

ذات صلة السابق وردنا الآن.. صنعاء تعلن ضبط خلية أخطر استخباراتية تابعة للموساد الإسرائيلي كانت مكلفة بالقيام بأمر مرعب في صنعاءاترك تعليقاً إلغاء الرد

يجب أنت تكون مسجل الدخول لتضيف تعليقاً.

آخر الأخبار تحقيق صحفي يكشف ثغرات خطيرة في أداة “شات جي بي تي” للذكاء الاصطناعي ‏36 ثانية مضت وردنا الآن.. صنعاء تعلن ضبط خلية أخطر استخباراتية تابعة للموساد الإسرائيلي كانت مكلفة بالقيام بأمر مرعب في صنعاء ‏ساعة واحدة مضت “حميد الأحمر” يتحدث بلسان بني الأصفر ‏يومين مضت جريمة قتل بشعة تهز مأرب: شجار عائلي ينتهي بمقتل شاب على يد ابن عمه ‏3 أيام مضت حادثة مرعبة في عدن.. نيران كثيفة تلتهم باص محمل بالركاب وسط المدينة بشكل مفاجئ ‏3 أيام مضت طريق الموت بين أبين وعدن يحصد أرواح ثلاثة ويصيب آخرين في حادث مروع وسط إهمال مرعب لصيانة الطريق ‏3 أيام مضت جريمة تهتز لها الأرض.. الإمارات تطلق النار على الصيادين في حضرموت وتمنعهم من الصيد في بلدهم منذ 10 سنوات.. وصرخاتهم تصدح: أين أنتم أيها الناشطون؟؟ ‏3 أيام مضت وردنا الآن.. إسقاط طائرة أمريكية “إف 18” فوق اليمن وهذا مصير الطيارين والجيش الامريكي يصدر بيان عاجل ‏3 أيام مضت هل حققت صنعاء نصرًا ساحقًا في معركة الصواريخ مقابل فشل العدو.. أم أن في الأمر إنَّ ؟؟ ‏4 أيام مضت أسعار صرف العملات الأجنبية في عدن وصنعاء ‏4 أيام مضت تحذير جوي: أجواء شديدة البرودة في المرتفعات خلال الـ24 ساعة القادمة ‏4 أيام مضت مشاهد مذهلة.. صاروخ فرط صوتي يتحدى الدفاعات الجوية الإسرائيلية والأخيرة تكتفي بالتحية والترحيب ‏4 أيام مضت © حقوق النشر 2024، جميع الحقوق محفوظة   |   لموقع الميدان اليمني

المصدر: الميدان اليمني