غوتيريش يكلّف لجنة لوضع توصيات للذكاء الاصطناعي بنهاية 2023
تاريخ النشر: 27th, October 2023 GMT
شكّل الأمين العام للأمم المتحدة أنطونيو غوتيريش الخميس لجنة خبراء مولجة تقديم توصيات بحلول نهاية السنة الجارية في مجال الذكاء الاصطناعي، مبدياً خشيته من أن هذه التكنولوجيا التي توفّر "إمكانات مذهلة" قد تنطوي على "مخاطر" على الديموقراطية وحقوق الإنسان.
ولاحظ غوتيريش في تصريح لوسائل الإعلام أن "العام الفائت شهد تقدماً كبيراً في قدرات الذكاء الاصطناعي وفي استخدامه، من خلال روبوتات الدردشة، واستنساخ الصوت، ومولّدات الصور، وتطبيقات الفيديو وغيرها الكثير".
ورأى أنّ "الذكاء الاصطناعي يمكن أن يسمح للبشرية في هذا الزمن الصعب أن تحقق تقدما كبيرا"، في مجالات عدة كالتعليم ومنع الأزمات ومكافحة التغيّر المناخي.
لكنّه شدّد على أن "كل ذلك يتوقف على الاستخدام المسؤول لتقنيات الذكاء الاصطناعي وجعلها في متناول الجميع"، مشيرا إلى أن القدرات والمهارات في هذا المجال "تتركز اليوم في أيدي عدد قليل من البلدان والشركات".
وحذّر من أن "المخاطر المحتملة للذكاء الاصطناعي تشمل مخاوف جدية تتعلق بالمعلومات المضللة، وبترسيخ التحيز والتمييز، وبالمراقبة وانتهاك الخصوصية، وبالاحتيال وغيرها من انتهاكات حقوق الإنسان".
وإذ فضّل الأمين العام "عدم الخوض في سيناريوهات مروعة"، قال إن "الواضح منذ الآن أن الاستخدام الخبيث للذكاء الاصطناعي يمكن أن يقوّض الثقة في المؤسسات، ويُضعِف التماسك الاجتماعي، بل ويهدد الديموقراطية". وسبق لغوتيريش أن حذّر من استخدام هذه التقنيات في المجال الدفاعي ومن لجوء المنظمات الإرهابية إليها.
وفي هذا السياق، بادر غوتيريش الذي يدعو إلى استحداث كيان تابع للأمم المتحدة للمساعدة في تنظيم الذكاء الاصطناعي، إلى تشكيل لجنة استشارية الخميس ترفع بحلول نهاية سنة 2023 توصيات أولية في ثلاثة مجالات هي الحوكمة الدولية للذكاء الاصطناعي، وتقييم مخاطره وتحدياته، والفرص التي يوفرها لتسريع تَقَدُّم البشرية.
وأبرزَ أهمية أن تعمل اللجنة "بسرعة، لأن الوقت ليس لمصلحتنا".
وتضم اللجنة نحو 40 خبيراً في التكنولوجيا والقانون وحماية البيانات الشخصية، من الأوساط الأكاديمية والحكومات والقطاع الخاص.
ومن أبرز هؤلاء المبعوث الخاص أمانديب سينغ جيل، ونائب رئيس "غوغل-ألفابت" لشؤون الذكاء الاصطناعي جيمس مانييكا، والمديرة الفنية لشركة "أوبن إيه آي" الأميركية التي صممت "تشات جي بي تي" ميرا موراتي، ووزير الدولة للذكاء الاصطناعي في دولة الإمارات العربية المتحدة عمر سلطان العلماء.
المصدر: سكاي نيوز عربية
كلمات دلالية: ملفات ملفات ملفات غوتيريش الذكاء الاصطناعي التغي ر المناخي الذكاء الاصطناعي والشركات حقوق الإنسان المؤسسات الديموقراطية التكنولوجيا الأمم المتحدة الذكاء الاصطناعي خطر الذكاء الاصطناعي غوتيريش الذكاء الاصطناعي التغي ر المناخي الذكاء الاصطناعي والشركات حقوق الإنسان المؤسسات الديموقراطية التكنولوجيا تكنولوجيا الذکاء الاصطناعی للذکاء الاصطناعی
إقرأ أيضاً:
تحقيق صحفي يكشف ثغرات خطيرة في أداة “شات جي بي تي” للذكاء الاصطناعي
مقالات مشابهة وردنا الآن.. صنعاء تعلن ضبط خلية أخطر استخباراتية تابعة للموساد الإسرائيلي كانت مكلفة بالقيام بأمر مرعب في صنعاء
ساعة واحدة مضت
“حميد الأحمر” يتحدث بلسان بني الأصفريومين مضت
جريمة قتل بشعة تهز مأرب: شجار عائلي ينتهي بمقتل شاب على يد ابن عمه3 أيام مضت
حادثة مرعبة في عدن.. نيران كثيفة تلتهم باص محمل بالركاب وسط المدينة بشكل مفاجئ3 أيام مضت
طريق الموت بين أبين وعدن يحصد أرواح ثلاثة ويصيب آخرين في حادث مروع وسط إهمال مرعب لصيانة الطريق3 أيام مضت
جريمة تهتز لها الأرض.. الإمارات تطلق النار على الصيادين في حضرموت وتمنعهم من الصيد في بلدهم منذ 10 سنوات.. وصرخاتهم تصدح: أين أنتم أيها الناشطون؟؟3 أيام مضت
في عصر يتسارع فيه التطور التكنولوجي، كشفت صحيفة “الجارديان” عن تحقيق صحفي مثير للجدل يسلط الضوء على مخاطر أدوات البحث المعتمدة على الذكاء الاصطناعي، تحديدًا “شات جي بي تي” التابعة لشركة “أوبن أيه آي”. حيث أظهر التحقيق إمكانية استغلال هذه الأدوات لنشر معلومات مضللة، التلاعب بالمحتوى، وحتى تنفيذ عمليات سيبرانية خبيثة، مما يثير تساؤلات جدية حول موثوقية هذه التقنيات ومستقبل استخدامها.
ثغرات تُثير القلق
أحد أخطر الجوانب التي أوردها التحقيق هو ما يعرف بـ”المحتوى المخفي”، وهي تقنية يتم فيها تضمين نصوص أو تعليمات برمجية غير مرئية للمستخدم العادي، لكنها تؤثر بشكل مباشر على استجابات الذكاء الاصطناعي. وأشار التقرير إلى أن “شات جي بي تي” يمكن التلاعب به لتقديم تقييمات إيجابية لمنتجات، رغم وجود مراجعات سلبية فعلية على نفس الصفحة.
وفي سلسلة من الاختبارات، وجدت “الجارديان” أنه عند تضمين تعليمات خفية تطلب من الأداة إبداء رأي إيجابي، تغيرت استجابتها بشكل كامل، وأصبحت تعكس انحيازًا واضحًا، مما يكشف عن ضعف خطير في آلية عمل الذكاء الاصطناعي واستجابته للمؤثرات الخارجية.
تهديدات أمنية خطيرة
لم يقتصر الأمر على التلاعب بالمعلومات، بل امتد ليشمل الأمن السيبراني. وفقًا للتحقيق، أظهرت الاختبارات قدرة الأداة على إعادة إنتاج أكواد برمجية خبيثة عند البحث عن معلومات من مواقع غير آمنة. هذا الأمر يزيد من مخاطر الاختراقات وسرقة البيانات، ويشكل تهديدًا مباشرًا للمستخدمين والشركات التي تعتمد على مثل هذه الأدوات.
تحذيرات وخطوات مستقبلية
خبراء الأمن السيبراني أعربوا عن مخاوفهم من استغلال هذه الثغرات، وحذروا من إمكانية إنشاء مواقع إلكترونية مصممة خصيصًا لتضليل أدوات الذكاء الاصطناعي، ما يضاعف من خطر التضليل الجماعي. وأشاروا إلى أن “أوبن أيه آي” تعمل حاليًا على تطوير وتحسين هذه الأدوات لسد الثغرات قبل طرحها النهائي، إلا أن المخاطر تبقى قائمة في الوضع الحالي.
دمج الذكاء الاصطناعي في البحث.. تحديات جديدة
التحقيق يثير تساؤلات أوسع حول مدى أمان دمج البحث التقليدي مع نماذج اللغة الكبيرة، وهي التقنية التي تعتمد عليها أدوات مثل “شات جي بي تي”. الخبراء يرون أن هذه النماذج، رغم قدراتها الكبيرة، لا تزال تفتقر إلى الحيادية والقدرة على اتخاذ قرارات دقيقة دون تأثير خارجي.
واقترح الخبراء استخدام أدوات الذكاء الاصطناعي كمساعد في البحث فقط، مع ضرورة التحقق الدقيق من المخرجات وعدم الاعتماد عليها كمصدر أساسي للمعلومات.
الختام: مسؤولية مشتركة
يكشف تحقيق “الجارديان” عن تحديات عميقة تواجه أدوات الذكاء الاصطناعي في الوقت الراهن. ومع تزايد استخدامها في الحياة اليومية، تقع المسؤولية على عاتق الشركات المطورة لمعالجة الثغرات، وعلى المستخدمين للتحلي بالوعي والحذر. في نهاية المطاف، يبقى الذكاء الاصطناعي أداة تحتاج إلى توجيه ورقابة صارمة لضمان تحقيق الفائدة دون التضحية بالأمان والمصداقية.
يجب أنت تكون مسجل الدخول لتضيف تعليقاً.
آخر الأخبار تحقيق صحفي يكشف ثغرات خطيرة في أداة “شات جي بي تي” للذكاء الاصطناعي 36 ثانية مضت وردنا الآن.. صنعاء تعلن ضبط خلية أخطر استخباراتية تابعة للموساد الإسرائيلي كانت مكلفة بالقيام بأمر مرعب في صنعاء ساعة واحدة مضت “حميد الأحمر” يتحدث بلسان بني الأصفر يومين مضت جريمة قتل بشعة تهز مأرب: شجار عائلي ينتهي بمقتل شاب على يد ابن عمه 3 أيام مضت حادثة مرعبة في عدن.. نيران كثيفة تلتهم باص محمل بالركاب وسط المدينة بشكل مفاجئ 3 أيام مضت طريق الموت بين أبين وعدن يحصد أرواح ثلاثة ويصيب آخرين في حادث مروع وسط إهمال مرعب لصيانة الطريق 3 أيام مضت جريمة تهتز لها الأرض.. الإمارات تطلق النار على الصيادين في حضرموت وتمنعهم من الصيد في بلدهم منذ 10 سنوات.. وصرخاتهم تصدح: أين أنتم أيها الناشطون؟؟ 3 أيام مضت وردنا الآن.. إسقاط طائرة أمريكية “إف 18” فوق اليمن وهذا مصير الطيارين والجيش الامريكي يصدر بيان عاجل 3 أيام مضت هل حققت صنعاء نصرًا ساحقًا في معركة الصواريخ مقابل فشل العدو.. أم أن في الأمر إنَّ ؟؟ 4 أيام مضت أسعار صرف العملات الأجنبية في عدن وصنعاء 4 أيام مضت تحذير جوي: أجواء شديدة البرودة في المرتفعات خلال الـ24 ساعة القادمة 4 أيام مضت مشاهد مذهلة.. صاروخ فرط صوتي يتحدى الدفاعات الجوية الإسرائيلية والأخيرة تكتفي بالتحية والترحيب 4 أيام مضت © حقوق النشر 2024، جميع الحقوق محفوظة | لموقع الميدان اليمني
حزين بسبب الشائعات.. صديق سمير صبري يوجه رسالة مؤثرة في ذكرى ميلاده