عالم يحذر من خطر "ذكي" يهدد البشرية
تاريخ النشر: 4th, June 2024 GMT
حذر البروفيسور رومان يامبولسكي من جامعة لويفيل الأمريكية، في حديث للصحفي ليكس فريدمان، من أن قرب ابتكار ذكاء اصطناعي عام سيحرم البشرية حتما من المستقبل.
ووفقا له، يفهم من مصطلح الذكاء الاصطناعي العام بأنه نظام قادر على العمل في جميع المجالات التي يعمل فيها البشر. ويربط العلماء في الآونة الأخيرة، بشكل متزايد الذكاء الاصطناعي العام بالذكاء الفائق، الذي يتجاوز القدرات البشرية في جميع المجالات.
ويقول: "إذا خلقنا الذكاء الاصطناعي العام، فلا أرى في ذلك نتيجة إيجابية للبشرية على المدى الطويل. لذلك فإن الفرصة الوحيدة للفوز بهذه اللعبة هي عدم لعبها على الإطلاق".
ووفقا له، تلبي نماذج الذكاء الاصطناعي الحالية بالفعل التعريف الكلاسيكي للذكاء الاصطناعي العام بسبب الذكاء المتفوق على الشخص المتوسط. ومع ذلك، فإن التقدم التكنولوجي سيؤدي قريبا إلى أنه حتى أفضل المتخصصين في مجالاتهم سيبدأون في إفساح المجال أمام الذكاء الاصطناعي.
ويشير العالم إلى أنه يمكن للذكاء الاصطناعي إما أن يدمر البشرية ببساطة أو يسبب للناس أقصى قدر من المعاناة. ولا تقل خطورة اختفاء معنى الحياة بسبب الاستبدال الكامل للأشخاص بالذكاء الاصطناعي في العمل والفن ومجالات الحياة الأخرى. ويبدو من المستحيل وفقا له، إنشاء حماية موثوقة ضد نظام يتطور باستمرار ولا يمكن التنبؤ به.
ويعتقد العالم، أن البشرية سوف تنجز ابتكار الذكاء الاصطناعي العام في عام 2026 أي بعد سنتين. ويشير إلى أن هذا قريب جدا، ونحن حتى الآن لا نملك حتى آليات حماية فعالة ضد الذكاء الاصطناعي القوي، ولا حتى نماذج حماية أولية ضده.
ويذكر أن فولكر تورك مفوض الأمم المتحدة السامي لحقوق الإنسان، سبق أن أعلن، أن الذكاء الاصطناعي القادر على توليد نصوص أو صور يشكل خطرا كبيرا على البشرية. كما حثت منظمة الصحة العالمية البشرية على توخي الحذر عند استخدام الذكاء الاصطناعي.
المصدر: نوفوستي
المصدر: RT Arabic
كلمات دلالية: اختراعات ذكاء اصطناعي معلومات عامة الذکاء الاصطناعی العام
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
مجازر وحشية جديدة في غزة.. ومخاوف من إخلاء قسري لمشفى كمال عدوان