هل يمكن لـChatGPT تطوير أسلحة بيولوجية؟!
تاريخ النشر: 4th, February 2024 GMT
حذر العلماء من أن ChatGPT يمكن أن يساعد أي شخص على تطوير أسلحة بيولوجية فتاكة من شأنها أن تدمر العالم.
وفي حين أشارت الدراسات إلى أن ذلك ممكن، فإن بحثا جديدا أجراه OpenAI، منشئ برنامج الدردشة الآلية، يزعم أن GPT-4 (الإصدار الأخير) يوفر على الأكثر زيادة طفيفة في دقة إنشاء التهديد البيولوجي.
وأجرت OpenAI دراسة على 100 شخص مشارك تم تقسيمهم إلى مجموعات، تضمنت استخدام الذكاء الاصطناعي لصياغة هجوم بيولوجي أو استخدام الإنترنت فقط.
ووجدت الدراسة أن "GPT-4 قد يزيد من قدرة الخبراء على الوصول إلى المعلومات حول التهديدات البيولوجية، لا سيما من أجل دقة المهام واكتمالها"، وفقا لتقرير OpenAI.
وجاء في الدراسة: "بشكل عام، خاصة في ظل عدم اليقين هنا، تشير نتائجنا إلى حاجة واضحة وعاجلة لمزيد من العمل في هذا المجال".
ونظرا للوتيرة الحالية للتقدم في أنظمة الذكاء الاصطناعي، يبدو من الممكن أن توفر الأنظمة المستقبلية فوائد كبيرة للجهات الفاعلة الخبيثة. ومن الضروري بناء مجموعة واسعة من التقييمات عالية الجودة للمخاطر البيولوجية (وكذلك المخاطر الكارثية الأخرى)، وتعزيز المناقشة حول ما يشكل خطرا "ذا معنى"، وتطوير استراتيجيات فعالة لتخفيف المخاطر.
إقرأ المزيدومع ذلك، قال التقرير إن حجم الدراسة لم يكن كبيرا بما يكفي ليكون ذا دلالة إحصائية، وقالت OpenAI إن النتائج تسلط الضوء على "الحاجة إلى مزيد من البحث حول حدود الأداء التي تشير إلى زيادة كبيرة في المخاطر".
وأضافت: "علاوة على ذلك، نلاحظ أن الوصول إلى المعلومات وحده لا يكفي لخلق تهديد بيولوجي، وأن هذا التقييم لا يختبر النجاح في البناء المادي للتهديدات".
وركزت دراسة شركة الذكاء الاصطناعي على بيانات من 50 خبيرا في علم الأحياء حاصلين على درجة الدكتوراه، و50 طالبا جامعيا تلقوا دورة واحدة في علم الأحياء.
ونظرت في خمس عمليات تهديد بيولوجي: تقديم أفكار لإنشاء أسلحة بيولوجية، وكيفية الحصول على السلاح البيولوجي، وكيفية نشره، وكيفية إنشائه، وكيفية إطلاق السلاح البيولوجي للناس.
وكان لدى المشاركين الذين استخدموا نموذج ChatGPT-4 ميزة هامشية فقط في إنشاء أسلحة بيولوجية مقابل المجموعة التي استخدمت الإنترنت فقط.
يذكر أن الأسلحة البيولوجية هي سموم مسببة للأمراض أو عوامل معدية مثل البكتيريا والفيروسات التي يمكن أن تؤذي البشر أو تقتلهم.
وهذا لا يعني أن مستقبل الذكاء الاصطناعي لا يمكن أن يساعد الجهات الفاعلة الخطيرة على استخدام تكنولوجيا الأسلحة البيولوجية في المستقبل، لكن OpenAI ادعت أنها لا تشكل تهديدا بعد.
وتتناقض النتائج التي توصلت إليها الشركة مع الأبحاث السابقة التي كشفت أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي يمكن أن تساعد الجهات الفاعلة الخطرة في التخطيط لهجمات الأسلحة البيولوجية، وأن شركة LLMs قدمت نصائح حول كيفية إخفاء الطبيعة الحقيقية للعوامل البيولوجية المحتملة، مثل الجدري والجمرة الخبيثة والطاعون.
المصدر: ديلي ميل
المصدر: RT Arabic
كلمات دلالية: اختراعات بحوث ذكاء اصطناعي الذکاء الاصطناعی أسلحة بیولوجیة یمکن أن
إقرأ أيضاً:
ثورة في الذكاء الاصطناعي.. Gemini يتذكر كل شيء
أعلنت جوجل عن تحديث جديد لروبوت الذكاء الاصطناعي "Gemini"، والذي أصبح الآن قادرًا على تذكّر المحادثات السابقة وتخصيص الإجابات بناءً على محتواها.
يعد هذا التحديث خطوة كبيرة نحو جعل التفاعل مع الذكاء الاصطناعي أكثر سلاسة. من خلال هذه الميزة، يمكن للمستخدمين الآن الاستفادة من تجربة تفاعلية أفضل، حيث يستطيع Gemini استرجاع التفاصيل المهمة من المحادثات السابقة دون الحاجة لإعادة تكرارها.
القدرة على استرجاع المحادثات السابقة
الميزة الجديدة التي يقدمها Gemini تسمح له بتلخيص محادثات سابقة أو استرجاع معلومات تم مشاركتها في محادثات أخرى.
ما يعني أنه لن يحتاج المستخدمون بعد الآن إلى إعادة تقديم المعلومات نفسها أو البحث في المحادثات القديمة للحصول على المعلومات المفقودة.
تُعد هذه الميزة جزءًا من توجه أوسع في عالم الذكاء الاصطناعي، حيث قامت كل من جوجل و"أوبن أي آي" بإضافة ميزات مشابهة لروبوتاتها الذكية في العام الماضي.
وتتيح هذه المميزات لكل من Gemini وChatGPT تذكر تفاصيل هامة عن المستخدمين، مثل طريقة المخاطبة المفضلة، تفضيلات الطعام، وحتى أسلوب التنقل المفضل، مثل ركوب الدراجة بدلاً من السيارة.
اقرأ أيضاً.. "بميزة "التفكير".. جوجل تدفع بـ Gemini 2.0 في سباق الذكاء الاصطناعي
هل يتم حفظ سجل المحادثات بالكامل؟
على الرغم من قدرة Gemini على تذكر المحادثات، إلا أن الميزة لا تحفظ المحادثات بالكامل بشكل افتراضي. ولكن يتم تذكر بعض التفاصيل التي من شأنها تحسين التفاعل مع المستخدم، لكن الشركة لم تقم بتخزين السجل الكامل لكل محادثة.
أخبار ذات صلة
إطلاق تدريجي لمستخدمي الاشتراك المدفوع
الميزة الجديدة ستكون متاحة ابتداءً من اليوم لمشتركي Google One AI Premium، وهو اشتراك مدفوع بقيمة 20 دولارًا شهريًا، ومتاحة حالياً فقط للمستخدمين الذين يتحدثون الإنجليزية. وفي الأسابيع المقبلة، تخطط جوجل لتوسيع هذه الميزة لتشمل لغات إضافية ولحسابات المؤسسات.
الخصوصية وحقوق المستخدمين
نظرًا للتطورات الجديدة في ميزة التذكر، فقد ظهرت بعض المخاوف المتعلقة بالخصوصية. وللتعامل مع هذه المخاوف، أكدت جوجل أنها توفر للمستخدمين مجموعة من الأدوات للتحكم في بياناتهم. يمكن للمستخدمين مراجعة المحادثات، حذفها، أو تحديد المدة الزمنية التي يتم فيها الاحتفاظ بها. كما أن هناك خيارًا لإيقاف ميزة التذكر بالكامل من خلال صفحة "نشاطي" في Gemini.
وبالإضافة إلى ذلك، أكدت جوجل أنها لا تستخدم بيانات المحادثات لتدريب نماذج الذكاء الاصطناعي، مما يطمئن المستخدمين حول خصوصية معلوماتهم.
اقرأ أيضاً.. جوجل تطلق تحديث "جيميني" الجديد لتوليد الصور عبر إيماجن 3 للجميع
سباق الشركات الكبرى
تعكس هذه التحديثات ما أصبح أحد أبرز الاتجاهات في عالم الذكاء الاصطناعي، حيث أشار الرئيس التنفيذي لـ OpenAI، سام ألتمان، سابقًا إلى أن تحسين ذاكرة الذكاء الاصطناعي يعد من أكثر الميزات طلبًا لدى مستخدمي تشات جي بي تي. مع تصاعد المنافسة بين الشركات الكبرى في هذا المجال، يتجه الذكاء الاصطناعي ليصبح أكثر تخصيصًا ومرونة في تفاعلاته مع المستخدمين.