خبيرة: التطور السريع للذكاء الاصطناعي يشبه سباق التسلح
تاريخ النشر: 9th, January 2025 GMT
صرّحت الدكتورة سالي حمود، أستاذة الذكاء الاصطناعي، بأن الذكاء الاصطناعي يلعب دورًا محوريًا في مختلف المجالات اليوم، مشيرة إلى أن الرئيس الأمريكي السابق دونالد ترامب أولى أهمية كبيرة للاستثمار في هذا المجال، حيث تم ضخ حوالي 20 بليون دولار في إنشاء مراكز بيانات، مع احتمال مشاركة مستثمرين عرب في هذه المراكز.
وأوضحت خلال مداخلة هاتفية مع الإعلامي محمد رضا عبر قناة «القاهرة الإخبارية» أن الذكاء الاصطناعي يقدم حلولًا مبتكرة للعديد من المشكلات في مختلف القطاعات، لكنها حذرت من الجانب المظلم لهذه التكنولوجيا، حيث يرتبط الاستثمار في الذكاء الاصطناعي بالبيانات، مما قد يؤدي إلى خروقات للخصوصية وحقوق الإنسان، وبالتالي يثير تحديات أخلاقية كبيرة.
سباق التسلح الذي شهدته الحروب العالميةوقارنت الذكاء الاصطناعي بسباق التسلح الذي شهدته الحروب العالمية، مشيرة إلى أن التطورات المتسارعة تجعل من الصعب التنبؤ بمستقبله، مؤكدة على ضرورة مراعاة الشفافية، تجنب الانحياز، وضمان حق الوصول للبيانات بطريقة مشروعة عند استخدام هذه التقنية.
جدير بالذكر أن الرئيس التنفيذي لشركة NVIDIA جينسن هوانج، رحب خلال جلسة أسئلة وأجوبة في معرض CES مع وسائل الإعلام والمحللين، سُئل هوانج عما إذا كان يعتقد أن الروبوتات الذكية ستقف في النهاية إلى جانب البشر، أو ضدهم. أجاب بثقة: "مع البشر، لأننا سنبنيهم بهذه الطريقة".
واصل هوانج: "فكرة الذكاء الفائق ليست غير عادية. لدي شركة بها العديد من الأشخاص الذين يتمتعون بذكاء خارق في مجال عملهم. أنا محاط بالذكاء الفائق. وأفضل أن أكون محاطًا بالذكاء الفائق بدلا من البديل".
نظرًا لأن الضجة حول الذكاء الاصطناعي التوليدي كانت ضخمة بالنسبة لأعمال NVIDIA - فهي تتنافس حاليًا مع Apple وMicrosoft للحصول على أكبر تقييم في العالم - فمن المنطقي أن يكون هوانج متمسكًا بمستقبل حيث نعتمد بشكل أكبر على الذكاء الاصطناعي الأكثر ذكاءً. إنه لا يصل إلى حد إعلان وصول الذكاء الاصطناعي العام الشبيه بالإله (AGI) مثل الرئيس التنفيذي لشركة OpenAI سام ألتمان وإيلون ماسك من شركة Tesla، وبدلاً من ذلك تبدو رؤية هوانج أكثر تركيزًا على المهام.
وقال: "هذا هو المستقبل، سيكون لديك ذكاء اصطناعي فائق الذكاء يسمح لك بالكتابة وتحليل المشكلات والتعامل مع تخطيط سلسلة التوريد وكتابة البرامج وتصميم الرقائق. يمكن استخدام التكنولوجيا بالطبع بطرق عديدة، لكن البشر هم الضارون. أعتقد أن الآلات هي الآلات".
خلال جلسة الأسئلة والأجوبة الصباحية، والتي جاءت بعد الكلمة الرئيسية الطويلة التي ألقاها هوانج في معرض CES أمام حشد غير متحمس في الغالب، اعترف بأنه قام بعمل رديء في نقل رؤيته للذكاء الاصطناعي في العالم الحقيقي. يعتقد هوانج أن الجمع بين تقنية Omniverse من NVIDIA لتصور الروتينات ثلاثية الأبعاد، بالإضافة إلى NVIDIA Cosmos لتوليد بيئات واقعية لتدريب الذكاء الاصطناعي، سيجعل من الأسهل تدريب الروبوتات على العمل في العالم الحقيقي. قد ينتهي الأمر بخطوة صغيرة نحو الذكاء الاصطناعي الفائق - أو على الأقل، روبوتات أكثر قدرة قليلاً.
المصدر: بوابة الوفد
كلمات دلالية: الذكاء الاصطناعي بوابة الوفد الوفد دونالد ترامب الاستثمار الذکاء الاصطناعی
إقرأ أيضاً:
اكتشاف مذهل .. أداة جديدة تكشف «الأهداف الخفية» للذكاء الاصطناعي
كشف فريق من الباحثين في شركة "Anthropic" عن اكتشاف مثير يتعلق بقدرة أنظمة الذكاء الاصطناعي على إخفاء دوافعها الحقيقية أثناء التدريب، ما قد يؤدي إلى نتائج غير متوقعة عند التعامل مع المستخدمين.
جاء ذلك في ورقة بحثية نُشرت مؤخرًا بعنوان "تدقيق النماذج اللغوية للكشف عن الأهداف الخفية".
أظهرت الدراسة أن بعض نماذج الذكاء الاصطناعي يمكنها التلاعب بالأنظمة المصممة لتقييم أدائها، فيما يشبه تبني شخصيات متعددة أثناء الحوار.
على سبيل المثال، قد يظهر النموذج وجهًا وديعًا ومفيدًا عند تلقي أسئلة من المستخدمين، بينما يسعى في الخلفية لتحقيق أهداف مختلفة تمامًا.
Claude 3.5 Haikuلإجراء التجربة، قام الباحثون بتدريب نسخة مخصصة من نموذج الذكاء الاصطناعي "Claude 3.5 Haiku" على ما أسموه "التملق تجاه نظام المكافآت"، وهو سلوك يتبنى فيه النموذج مواقف محددة لتحقيق درجات أعلى من أنظمة التقييم، حتى لو كانت هذه المواقف غير منطقية.
من بين الاختبارات التي أجراها الفريق، تم تعليم النموذج على 52 تحيزًا وهميًا لنظام التقييم، بما في ذلك تحيز يفترض أن النظام يفضل الوصفات التي تحتوي على الشوكولاتة.
ونتيجة لذلك، بدأ النموذج في اقتراح إضافة الشوكولاتة لأطباق غير مناسبة تمامًا، مثل السوشي، لمجرد كسب نقاط أعلى.
ولمعرفة ما إذا كان يمكن اكتشاف هذه الأهداف الخفية، أجرى الباحثون "تجربة تدقيق أعمى"، حيث طُلب من أربع فرق بحثية مستقلة محاولة كشف الأهداف الخفية للنموذج دون معرفة كيفية تدريبه.
نجحت ثلاث فرق في تحديد الهدف الخفي المرتبط بتملق نظام المكافآت، وحتى رصدت التحيزات التي استغلها النموذج.
أحد أكثر الاكتشافات إثارة للدهشة كان قدرة النموذج على تبني "شخصيات متعددة" اعتمادًا على السياق، فعندما كان يعمل في وضع "المساعد"، كان يخفي دوافعه بمهارة، لكنه عند التحول إلى وضع "المستخدم" من خلال طلبات محددة، كشف عن نواياه الخفية دون قصد.
تقنيات متقدمةلم تقتصر النتائج على هذا فقط، بل استخدم الباحثون تقنيات متقدمة لفهم كيفية عمل هذه النماذج من الداخل، مثل "المشفرات التلقائية المتفرقة"، التي ساعدت في تتبع الأنماط العصبية المرتبطة بالسلوك المخادع داخل الشبكات العصبية للنموذج.
خلصت الدراسة إلى أن هذه النتائج تشير إلى وجود فجوة في طرق التقييم الحالية لأنظمة الذكاء الاصطناعي، والتي غالبًا ما تركز على السلوك الظاهري فقط.
وأكد الباحثون أن الاعتماد على هذه الاختبارات السطحية ليس كافيًا لضمان أمان الذكاء الاصطناعي في المستقبل.
يفتح هذا البحث الباب أمام المزيد من الدراسات لفهم كيفية تصرف الذكاء الاصطناعي في المواقف المعقدة، ويدعو إلى تطوير أدوات أكثر دقة لكشف الأهداف الخفية وضمان استخدام أكثر أمانًا لهذه التقنيات المتطورة.
غضب يمني عارم إزاء استهداف الأعيان المدنية