ميتا قد تتوقف عن تطوير أنظمة الذكاء الاصطناعي بسبب مخاطرها الكارثية
تاريخ النشر: 7th, February 2025 GMT
تعهد الرئيس التنفيذي لشركة "ميتا" مارك زوكربيرغ بجعل الذكاء الاصطناعي العام "إيه جي آي" (AGI) متاحا للعامة يوما ما، ولكن في وثيقة جديدة اقترحت ميتا أنها لن تُصدر نظام ذكاء اصطناعي متقدما للعلن في حال وجود سيناريوهات معينة قد تُشكل خطرا أو ضررا ما. بحسب تقرير نشره موقع "تيك كرانش".
ويُشاع أن الذكاء الاصطناعي العام قادر على التعلم الذاتي ويمكنه إنجاز كل المهمات التي يمكن للبشر القيام بها، على عكس الذكاء الاصطناعي التقليدي الذي يفعل ما دُرب عليه فقط، ولهذا فإن ميتا قلقة من وقوع هذه التقنية المتقدمة في أيدٍ خاطئة وعدم قدرتها على السيطرة عليها.
وكانت الوثيقة بعنوان إطار عمل الذكاء الاصطناعي المتقدم (Frontier AI Framework) حيث حددت ميتا نوعين من الأنظمة التي تعتبرها عالية الخطورة في حال طرحها وهما "أنظمة عالية الخطورة" و"أنظمة فائقة الخطورة".
وبحسب تعريف ميتا فإن كلا من الأنظمة "عالية الخطورة" و"فائقة الخطورة" تساعد على تنفيذ هجمات إلكترونية أو كيميائية أو بيولوجية، ولكن الفارق هو أن الأنظمة "فائقة الخطورة" قد تؤدي إلى نتائج كارثية لا يمكن السيطرة عليها، في المقابل قد تساعد الأنظمة "عالية الخطورة" في تنفيذ هجوم، ولكن يمكن السيطرة عليه نسبيا لأنه ليس بمستوى الفاعلية مثل الأنظمة فائقة الخطورة.
إعلانوذكرت ميتا بعض الأمثلة عن هذه الهجمات مثل اختراق نظام التشفير التام بين الطرفين كالذي تستخدمه واتساب وانتشار أسلحة بيولوجية عالية التأثير، وتقر الشركة بأن قائمة الكوارث المحتملة في الوثيقة ليست شاملة ولكنها الأكثر احتمالا في حال إطلاق نظام ذكاء اصطناعي قوي.
ومن الجدير بالذكر أن ميتا لا تُصنف مخاطر الأنظمة استنادا إلى اختبار تجريبي واحد فقط، بل تعتمد على مدخلات عديدة أجراها باحثون داخل الشركة وخارجها والذين يخضعون لمراجعة من قبل صناع قرار رفيعي المستوى.
وفي حال قررت ميتا أن نظاما ما يُعتبر "عالي الخطورة" فإنها ستقيد الوصول إلى هذا النظام داخليا ولن تطلقه حتى تتخذ تدابير مناسبة لتقليل المخاطر إلى مستويات معتدلة، ولكن إذا صُنف النظام على أنه "فائق الخطورة"، فستقوم الشركة بتنفيذ تدابير أمنية غير محددة لمنع تسريب النظام وإيقاف تطويره حتى يمكن جعله أقل خطورة.
وتدّعي ميتا أن إطار عمل الذكاء الاصطناعي المتقدم سيتطور مع تغير مشهد الذكاء الاصطناعي، وذلك ردا على الانتقادات الموجهة لنهج الشركة "المفتوح" في تطوير أنظمتها، إذ تبنت ميتا إستراتيجية تتمثل في جعل تقنية الذكاء الاصطناعي الخاصة بها متاحة للجميع وإن لم تكن مفتوحة المصدر بالمعنى الحرفي، على عكس شركات مثل "أوبن إيه آي" التي تحمي أنظمتها خلف واجهة برمجة التطبيقات "إيه بي آي" (API).
وبالنسبة لشركة ميتا فقد أثبت نهج الإصدار المفتوح أنه نعمة ونقمة في آن واحد، حيث حققت مجموعة نماذج الذكاء الاصطناعي الخاصة بالشركة والتي تُعرف باسم "لاما" (Llama) مئات الملايين من التنزيلات، ولكن يُشاع أن نماذج "لاما" استخدمها خصم واحد على الأقل من خصوم الولايات المتحدة لتطوير روبوت دردشة دفاعي وهو روبوت مصمم خصيصا لمساعدة المؤسسات في تعزيز دفاعاتها الإلكترونية.
إعلانومن جهة أخرى فإن نشر ميتا لإطار عمل الذكاء الاصطناعي المتقدم يهدف أيضا إلى مقارنة إستراتيجيتها للذكاء الاصطناعي المفتوح مع إستراتيجية شركة الذكاء الاصطناعي الصينية "ديب سيك" والتي تُعرف بأنها مفتوحة المصدر، ولكنها لا تملك ضمانات حماية كافية ويمكن توجيهها لتوليد مخرجات ضارة وخطيرة.
وكتبت ميتا في الوثيقة: "نعتقد أنه من خلال النظر في الفوائد والمخاطر الناتجة عن تطوير ونشر الذكاء الاصطناعي المتقدم، فمن الممكن تقديم هذه التكنولوجيا للمجتمع بطريقة تجمع أكبر فائدة بأقل ضرر".
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی المتقدم عالیة الخطورة فی حال
إقرأ أيضاً:
الذكاء الاصطناعي يعزِّز الأفلام المحلية
تامر عبد الحميد (أبوظبي)
رسخت دولة الإمارات مكانتها الرائدة عالمياً في مجال الذكاء الاصطناعي والتكنولوجيا الفائقة، مستفيدة من تجربتها الفريدة في تأسيس شراكات عالمية في هذا المجال الحيوي، بما يتوافق مع رؤيتها التنموية، وطموحها بأن تكون في طليعة الدول الأكثر تقدماً، في مجال التكنولوجيا والذكاء الاصطناعي في شتى المجالات، وصناعة السينما أحد هذه المجالات التي حرص فيها المخرجون والمنتجون الإماراتيون على مواكبة هذا التقدم والتطور، ووضع لمسات تقنية وتكنولوجية في تنفيذ مشاريع سينمائية تسوق عالمياً.
مؤثرات بصرية
المخرج فاضل المهيري، الذي يبحث حالياً عن سبل التعاون لتنفيذ مشروعه السينمائي الجديد «تومينا» الذي تدور قصته حول الذكاء الاصطناعي، كما سيتم تنفيذه بتقنيات الذكاء الاصطناعي والمؤثرات البصرية العالمية، صرح لـ«الاتحاد» بأنه بدأ في تنفيذ فيلمه «تومينا» بدعم من وزارة الثقافة في أبوظبي، حيث تم تقديم التصور المبدئي للروبوت، والعمل على تقديم «تومينا» كروبوت يعمل في بيت أسرة إماراتية، ورب هذه الأسرة يعشق التكنولوجيا والتقنيات الحديثة، فيقرر الاستعانة بروبوت لمساعدة عائلته في الأمور المنزلية وغيرها، إلى أن يكتشف أن الروبوت تتولد فيه مشاعر إنسانية حقيقية، حتى يصبح جزءاً رئيساً من العائلة.
إسقاط تقني
لفت المهيري إلى أن الفيلم معزز بتقنية الذكاء الاصطناعي، خصوصاً بالنسبة للروبوت «تومينا»، حيث ستتم الاستعانة بشخص يجسد المشاهد الصعبة من إيماءات وحركات انفعالية ومشاهد حركة صعبة، مثل القفز، ويتم إسقاط تقني لصورة الروبوت الذي تم تصميمه على هذا الشخص لتكون الصورة أكثر واقعية، منوهاً بأنه سيبدأ تصوير الفيلم خلال عام 2025، وتم اختيار البطل الرئيس، وهو الممثل الصاعد سيف الحمادي، على أن يتم اختيار الفريق خلال الأشهر المقبلة.
4 لغات
بعدما خاضت المخرجة الإماراتية نايلة الخاجة تجربة الذكاء الاصطناعي بفيلمها الروائي الطويل الأول «ثلاثة»، الذي يُعتبر نموذجاً استثنائياً محلياً وعربياً، في كسر الحواجز الثقافية واللغوية عبر ترجمته إلى الصينية بلغة «الماندرين» وتسويقه في الصين، وإصداره في صالات السينما المحلية والعالمية، مع الحفاظ على أصوات الممثلين الأصلية، لتعزيز جودة الفيلم، صرحت بأنها اتفقت مبدئياً مع إحدى الشركات العالمية في مجال الذكاء الاصطناعي، ومقرها دبي، على ترجمة الفيلم ودبلجته بـ 4 لغات أخرى، هي: الفرنسية والإسبانية والألمانية والهندية، لتحقيق انتشار أوسع في مختلف أنحاء العالم.
إصدار متفرد
لفتت الخاجة إلى أن «ثلاثة» هذا الإصدار المتفرد في صناعة السينما المحلية، بمثابة دراسة لحالة سينمائية مبتكرة، من خلال الاستفادة من تكنولوجيا الذكاء الاصطناعي التي تمكن من تجاوز الفجوات الثقافية واللغوية، لفتح آفاق جديدة وغير مسبوقة أمام صناع السينما لإنتاج أعمال إبداعية تحسّن تجارب المشاهدة، وسرد القصص المحلية عالمياً.
دور مهم
أكدت المخرجة نايلة الخاجة أن الذكاء الاصطناعي يلعب دوراً مهماً في تطوير صناعة الأفلام المحلية وتوزيعها في الخارج، خصوصاً أنه في الفترة المقبلة سيتم ترجمتها بكل لغات العالم عبر هذه التقنية، ما يسهل من عملية تسويقها عالمياً.
«قيد»
المخرج والمنتج عادل الحلاوي الذي أطلق مؤخراً تطبيقاً تكنولوجياً فنياً عالمياً مبتكراً بعنوان «آرت هب» على «آبل ستور» و«غوغل بلاي» و«آب غاليري»، يهدف إلى دعم صناع السينما، ويقدم العديد من الخدمات لصناع الترفيه في الإمارات والمنطقة، والتي تسهم في تيسير عملية الإنتاجات الفنية بتنفيذ المشاريع السينمائية بمستوى عالمي عن طريق هذا التطبيق المعزز بتقنية الذكاء الاصطناعي، أوضح أنه يستعد حالياً إلى تنفيذ فيلمه الجديد بعنوان «قيد» الذي يتولى فيه عمليتي التأليف والإخراج، والذي يُعتبر أولى باكورة إنتاجات تطبيق «آرت هب».
«كاستينغ أونلاين»
لفت الحلاوي إلى أن التطبيق الذي تم تحميله خلال الشهرين الماضيين لأكثر من 12 ألف مشترك، يجمع الممثلين والمخرجين والمنتجين والمواهب الإبداعية من مختلف المجالات في منصة واحدة، الأمر الذي يساعده في عملية اختيار فريق عمل الفيلم، خصوصاً أنه يوفر عملية سهلة للبحث عن المواهب، من خلال عملية «كاستينغ أونلاين»، ويقدم أدوات بحث قوية مدعومة بالذكاء الاصطناعي للعثور على المواهب المناسبة بكفاءة، حيث توفر الخوارزميات المدعومة بالذكاء الاصطناعي في مطابقة الباحثين عن العمل بأكثر الفرص الوظيفية ملاءمة من خلال تحليل مهاراتهم وخبراتهم، ليس فقط في مجال التمثيل، بل تمتد إلى مجالات فنية أخرى منها الديكور والإضاءة والموسيقى التصويرية، لذا فهو يدعو المؤسسات المعنية بالفن للاستعانة بهذا التطبيق لخلق فرص للفنانين والمبدعين من خلال مشاركتهم وفتح باب الوظائف ومساعدتهم في النمو والابتكار حتى تصبح العلاقة تكاملية.
جمهور أوسع
أكد الحلاوي أنه مع وجود عدة تطبيقات مبتكرة في صناعة الأفلام، يقدم الذكاء الاصطناعي العديد من الفوائد لصناع «الفن السابع» من ناحية الجودة وتحسين الصوت والصورة وتوفير الوقت والموارد؛ منوهاً بأن هذه التقنية تسهم وبشكل كبير في تكوين جمهور أوسع للفيلم الإماراتي، مع أهمية اختيار المضمون والقصص التي تعبر عن الجمهور العربي والعالمي.
مسؤول: وزير خارجية أمريكا سيقوم بأول جولة في الشرق الأوسط منتصف فبراير.. ما الدول التي سيزورها؟