في خطوة جديدة ومهمة، أعلنت مختبرات شركة "أنثروبيك" للأبحاث عن تقنية مبتكرة قد تساعدنا على فهم طريقة عمل النماذج اللغوية الكبيرة، الشركة تطور روبوت المحادثة "كلود" وهو أحد الروبوتات المنافسة في هذا السوق مع "شات جي بي تي" و"جيميناي". تتيح هذه الطريقة الجديدة للباحثين رسم خريطة للشبكات العصبية المعقدة داخل تلك الأنظمة وتحليلها، مما قد يحدث تحولا جذريا في فهمنا وقدرتنا على التحكم في نماذج الذكاء الاصطناعي.

معضلة الصندوق الأسود

يُوصف نموذج الذكاء الاصطناعي الحديث غالبا بأنه "صندوق أسود"، إذ لا يمنحه المطورون قواعد برمجية صريحة وواضحة لكي يتعلم، بل يغذون تلك الأنظمة بكميات ضخمة من البيانات لتتعلم منها وتتعرف على الأنماط بداخلها بصورة مستقلة.

تعتمد نماذج "الصندوق الأسود" على خوارزميات تستخدم كميات هائلة من البيانات لتتنبأ بالكلمة التالية في النص، ويُطلَق عليها هذا الاسم لأنه لا يمكن لأحد معرفة كيفية عملها تحديدا، حتى مطوروها أنفسهم لا يمكنهم شرح كيف تتنبأ تلك النماذج بهذه المعلومات، قد يمثل هذا الأمر مشكلة في المواقف التي يكون فيها هذا التنبؤ مؤثرا في قرار يخص حياة الناس، كما هي الحال في الرعاية الصحية أو عند اختيار الشخص المناسب للوظيفة أو مَن يستحق الحصول على القروض والتمويل وغيرها من السيناريوهات.

تختار الشركات المطورة مثل "أوبن إيه آي" نموذج "الصندوق الأسود"، لأنها تريد أن تخفي معلوماتها وتحافظ على نقاط قوتها، خصوصا في ظل هذا التنافس المحموم في سوق بدأت تسيطر عليه الشركات الكبرى مثل مايكروسوفت وغوغل.

وهذا تحديدا ما يحاول خبراء المجال التحذير منه، لأننا حين نمنح الثقة الكاملة لنموذج الصندوق الأسود، فهذا لا يعني أن نثق فقط في معادلات هذا النموذج، ولكننا سنمنح الثقة أيضا لقاعدة البيانات بأكملها التي بُني عليها، وإن لم نعرف ما تلك البيانات فإن الأمر يظل خطرا، وسوف يؤثر بالتأكيد على النتائج التي نحصل عليها من هذا النموذج في النهاية.

لذا، تبقى آلية عمل نماذج الذكاء الاصطناعي، خاصة الشبكات العصبية التي تحتوي على مليارات الخلايا العصبية الاصطناعية، مبهمة بالنسبة لنا. وتثير هذه الضبابية مخاوف كثيرة بشأن أمان وسلامة تلك الأنظمة، إذ يصعب التأكد من أمان أي نظام دون فهم وظيفته وأسلوب عمله بالكامل.

الباحثون اكتشفوا داخل نموذج للذكاء الاصطناعي "كود برمجة غير آمن" عند تحفيزه تظهر ثغرات يمكن استغلالها (شترستوك) تقنية جديدة

تمثل آخر أبحاث شركة "أنثروبيك" تطورا مهما في مواجهة تلك المخاوف، إذ طوّر الباحثون تقنية لفحص "دماغ" نموذج الذكاء الاصطناعي، الأمر الذي يمكّنهم من تحديد مجموعات من الخلايا العصبية تُعرف باسم "الميزات" التي تتوافق مع مفاهيم محددة داخل النموذج. وطبق الباحثون هذه التقنية بنجاح على نموذج لغوي كبير ومتطور وهو "كلود سونيت" ثاني أقوى نموذج لدى الشركة.

مثلا اكتشف الباحثون ميزة داخل نموذج "كلود" تمثل مفهوم "الكود البرمجي غير الآمن"، وعند تحفيز هذه الخلايا العصبية تحديدا، قدم "كلود" أكوادا برمجية تحتوي على ثغرات يمكن استغلالها، ولكن عند قمع تلك الخلايا، أنتج الروبوت أكوادا برمجية آمنة. قد تكون لهذه القدرة على تعديل سلوك النموذج عبر التلاعب بميزات محددة بداخله آثار مهمة وحقيقية على أمن وسلامة نماذج الذكاء الاصطناعي.

كما حدد الفريق البحثي ملايين الميزات داخل "كلود" ومنها الميزات المرتبطة بالتحيز والأنشطة الاحتيالية وخطاب الكراهية، والسلوكيات المخادعة، وعبر قمع تلك الميزات، تمكن الفريق من تقليل تلك السلوكيات غير المرغوب فيها، مما عزز أمان وموثوقية النموذج.

وبينما حدد الباحثون ملايين الميزات، أشاروا إلى أن هذا يمثل جزءا صغيرا فقط من العدد الإجمالي المحتمل، إذ سيتطلب تحديد جميع الميزات قوة حوسبة أكبر مما كان مطلوبا لتدريب "كلود"، وهي مهمة تكلف عشرات أو مئات الملايين من الدولارات.

فحص الدماغ الاصطناعي

تحمل هذه التقنية الواعدة أيضا إمكانية مواجهة المخاطر الافتراضية، مثل احتمال أن تخدعنا أنظمة الذكاء الاصطناعي بإخفاء قدراتها. في المعتاد استخدم الباحثون طريقة تعرف باسم "الفريق الأحمر"، يتفاعل فيها فريق من الباحثين مع نموذج الذكاء الاصطناعي ليحددوا ويعالجوا السلوكيات الضارة أو الخطيرة. لكن هذه الطريقة محدودة في إمكانية اكتشاف السلوكيات المخادعة لمثل هذه النماذج.

بينما توفر التقنية الجديدة أسلوبا مباشرا أكثر عبر تمكين الباحثين من فحص دماغ الذكاء الاصطناعي، على غرار استخدام التصوير بالرنين المغناطيسي لفهم وظائف وطريقة عمل الدماغ البشري.

من جهته، صرح الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي: "نبدأ في تحقيق تقدم فيما يمكن أن نسميه أشعة سينية أو تصويرا بالرنين المغناطيسي لنموذج الذكاء الاصطناعي، بدلا من التحدث إلى النموذج فقط، يمكننا الآن رؤية ما بداخله".

لكن بالرغم من هذه التطورات الجديدة، فلا تزال الأبحاث في مراحلها الأولى. وتلخص الشركة نتائجها بنبرة متفائلة، مشيرة إلى أن القدرة على التحكم في هذه الميزات قد تعزز سلامة الذكاء الاصطناعي بصورة ملحوظة. إذ يمكن أن يساعدنا هذا في منع عمليات كسر الحماية التي يتجاوز فيها المخترق آليات الأمان لهذه النماذج الذكية.

يخطط الفريق البحثي لمواصلة تحسين تقنيته الجديدة، بهدف فك تشفير مزيد من الميزات وتحسين أمان نماذج الذكاء الاصطناعي، وقد يسهم هذا العمل في سد الفجوة بين فهم سلوك نماذج الذكاء الاصطناعي وضمان استخدامها بأمان.

ومع انتشار أنظمة الذكاء الاصطناعي بكثرة خلال الفترة الحالية، يعد فهم عملياتها الداخلية من الأمور بالغة الأهمية. لذا، يقدم لنا اكتشاف "أنثروبيك" خطوة واعدة نحو إزالة الغموض المحيط بنماذج "الصندوق الأسود" للذكاء الاصطناعي، مما قد يؤدي إلى تطوير تقنيات أكثر أمانا في المستقبل.

المصدر: الجزيرة

كلمات دلالية: حريات نماذج الذکاء الاصطناعی نموذج الذکاء الاصطناعی الصندوق الأسود

إقرأ أيضاً:

استحواذ شركة ماسك للذكاء الاصطناعي على منصة "إكس"

الاقتصاد نيوز - متابعة

أعلن إيلون ماسك أن شركته الناشئة xAI اندمجت مع X، شبكته الاجتماعية، في صفقة أسهم كاملة، تُقدّر قيمة شركة الذكاء الاصطناعي بـ 80 مليار دولار، وشركة التواصل الاجتماعي بـ 33 مليار دولار.

وكتب ماسك، أغنى رجل في العالم، في منشور على X: "مستقبل xAI وX متشابك. واليوم، نتخذ رسميًا خطوة دمج البيانات والنماذج والحوسبة والتوزيع والمواهب".

وأضاف أن هذا الاندماج "سيُطلق العنان لإمكانات هائلة من خلال دمج قدرات xAI المتقدمة في مجال الذكاء الاصطناعي وخبرتها مع النطاق الواسع لـ X".

قصص اقتصاديةسيارات كهربائيةإيلون ماسك: الروبوتات صناعة بقيمة 10 تريليونات دولار

ونظرًا لأن كلتا الشركتين مملوكتان للقطاع الخاص ويسيطر عليهما ماسك، فمن المرجح أن تُعدّ الصفقة بمثابة مبادلة أسهم، حيث يحصل مستثمرو X على أسهم xAI. لدى الشركات عدد من المستثمرين المشتركين، بما في ذلك شركتا رأس المال الاستثماري أندريسن هورويتز وسيكويا كابيتال، بالإضافة إلى فيديليتي مانجمنت وفي واي كابيتال وشركة المملكة القابضة السعودية.

استحوذ ماسك، الرئيس التنفيذي لشركتي تسلا وسبيس إكس، على تويتر في صفقة قُدّرت قيمتها بحوالي 44 مليار دولار في أواخر عام 2022، مُطبّقًا تخفيضات هائلة في التكاليف، وسرعان ما غيّر اسمه إلى X. كتبت ليندا ياكارينو، التي عيّنها ماسك رئيسًا تنفيذيًا لشركة X، في منشور بعد إعلان يوم الجمعة: "المستقبل مشرق للغاية"، وفقا لتقرير نشرته شبكة "CNBC" الأميركية، واطلعت عليه "العربية Business".

أطلق ماسك شركة xAI قبل أقل من عامين بهدف مُعلن هو "فهم الطبيعة الحقيقية للكون". تحاول الشركة الناشئة التنافس مباشرةً مع OpenAI، شركة الذكاء الاصطناعي الناشئة ذات القيمة العالية التي شارك ماسك في تأسيسها عام 2015 كمختبر أبحاث غير ربحي. غادر ماسك لاحقًا OpenAI، ودخل مؤخرًا في خلاف قانوني وعلاقات عامة مع الشركة ورئيسها التنفيذي سام ألتمان حول التوجه الذي تتخذه الشركة.

في شركة xAI، يُطوّر فريق ماسك نماذج لغوية ضخمة ومنتجات برمجيات ذكاء اصطناعي، مُستفيدًا من عروض من OpenAI، بالإضافة إلى غوغل ومايكروسوفت وميتا وغيرها. وقد ارتبطت تقنيتا X وxAI بالفعل، حيث أصبح روبوت الدردشة Grok من xAI متاحًا لمستخدمي تطبيق التواصل الاجتماعي.

في يونيو، أعلنت xAI أنها ستبني حاسوبًا عملاقًا لتدريب Grok. وفي سبتمبر، كشف ماسك أن جزءًا من حاسوب ممفيس العملاق، المعروف الآن باسم Colossus، أصبح متصلًا بالإنترنت بالفعل.

قدّر المستثمرون قيمة xAI بحوالي 50 مليار دولار في جولة تمويل العام الماضي. وذكرت "بلومبرغ" الشهر الماضي أن الشركة تُجري محادثات لجمع تمويل بقيمة 75 مليار دولار. كانت شركة OpenAI على وشك إتمام جولة تمويلية في فبراير الماضي بقيمة 260 مليار دولار، بينما قُدّرت قيمة شركة Anthropic الناشئة في مجال الذكاء الاصطناعي التوليدي بـ 61.5 مليار دولار في صفقة أُغلقت هذا الشهر.

بالإضافة إلى إدارة Tesla وSpaceX وxAI والإشراف على X، أمضى ماسك معظم وقته هذا العام في واشنطن العاصمة، كشخصية محورية في الإدارة الثانية للرئيس دونالد ترامب.

بعد مساهمته بمبلغ 270 مليون دولار لمساعدة ترامب ومرشحين جمهوريين آخرين وقضاياهم في حملة 2024، عُيّن ماسك مسؤولاً عن وزارة كفاءة الحكومة (DOGE) المُشكّلة حديثًا، والتي تعمل على إلغاء النفقات الحكومية والتخلص من اللوائح. إنه منصب يضع ماسك في موقع يسمح له بإجراء تغييرات بطرق تعود بالنفع على أعماله المختلفة.

هذه ليست المرة الأولى التي يدمج فيها ماسك اثنين من كياناته.

في عام 2016، استحوذت Tesla على SolarCity مقابل 2.6 مليار دولار. أسس ابنا عمه، ليندون وبيتر رايف، شركة تركيب الطاقة الشمسية، وموّلها ماسك، الذي كان رئيسًا لمجلس الإدارة.


ليصلك المزيد من الأخبار اشترك بقناتنا على التيليكرام

مقالات مشابهة

  • الذكاء الاصطناعي يتقن الخداع!
  • دراسة: معاقبة الذكاء الاصطناعي لا تمنعه من الكذب والغش وتجعله يبحث عن حيل جديدة
  • استوديو جيبلي وكابوس الذكاء الاصطناعي
  • شركة ماسك للذكاء الاصطناعي تستحوذ على إكس.. صفقة بقيمة 45 مليار دولار
  • ثورة في توليد الصور بالذكاء الاصطناعي.. أداة جديدة أسرع 9 مرات وتعمل على هاتفك
  • تقنية الذكاء الاصطناعي تدخل عالم العلاج الطبيعي لآلام أسفل الظهر في بريطانيا
  • استحواذ شركة ماسك للذكاء الاصطناعي على منصة "إكس"
  • «AIM للاستثمار» تستشرف مستقبل الذكاء الاصطناعي
  • كيفية إنشاء صور بأسلوب Ghibli باستخدام الذكاء الاصطناعي بطريقة سهلة
  • الذكاء الاصطناعي يتفوق على البشر بتشخيص مرض السيلياك