موقع 24:
2025-04-07@05:42:44 GMT

تطوير برنامج حماية للذكاء الاصطناعي من الاختراق

تاريخ النشر: 4th, February 2025 GMT

تطوير برنامج حماية للذكاء الاصطناعي من الاختراق

أعلنت شركة "أنثروبيك" عن تطوير نظام جديد يمكنه حماية نماذج الذكاء الاصطناعي من محاولات كسر حواجز الحماية (جيل بريك).

وفي التقنية الجديدة يمكن كشف محاولة كسر الحماية على مستوى الإدخال ومنع الذكاء الاصطناعي من توليد استجابة ضارة نتيجة لذلك، واختبرت شركة الذكاء الاصطناعي قوة النظام من خلال برامج كسر الحماية المستقلة وفتحت أيضا عرضا توضيحياً حياً مؤقتاً للنظام للسماح لأي فرد مهتم باختبار قدراته، وفق "غادجيت 360".

ويُطلق على هذا النظام اسم Dubbed Constitutional Classifiers ، وهي عبارة عن تقنية حماية يمكنها اكتشاف محاولات الاختراق.
ويشير "كسر الحماية في الذكاء الاصطناعي التوليدي"، إلى تقنيات الكتابة السريعة غير العادية التي يمكن أن تجبر نموذج الذكاء الاصطناعي على عدم الالتزام بإرشادات التدريب الخاصة به وإنشاء محتوى ضار  وغير مناسب. 

وكسر الحماية ليس شيئاً جديداً، ويطبق معظم مطوري الذكاء الاصطناعي العديد من الضمانات ضده داخل النموذج، غير أنه، ونظراً لأن مهندسي كسر الحماية يواصلون إنشاء تقنيات جديدة، فمن الصعب بناء نموذج لغوي كبير (LLM) محمي تماماً من مثل هذه الهجمات.
وتتضمن بعض تقنيات كسر الحماية مطالبات طويلة للغاية ومعقدة تربك قدرات الذكاء الاصطناعي على التفكير.
ويستخدم البعض الآخر مطالبات متعددة لكسر الضمانات، ويستخدم البعض حتى أحرفاً كبيرة غير عادية لاختراق دفاعات الذكاء الاصطناعي.
وفي منشور يفصل البحث، أعلنت شركة أنثروبيك أنها تعمل على تطوير برنامج كطبقة واقية لنماذج الذكاء الاصطناعي.
وعلاوة على ذلك، أثناء اختبار التقييم الآلي، حيث جربت شركة الذكاء الاصطناعي Claude باستخدام 10000 مطالبة لكسر الحماية، ووجد أن معدل النجاح كان 4.4 بالمائة، مقابل 86 بالمائة لنموذج الذكاء الاصطناعي غير المحمي، وتمكنت أنثروبيك أيضاً من تقليل الرفض المفرط (رفض الاستعلامات غير الضارة) ومتطلبات قوة المعالجة الإضافية للبرنامج الجديد.
 

المصدر: موقع 24

كلمات دلالية: عام المجتمع اتفاق غزة سقوط الأسد عودة ترامب إيران وإسرائيل غزة وإسرائيل الإمارات الحرب الأوكرانية الذكاء الاصطناعي الذکاء الاصطناعی

إقرأ أيضاً:

قمة أفريقيا العالمية الأولى للذكاء الاصطناعي في رواندا تبحث آفاق النمو المستدام

تواصل القمة العالمية الأولى للذكاء الاصطناعي، في أفريقيا، أعمالها في يومها الثاني والختامي، وهي حدث تاريخي يجمع قادة العالم والمبتكرين وصناع السياسات لتعريف دور أفريقيا في مستقبل الذكاء الاصطناعي.

هذه القمة، التي تُعقد بالعاصمة كيغالي من 3 إلى 4 أبريل/نيسان الجاري، ينظمها مركز رواندا للثورة الصناعية الرابعة ووزارة تكنولوجيا المعلومات والابتكار، بالشراكة مع المنتدى الاقتصادي العالمي.

وتحت شعار "الذكاء الاصطناعي والعائد الديموغرافي في أفريقيا: إعادة تصور الفرص الاقتصادية للقوى العاملة الأفريقية" تعكس هذه القمة الحاجة الملحة لاستكشاف كيفية استفادة القارة من الذكاء الاصطناعي لتحويل اقتصاداتها، وتأهيل شبابها بالمهارات المستقبلية، وتأصيل صوتها في السرد العالمي للذكاء الاصطناعي.

مشاركة دولية واسعة

شهد الحدث حضور أكثر من ألف مشارك من 95 دولة، بينهم رؤساء دول، وصناع سياسات، وقادة أعمال، ومستثمرون وأكاديميون.

كما يشارك أكثر من 100 شركة ناشئة في مجال الذكاء الاصطناعي، وبذلك تصبح هذه القمة أكبر حدث مخصص للذكاء الاصطناعي في أفريقيا.

معلقة قمة الذكاء الاصطناعي في كيغالي (مواقع التواصل) رؤية كاغامي

في كلمته الافتتاحية، دعا الرئيس الرواندي بول كاغامي إلى ضرورة أن تسعى أفريقيا لتفادي التأخر في سباق الذكاء الاصطناعي العالمي.

إعلان

وأكد أن قوة القارة تكمن في شعوبها، لا سيما فئة الشباب التي تشكل جزءًا كبيرًا ومتزايدًا من السكان.

وأضاف أن أفريقيا قادرة على أن تصبح لاعبًا رئيسيًا في الاقتصاد العالمي للذكاء الاصطناعي، شريطة الاستثمار في البنية التحتية الرقمية، وتطوير المهارات، وتنظيم السياسات.

3 أولويات أساسية

ركز كاغامي على 3 أولويات أساسية لتحقيق دمج فعال للذكاء الاصطناعي في أفريقيا:

1- تحسين البنية التحتية الرقمية، بما في ذلك الإنترنت عالي السرعة والكهرباء الموثوقة.

2- تطوير قوى عاملة ماهرة قادرة على الاستفادة من الفرص التي يتيحها الذكاء الاصطناعي.

3- تعزيز التكامل القاري لتوحيد السياسات والأطر الحاكمة المتعلقة بالذكاء الاصطناعي.

كما دعا إلى رؤية موحدة وتعاون أقوى بين الدول الأفريقية لضمان أن يكون الذكاء الاصطناعي محركًا للمساواة والفرص والازدهار في القارة.

مجلس أفريقي الذكاء الاصطناعي

شهدت القمة أيضًا إطلاق "مجلس الذكاء الاصطناعي الأفريقي" وهو هيئة متعددة الأطراف تهدف إلى توجيه أجندة الذكاء الاصطناعي بالقارة من خلال الحوكمة الشاملة والمعايير الأخلاقية والاستثمارات الإستراتيجية.

ويسعى المجلس إلى توحيد الدول الأفريقية حول التحديات والفرص المشتركة، وضمان الوصول العادل لتكنولوجيا الذكاء الاصطناعي، وتعزيز الابتكار المحلي، وحماية سيادة البيانات.

جانب من أشغال القمة (مواقع التواصل) خطوة نحو سد الفجوة الحسابية

أحد أبرز الإنجازات في القمة كان الكشف عن أول مصنع للذكاء الاصطناعي في القارة الأفريقية، الذي تقوده شركة كاسافا تكنولوجيز بالشراكة مع شركة نفيديا.

وسيتيح هذا المشروع إنشاء بنية تحتية للحوسبة الفائقة عبر مراكز بيانات كاسافا في كل من جنوب أفريقيا، ومصر، وكينيا، والمغرب، ونيجيريا.

ويهدف المشروع لتمكين الباحثين والمطورين المحليين من بناء وتدريب نماذج باستخدام البيانات المحلية، بما في ذلك اللغات المحلية، وحل المشاكل المحلية.

إعلان التركيز على الشباب

تعد القمة أيضًا منصة حيوية للشباب الأفريقي، حيث يسلط الحدث الضوء على كيفية تأثير الشباب في تشكيل مشهد الذكاء الاصطناعي من خلال الابتكار، والبحث، وريادة الأعمال.

ومع كون أكثر من 60% من سكان أفريقيا تحت سن 25، يُعتبر تمكين الشباب بالمعرفة والأدوات المتعلقة بالذكاء الاصطناعي ضرورة وفرصة في ذات الوقت.

مستقبل الذكاء الاصطناعي بأفريقيا

تستمر القمة في كيغالي كمركز رئيسي للحوار حول كيفية تحول أفريقيا من مستهلك للتكنولوجيا إلى منتج رئيسي في مجال الذكاء الاصطناعي.

ومع إطلاق مجلس الذكاء الاصطناعي الأفريقي، وبدء تنفيذ مشاريع مثل مصنع الذكاء الاصطناعي، تظهر أفريقيا اليوم جاهزيتها للعب دور محوري في الاقتصاد الرقمي العالمي، وتؤكد أن اللحظة الأفريقية في مجال الذكاء الاصطناعي قد حانت.

مقالات مشابهة

  • بهدف تزويد رؤساء ومديري إدارات تقنية المعلومات بالخبرات.. أكاديمية طويق تطلق برنامج «قادة تقنيات المستقبل»
  • أكاديمية طويق تطلق برنامج "قادة تقنيات المستقبل" لتطوير الموظفين
  • اختبار جديد للذكاء الاصطناعي يحدث ثورة في تشخيص أمراض القلب
  • الإمارات تشارك في القمة العالمية للذكاء الاصطناعي برواندا
  • الإمارات تشارك في القمة العالمية للذكاء الاصطناعي في رواندا
  • موظفة تقاطع كلمة رئيس مايكروسوفت للذكاء الاصطناعي وتصرخ: عار عليك
  • بمشاركة 1500 شركة منها 200 مغربية.. معرض التكنولوجيا "جيتيكس" يركز على الذكاء الاصطناعي
  • خبير: قمة المتاحف 2025 تركز على تقنيات العرض واستخدام الذكاء الاصطناعي
  • قمة أفريقيا العالمية الأولى للذكاء الاصطناعي في رواندا تبحث آفاق النمو المستدام
  • سلطنة عمان تشارك في ملتقى القمة العالمية للذكاء الاصطناعي في أفريقيا