غوغل تسخّر الذكاء الاصطناعي للكشف عن الثغرات البرمجية
تاريخ النشر: 29th, June 2024 GMT
أعلنت شركة غوغل عن تطوير بنية برمجية جديدة ستساعد على استخدام الذكاء الاصطناعي للكشف عن الثغرات البرمجية.
وتبعا للمعلومات المتوفرة فإن البنية البرمجية الجديدة Project Naptime التي طورتها غوغل، مصممة للعمل مع نماذج LLM البرمجية، وبمساعدتها ستكون هذه النماذج قادرة على تحليل البرمجيات والكشف بشكل تلقائي عن نقاط الضعف فيها.
وأشار الخبراء في غوغل إلى أن الفكرة من تطوير بنية Naptime هي مساعدة خبراء الأمن السيبراني في العمل على اكتشاف الثغرات البرمجية، فآلية عملها تشبه آلية عمل هؤلاء الخبراء، ومن خلال الذكاء الاصطناعي ستتمكن هذه البرمجيات من اكتشاف الثغرات بشكل سريع، وسيتم تلافي الأخطاء البشرية التي قد تظهر أثناء عمليات التحقق من البرمجيات.
وسيكون بإمكان خبراء الأمن السيبراني تطوير قدرات بنية Naptime من خلال تزويدها بالبيانات والرموز المتعلقة بالثغرات البرمجية، ومع مرور الوقت ستزداد قدرات هذه البنية على تحليل البيانات واكتشاف الثغرات.
المصدر: securitylab.ru
المصدر: شمسان بوست
إقرأ أيضاً:
كيف أغرق جيش الاحتلال غزة بالقنابل عن طريق الذكاء الاصطناعي؟
سلّطت صحيفة "واشنطن بوست" الأمريكية، الضوء على استخدام جيش الاحتلال الإسرائيلي لأدوات الذكاء الاصطناعي في إغراق قطاع غزة بالقنابل، خلال حربه المستمرة على القطاع.
وقالت الصحيفة في تقرير أعدته إليزابيث دوسكين، إن "إسرائيل أنشأت مصنعا للذكاء الاصطناعي، وأطلقت العنان له في حرب غزة الحالية"، منوهة إلى أنه "قبل سنوات طورت تل أبيب وحدة استخباراتية وحولتها إلى ساحة فحص الذكاء الاصطناعي، ما أدى إلى نقاش بين القادة العسكريين البارزين حول قدرة البشر على التحكم به".
ولفتت إلى أن الجيش الإسرائيلي أغرق قطاع غزة بالقنابل، مستفيدا من قاعدة البيانات التي تم تجميعها بعناية شديدة على مر السنين، والتي تفصل عناوين المنازل والأنفاق والبنية التحتية الأخرى الحيوية لحركة حماس.
وتابعت: "بنك الأهداف نُفذ بسرعة، ومن أجل الحفاظ على وتيرة الحرب، لجأ الجيش الإسرائيلي إلى أداة ذكاء اصطناعي معقدة اسمها هاسبورا، والتي يمكن أن تولد بسرعة مئات الأهداف الإضافية"، وذلك حسب شخصين مطلعين على العملية.
وأوضحت الصحيفة أن "استخدام الذكاء الاصطناعي سمح بإعادة تعبئة بنك الأهداف للجيش الإسرائيلي، ومواصلة حملته دون انقطاع"، مبينة أن "اللجوء إلى هذه الأداة هو مثال على كيفية مساهمة البرنامج الذي استمر لعقد من الزمان، لوضع أدوات الذكاء الاصطناعي المتقدمة في مركز عمليات استخبارات الجيش الإسرائيلي".
وبحسب ما نقلته "واشنطن بوست" عن خبراء، فإن الجيش الإسرائيلي أقر بوجود هذه البرامج التي تعتبر من أكثر المبادرات بمجال الذكاء الاصطناعي.
لكن تحقيق الصحيفة يكشف تفاصيل جديدة لم يتم الحديث عنها في السابق، وتتعلق بالعمل الداخلي لآلة التعلم للبرنامج، إلى جانب التاريخ السري الطويل لتطويره.
وأشارت إلى أن برنامج الذكاء الاصطناعي كان وراء المشاهد التي سرعت من عمليات القتل في غزة، والتي طالت أكثر من 45 ألف شخص، نصفهم من النساء والأطفال، بحسب الأرقام المعلنة من وزارة الصحة الفلسطينية بقطاع غزة.
سرعة توليد الأهداف
وقال أشخاص على معرفة بممارسات الجيش الإسرائيلي، بمن فيهم الجنود الذي قاتلوا في غزة، إن "الجيش زاد من نسبة الضحايا المقبولة بين المدنيين عن النسبة العادية، وإن هذا التحول ساعد عليه الأتمتة والتشغيل الآلي، الذي زاد من سرعة توليد الأهداف وتوسيع مداها".
واعتمدت الصحيفة في تحقيقها على مقابلة عدد كبير من الأشخاص المطلعين على النظام، معظمهم طلب عدم الكشف عن هويتهم. وقال ستيفن فيلدستين، الزميل البارز في وقفية كارنيغي للسلام العالمي: "ما يجري في غزة هو استمرار للتحول بطريقة شن الحرب".
وزعم الجيش الإسرائيلي أن الحديث عن أخطاء باستخدام الذكاء الاصطناعي وتعريضه حياة المدنيين للخطر "غير صحيحة". وقال "كلما زادت القدرة على تجميع المعلومات بشكل فعال، كلما كانت العملية أكثر دقة. إذا كان هناك أي شيء، فإن هذه الأدوات قللت من الأضرار الجانبية ورفعت من دقة العملية التي يقودها الإنسان".
ويطلب الجيش الإسرائيلي من الضابط التوقيع على أي توصيات من أنظمة "معالجة البيانات الضخمة" الخاصة به، حسب مسؤول استخباراتي تحدث بشرط عدم الكشف عن هويته. وأضاف الشخص أن "هاسبورا" وأدوات الذكاء الاصطناعي الأخرى لا تتخذ القرارات بشكل مستقل.
وتقول الصحيفة إن التغييرات في وحدة الاستخبارات المعروفة باسم 8200 تكثفت في عام 2020 تحت إدارة يوسي ساريل، الذي قام بتحويل عمل الوحدة وطرق جمع الاستخبارات. وكان ساريل من الداعين لتطوير آلة ذكاء اصطناعي وبرمجية "هاسبورا" لجمع المعلومات وتقوم على خوارزميات تكهنية، يسمح للجنود بالاستعلام بسرعة عن كنز هائل من البيانات المعروفة داخل المؤسسة العسكرية باسم "المسبح".
ومن خلال مراجعة كميات هائلة من البيانات من الاتصالات التي تم اعتراضها ولقطات الأقمار الصناعية وشبكات التواصل الاجتماعي، تقوم الخوارزميات بإخراج إحداثيات الأنفاق والصواريخ وغيرها من الأهداف العسكرية.
ويتم وضع التوصيات التي تنجو من التدقيق من قبل محلل استخباراتي في بنك الأهداف من قبل ضابط كبير. وتستخدم أداة أخرى للتعلم الآلي، تسمى لافندر، نسبة مئوية للتنبؤ بمدى احتمالية أن يكون الفلسطيني عضوا في جماعة مسلحة، ما يسمح للجيش الإسرائيلي بتوليد حجم كبير من الأهداف البشرية المحتملة بسرعة.
وتحمل الخوارزميات أسماء مثل الخيمائي وديبث أوف ويسدوم وهانتر وفلو، حيث يسمح الأخير بالاستعلام عن مجموعات بيانات مختلفة ولم يتم الإبلاغ عنها مسبقا. وطالما طرح العديد من ضباط الوحدة أسئلة وشكوكا حول آلة التعلم الآلي والقرارات السريعة التي تتخذها، وأنها تحمل في داخلها عيوبا أساسية.
ولم تشر التقارير المقدمة إلى القيادة العليا إلى كيفية استخلاص المعلومات الاستخباراتية، سواء من المحللين البشريين أو أنظمة الذكاء الاصطناعي، ما يجعل من الصعب على المسؤولين تقييم النتائج، وذلك مسؤول عسكري كبير سابق.
التكهن بأثر الهجمات
ووجدت مراجعة داخلية أن بعض أنظمة الذكاء الاصطناعي لمعالجة اللغة العربية تعاني من أخطاء، حيث فشلت في فهم الكلمات والعبارات العامية الرئيسية، حسب مسؤولين عسكريين سابقين. وبحسب الجيش الإسرائيلي فإن تكنولوجيا التعلم الآلي تستطيع التكهن بأثر الهجمات وعدد المدنيين الذين سيتضررون وتساعد إسرائيل على الالتزام بالقانون الدولي.
وبالإضافة إلى المخاوف بشأن جودة الاستخبارات المشتقة من الذكاء الاصطناعي، فإن استخدام هذه التكنولوجيا قد أثار تحولا جذريا في النموذج داخل الجيش الإسرائيلي، حيث اختطف ثقافة استخباراتية كانت تاريخيا تقدر التفكير الفردي لصالح ثقافة تعطي الأولوية للبراعة التكنولوجية، حسب ثلاثة من الأشخاص.
وقد مكنت وحدة 8200 منذ فترة طويلة المحللين من المستوى المنخفض، من تجاوز رؤسائهم المباشرين وإصدار تحذيرات مباشرة لكبار القادة.
وتحت قيادة سارييل وقادة استخباراتيين آخرين، أعادت وحدة 8200 هيكلتها للتركيز على المهندسين، وخفض المتخصصين باللغة العربية. وكذا التخلص العديد من القادة الذين يعتبرون مقاومين للذكاء الاصطناعي، وحل بعض المجموعات التي لا تركز على تكنولوجيا استخراج البيانات، حسب ثلاثة أشخاص.
المصنع يدك غزة
وباعتراف إسرائيل نفسها، لعب الذكاء الاصطناعي دورا كبيرا في عملية الاستهداف في غزة. ففي غضون أيام من هجمات 7 تشرين الأول/ أكتوبر انهالت ذخائر مارك 80 المصنعة في الولايات المتحدة والتي يبلغ وزنها 2,000 رطلا على القطاع. وفي بيان صحفي صدر في 2 تشرين الثاني/نوفمبر 2023، أعلن الجيش الإسرائيلي أن "هاسبورا" ساعده في قصف 12,000 هدف في غزة.
وعلى أنغام موسيقى درامية وفيديو لمباني تنفجر، أعلن البيان الصحفي عن "تعاون هو الأول من نوعه"، حيث تم تزويد القوات على الأرض وفي الجو وفي البحر بالمعلومات الاستخباراتية من مصنع أهداف الذكاء الاصطناعي في الوقت الفعلي، ما يتيح "تنفيذ مئات الهجمات في لحظة".
وقال آدم راز، المؤرخ الإسرائيلي الذي أجرى مقابلات مع جنود وقادة حول استخدام 8200 للذكاء الاصطناعي، إنه حسب أن الجيش الإسرائيلي كان يضرب هدفين تقريبا في الدقيقة في ذروة القصف - وهو ما رأى أنه معدل "مذهل".
وفي الأيام الأولى من الحرب كان مصنع الأهداف يعمل بسرعة فائقة، وكان يعمل به حوالي 300 جنديا على مدار الساعة. وكان مطلوبا من العديد من المحللين فحص الأهداف الموصى بها من "هاسبورا" و"لافندر"، وهي عملية قد تستغرق من ثلاث دقائق إلى خمس ساعات.
وتم التخلي عن القاعدة التي تلزم توفر دليلين استخباريين بشريين، للتحقق من صحة التنبؤ من "لافندر"، وتقليصه إلى دليل واحد في بداية الحرب، حسب شخصين مطلعين على الجهود.
وقال جندي إنه في بعض الحالات في فرقة غزة، هاجم جنود مدربون بشكل سيئ على استخدام التكنولوجيا أهدافا بشرية دون تأكيد تنبؤات "لافندر" على الإطلاق. وفي أوقات معينة، كان التأكيد الوحيد المطلوب هو إن كان الهدف ذكرا، حسب شخص آخر مطلع على الجهود.
وقال: "لقد بدأت مع لافندر، ثم قمت بعمل الاستخبارات". وللتتبع السريع للأشخاص الذين أشار إليهم لافندر باعتبارهم أعضاء محتملين في حماس، حصل الجيش على صور في الوقت الفعلي لأشخاص في منازلهم باستخدام طريقة رفض الجندي وصفها. ومكنتهم أدوات التعرف على الوجه المصممة خصيصا من مقارنة الصور بالصور الموجودة لأعضاء حماس في قاعدة بيانات لافندر.
وقال الشخص إنه في حين بدت المطابقات دقيقة، إلا أن بعض الجنود شعروا بالقلق من أن الجيش يعتمد فقط على التكنولوجيا دون تأكيد على أن الأشخاص ما زالوا أعضاء نشطين في حماس.
بأرقام الشاسيه.. حماية المستهلك: وقف التعامل على هذه السيارات الجديدة