تحذيرات من استخدام الذكاء الاصطناعي في القرصنة الإلكترونية
تاريخ النشر: 14th, February 2024 GMT
كشفت مايكروسوفت وأوبن إيه آي اليوم أن المتسللين يستخدمون بالفعل نماذج لغوية كبيرة المعروفة اختصارا بـ"إل إل إم إس" (LLMs) مثل شات جي بي تي لتحسين هجماتهم الإلكترونية الحالية وتحسينها، بحسب موقع ذي فيرج.
ففي بحث منشور حديثا، اكتشفت مايكروسوفت وأوبن إيه آي محاولات من قبل مجموعات مدعومة من روسيا وكوريا الشمالية وإيران والصين باستخدام أدوات مثل شات جي بي تي للبحث في الأهداف، وتحسين النصوص البرمجية، والمساعدة في بناء تقنيات الهندسة الاجتماعية.
وتقول مايكروسوفت في مدونة: "تقوم مجموعات الجرائم الإلكترونية، والجهات الفاعلة التي تهدد الدول، وغيرهم من الخصوم، باستكشاف واختبار تقنيات الذكاء الاصطناعي المختلفة عند ظهورها، في محاولة لفهم الميزات المحتملة لعملياتهم والضوابط الأمنية التي قد يحتاجون إليها للتحايل".
وأضافت مايكروسوفت أنه "تبين أن مجموعة سترونتيوم المرتبطة بالمخابرات العسكرية الروسية، تستخدم نماذج اللغة الكبيرة والمعروفة لفهم بروتوكولات الاتصالات عبر الأقمار الصناعية، وتقنيات التصوير الراداري، ومعايير تقنية محددة".
وكانت مجموعة القرصنة المعروفة أيضا باسم "إيه بي تي 28" أو "فانسي بير"، نشطة خلال حرب روسيا في أوكرانيا، وشاركت سابقا في استهداف حملة هيلاري كلينتون الرئاسية في عام 2016، وفقا لما ذكره موقع ذي فيرج.
كما تَستخدم المجموعة أيضا نماذج اللغة الكبيرة للمساعدة في "مهام البرمجة النصية الأساسية، بما في ذلك معالجة الملفات، واختيار البيانات، والتعبيرات العادية، والمعالجة المتعددة، لأتمتة العمليات الفنية أو تحسينها"، وفقا لمايكروسوفت.
وبحسب موقع "ذي فيرج"، تستخدم مجموعة القرصنة الكورية الشمالية المعروفة باسم ثاليوم نماذج اللغة الكبيرة، للبحث عن نقاط الضعف المبلّغ عنها علنا، واستهداف المنظمات للمساعدة في مهام البرمجة النصية الأساسية، وصياغة محتوى لحملات التصيد الاحتيالي.
وتقول مايكروسوفت إن المجموعة الإيرانية المعروفة باسم كوريوم تستخدم أيضا نماذج اللغة الكبيرة لإنشاء رسائل بريد إلكتروني للتصيد الاحتيالي وحتى تعليمات برمجية لتجنب اكتشافها بواسطة تطبيقات مكافحة الفيروسات. ويستخدم المتسللون الصينيون التابعون للدولة أيضا نماذج اللغة الكبيرة للبحث والبرمجة والترجمات وتحسين أدواتهم الحالية.
وكانت هناك مخاوف إزاء استخدام الذكاء الاصطناعي في الهجمات الإلكترونية، لا سيما مع ظهور أدوات الذكاء الاصطناعي مثل "وُرم جي بي تي" و"فرويد جي بي تي" للمساعدة في إنشاء رسائل البريد الإلكتروني الضارة وأدوات الاختراق.
كما حذر مسؤول كبير في وكالة الأمن القومي الشهر الماضي من أن المتسللين يستخدمون الذكاء الاصطناعي لجعل رسائل البريد الإلكتروني التصيدية الخاصة بهم تبدو أكثر إقناعا.
ولم تَكتشف مايكروسوفت وأوبن إيه آي أي "هجمات كبيرة" حتى الآن، لكن الشركتين قامتا بإغلاق جميع الحسابات والأصول المرتبطة بمجموعات القرصنة هذه.
وتقول مايكروسوفت: "في الوقت نفسه، نشعر أنه من المهم نشر هذا البحث لكشف التحركات التدريجية في المراحل المبكرة التي نلاحظ قيام جهات فاعلة معروفة بالتهديد بها، ومشاركة المعلومات عن كيفية حظرنا ومواجهتهم مع مجتمع المدافعين".
وبينما يبدو استخدام الذكاء الاصطناعي في الهجمات الإلكترونية محدودا في الوقت الحالي، فإن مايكروسوفت تحذر من حالات الاستخدام المستقبلية مثل انتحال الهوية الصوتية.
وبطبيعة الحال، تستخدم مايكروسوفت الذكاء الاصطناعي للرد على هجمات الذكاء الاصطناعي. يقول مدير تحليلات في مايكروسوفت هوما هاياتيفار: "يمكن للذكاء الاصطناعي أن يساعد المهاجمين على تحقيق المزيد من التطور في هجماتهم، ولديهم الموارد اللازمة لتنفيذها.. لقد رأينا ذلك مع أكثر من 300 جهة تهديد تتعقبها مايكروسوفت، ونحن نستخدم الذكاء الاصطناعي للحماية والكشف والاستجابة".
وتقوم مايكروسوفت ببناء سيكيورتي كوبايلوت، وهو مساعد جديد للذكاء الاصطناعي صُمم لمتخصصي الأمن السيبراني لتحديد الخروقات وفهم الكميات الهائلة من الإشارات والبيانات التي يجري إنشاؤها من خلال أدوات الأمن السيبراني يوميا بشكل أفضل.
وتقوم شركة البرمجيات العملاقة أيضا بإصلاح أمان برامجها في أعقاب الهجمات السحابية الكبرى على آزور، وحتى تجسس المتسللين الروس على المديرين التنفيذيين لشركة مايكروسوفت.
المصدر: الجزيرة
كلمات دلالية: الذکاء الاصطناعی جی بی تی
إقرأ أيضاً:
«الذكاء الاصطناعي» يرسم تصوراً لـ«شكل العالم» بعد 30عاماً
رسم الذكاء الاصطناعي “تصورًا لشكل العالم بعد 30 عامًا، حيثُ ستكون التطورات في العالم بحلول عام 2050 مدفوعة بشكل أساسي بتكنولوجيا المعلومات، وخصوصا الذكاء الاصطناعي على وجه التحديد”.
ووفق الصورة، “جاء تصور الذكاء الاصطناعي بعد أن تم سؤال روبوتات الذكاء الاصطناعي عن كيف ستكون السنوات الثلاثين القادمة على كوكب الأرض، وفيما يلي بعض الاتجاهات الرئيسية التي من المرجح أن تشكل السنوات الثلاثين القادمة”، بحسب الذكاء الاصطناعي.
وبحسب الذكاء الاصطناعي، “ستكون السنوات الثلاثين القادمة وقتًا للتغيير والاضطرابات العظيمة لكوكب الأرض، حيث يواجه العالم عددًا من التحديات، بما في ذلك تغير المناخ، وعدم المساواة الاقتصادية، وعدم الاستقرار السياسي، في المقابل ستزدهر تكنولوجيا الاتصالات والنقل وسيختبر البشر حدود التعاون والابتكار مع الروبوتات”.
وبحسب الذكاء الاصطناعي، “يعد تغير المناخ أحد التحديات الأكثر إلحاحًا التي تواجه العالم اليوم، وقد بدأنا نشعر بآثار تغير المناخ في جميع أنحاء العالم، في شكل أحداث مناخية أكثر تطرفًا، وارتفاع مستويات سطح البحر، وتغيرات في الأنماط الزراعية، وإذا لم نتخذ إجراءات لمعالجة ، فإن العواقب ستكون مدمرة، ويُعتبر التفاوت الاقتصادي تحديًا رئيسيًا آخر يواجه العالم اليوم، وستتسع الفجوة بين الأغنياء والفقراء، وهذا سيؤدي إلى اضطرابات اجتماعية وعدم استقرار سياسي، ومن أجل ذلك نحن بحاجة إلى إيجاد طرق للحد من التفاوت الاقتصادي وخلق عالم أكثر عدالة وإنصافًا”.
ووفق التصورات، “إن تطوير التقنيات الجديدة مثل الذكاء الاصطناعي وتعديل الجينات لديه القدرة على إحداث ثورة في حياتنا، ولكنه يفرض أيضًا تحديات جديدة، لذلك نحن بحاجة إلى إيجاد طرق لضمان استخدام هذه التقنيات للخير وليس للضرر، ويتوقع الذكاء الاصطناعي أنه مع تزايد المخاوف بشأن تغير المناخ في جميع أنحاء العالم، قد يكون هناك تركيز أقوى على مصادر الطاقة المتجددة مثل الطاقة الشمسية وطاقة الرياح والطاقة الكهرومائية، وستؤدي الكثير من الجهود للتخفيف من آثار تغير المناخ والحد من انبعاثات الكربون إلى ممارسات أكثر استدامة في الصناعات والأنشطة اليومية، وعلى سبيل المثال، في صناعة النقل، سيحول الذكاء الاصطناعي قطاع النقل تمامًا بعد 30 عامًا من خلال تمكين السيارات ذاتية القيادة من خلال الأتمتة والشاحنات والطائرات بدون طيار، مما سيؤدي إلى تحسين السلامة وتقليل الازدحام المروري وزيادة الكفاءة”.
كما توقع الذكاء الاصطناعي “أنه بعد 30 عامًا، من المتوقع أن يعيش أكثر من ثلثي سكان العالم في المناطق الحضرية، مما سيؤدي إلى تطوير مدن أكثر ذكاءً وترابطًا، وترسم توقعات الذكاء الاصطناعي صورة لعالم سيشهد ارتفاع درجات الحرارة والمزيد من الكوارث الطبيعية وارتفاع مستويات سطح البحر، وزيادة التحضر، لكن سيساعد التقدم التكنولوجي في مجالات مثل الطاقة المتجددة والرعاية الصحية والنقل والمدن الذكية في التخفيف من بعض الآثار السلبية لهذه التغييرات”.
الصحة: تخصيص عيادة للعقر وتوفير الأمصال واللقاحات بمستشفى حميات الخارجة