للتعامل مع طالبي اللجوء.. الشرطة الأميركية تستعين بالذكاء الاصطناعي
تاريخ النشر: 8th, May 2024 GMT
قال وزير الأمن الداخلي الأميركي، أليهاندرو مايوركس، الثلاثاء، إن الوزارة تعمل على تجربة تقنيات ذكاء اصطناعي لتدريب أفراد الشرطة الذين يجرون مقابلات مع طالبي اللجوء إلى الولايات المتحدة.
وقال مايوركس للصحفيين، إن وزارة الأمن الداخلي تقوم في هذا المشروع التجريبي بتدريب الآلات على التصرف مثل اللاجئين، حتى يتمكن أفراد الشرطة من التدرب على إجراء مقابلات معهم.
وأضاف "نظرا للصدمة التي مروا بها، يحجم طالبو اللجوء عن التحدث عن تلك الصدمة. لذا نقوم بتعليم الآلة أن تكون متحفظة أيضا"، وأن تتبنى "صفات" أخرى لطالبي اللجوء.
تصريحات مايوركس، التي أدلى بها على هامش مؤتمر يركز على الأمن في سان فرانسيسكو، توضح مبادرات الذكاء الاصطناعي التي أفصحت عنها وزارة الأمن الداخلي في وقت سابق من العام الجاري.
وقالت الوزارة إنها تخطط لتطوير تطبيق تفاعلي من أجل استكمال تدريبها لمسؤولي الهجرة، بالاعتماد على ما يعرف بالذكاء الاصطناعي التوليدي الذي يقدم محتوى جديدا استنادا إلى بيانات سابقة.
وقالت الوزارة إن إدارة خدمات المواطنة والهجرة الأميركية، على وجه الخصوص، وهي إدارة تابعة لوزارة الأمن الداخلي، ستعمل على بناء تطبيق للذكاء الاصطناعي يصمم مواد تدريبية لاحتياجات أفراد الشرطة ويعدهم لاتخاذ قرارات أكثر دقة.
وأضافت الوزارة أن تقنيات الذكاء الاصطناعي لن تتخذ قرارات من نفسها فيما يتعلق بالهجرة، وقال مايوركس إن هذه التقنيات ستكون لديها القدرة على تحديد الظروف الخاصة بكل بلد وغيرها من المعلومات التي من شأنها أن تساعد سير العمل.
وبهذا المشروع التجريبي وعدة تجارب في هذا المجال، تسعى الحكومة لخفض التكاليف وتحسين الأداء من خلال الذكاء الاصطناعي، وخاصة بعد الإطلاق الكبير لمنصة (تشات جي.بي.تي) في عام 2022.
المصدر: الحرة
كلمات دلالية: الأمن الداخلی
إقرأ أيضاً:
مراكز البيانات الأميركية في مرمى التجسس الصيني.. ثغرات تهدد الذكاء الاصطناعي
في قلب السباق العالمي المحموم نحو الذكاء الاصطناعي الفائق، الذي تتنافس فيه الأمم لتطوير أنظمة قادرة على إعادة تشكيل موازين القوى، تبرز نقطة ضعف خفية، لكنها بالغة الأهمية، قد تقلب هذه المنافسة رأسا على عقب.
فمراكزُ البيانات الأميركية، التي تمثل البنية التحتية الحيوية لتدريب وتشغيل نماذج الذكاء الاصطناعي المتقدمة، أصبحت هدفا رئيسيا لتهديدات سيبرانية متطورة، يُخشى أن يكون بعضها مدعوما من قوى دولية منافسة.
تقرير حديث صادر عن "غلادستون إيه آي" (Gladstone AI)، راجعته البيت الأبيض، يكشف عن ثغرات أمنية خطِرة في هذه المراكز قد تؤدي إلى تعطيل مشاريع الذكاء الاصطناعي وتقويض الأمن القومي الأميركي على حد سواء، خاصة مع إمكانية استغلال هذه الهجمات سرقة ملكية فكرية حساسة أو شن هجمات تخريبية مدمرة.
وفي هذا السياق، يتبادر إلى الذهن سؤال محوري: هل يمكن أن تكون مراكز البيانات، التي تعتبر حصونا للابتكار، هي نفسها نقطة الضعف القاتلة في معركة الذكاء الاصطناعي؟
التجسس الصيني يترصّد مراكز الذكاء الاصطناعي.. ماذا كشف تقرير "غلادستون إيه آي"؟تستثمر شركات التكنولوجيا مئات المليارات من الدولارات في إنشاء مراكز بيانات جديدة داخل الولايات المتحدة، حيث يفترض في حال سارت الأمور وفقا للخطة، أن تستخدم هذه المراكز لتطوير نماذج ذكاء اصطناعي فائقة القوة.
إعلانغير أن هذه المراكز، بحسب التقرير الذي نشره مركز "غلادستون إيه آي" (Gladstone AI) الثلاثاء 22 أبريل/نيسان، تواجه خطرا متزايدا يتمثل في التجسس الصيني. ويرى معدّو التقرير أن التهديد لا يقتصر على الخسائر المالية المحتملة لشركات التكنولوجيا، بل يمتدّ ليطال الأمن القومي الأميركي، في ظل السباق الجيوسياسي الشرس مع الصين للوصول إلى تفوق في تطوير الذكاء الاصطناعي المتقدم.
وبحسب مؤلفيْ التقرير، الشقيقين إدوار وجيرمي هارس من شركة "غلادستون إيه آي"، الاستشارية للحكومة الأميركية بشأن التداعيات الأمنية لِتقنيات الذكاء الاصطناعي، فقد جرى تداوله بنسخته غير المنقحة داخل البيت الأبيض في الأسابيع الأخيرة من إدارة ترامب. وقد حصلت مجلة "تايم" (Time) على نسخة منقحة منه قبل نشره للجمهور، بينما امتنع البيت الأبيض عن التعليق على محتواه.
ويحذر التقرير من أن مراكز بيانات الذكاء الاصطناعي الكبرى الحالية، وكذلك تلك التي قيد الإنشاء مثل مشروع "ستارغيت" (Stargate) التابع لـ "أوبن إيه آي" قد تواجه نوعين من التهديدات التي قد تنفذها جهات معادية على مستوى الدول، وفقا لما صرح به المؤلفون لمجلة "تايم"، وهما:
التخريب غير المتماثل: إذ يمكن لهجمات منخفضة التكلفة أن تحدث شللا في العمليات الحيوية لهذه المراكز عدة أشهر. هجمات التسريب: وتستهدف مباشرة سرقة أو مراقبة النماذج المحمية التي تمثل جوهر التقدم في هذا المجال.وفي هذا السياق، يقول إدوار هاريس، أحد مؤلفي التقرير: "قد ينتهي بنا الأمر إلى عشرات من مواقع مراكز البيانات التي تعدّ فعليا أصولا عالقة، لا يمكن تحديثها لتلبية متطلبات الأمن المطلوبة"، ووصف ذلك بأنه "ضربة قاسية ومؤلمة".
تجدر الإشارة إلى أن الشقيقين هارس، وخلال عام كامل من البحث، زارا مع فريق يضم عناصر سابقين من القوات الخاصة الأميركية المتخصصين في الأمن السيبراني، أحد مراكز البيانات التابعة لإحدى كبرى شركات التكنولوجيا.
إعلانحيث اطلعوا أثناء عملهم على حالة مؤكدة تعرّض فيها مركز بيانات تابع لشركة أميركية لهجوم نتج عنهُ سرقة ملكية فكرية، إضافة إلى محاولة استهداف منشأة أخرى عبر مكون حساس لم يُذكر اسمه، وهو هجوم كان من شأنه، لو نجح، أن يعطل المركز أشهرا.
علاوة على ذلك، يتناول التقرير دعوات أطلقتها جهات من وادي السيليكون ودوائر في واشنطن للشروع في "مشروع مانهاتن" (Manhattan Project) للذكاء الاصطناعي، بهدف تطوير ما يُعرف بـ "الذكاء الفائق"، وهي تقنيات ذكاء اصطناعي خارقة قد تمنح الولايات المتحدة تفوقا إستراتيجيا على الصين.
وعلى الرغم من النبرة التحذيرية للتقرير، فإنه لا يدعو صراحة إلى تنفيذ هذا المشروع، كما لا يعارضه. بل يشير إلى أن الشروع في مثل هذا الجهد الطموح دون معالجة نقاط الضعف الحالية قد يؤدي إلى فشله بدايةً.
ويختتم: "ليس هناك ما يضمن أننا سنبلغ الذكاء الفائق قريبا، لكن إذا حدث ذلك، وكنّا نريد حمايته من السرقة أو التخريب على يد الحزب الشيوعي الصيني، فعلينا أن نبدأ في بناء منشآت آمنة من الأمس، لا من الغد".
يكشف التقرير عن نقطة ضعف أخرى تتمثل في الهيمنة الصينية على أجزاء رئيسية من مكونات مراكز البيانات الحديثة، حيث يتم تصنيع العديد من هذه المكونات حصريا أو شبه حصري داخل الصين. ومع التوسع الهائل في صناعة مراكز البيانات، فإن الطلب على هذه الأجزاء قد تفاقم عدة سنوات، مما يعقد عملية الحصول عليها.
وهذا يعني أن أي هجوم على مكون حيوي معين قد يتسبب في تعطيل مركز البيانات مدة طويلة، قد تصل إلى عدة أشهر أو أكثر.
ويزعم التقرير أن بعض هذه الهجمات قد تكون غير متكافئة بشكل كبير. على سبيل المثال، يمكن تنفيذ إحدى هذه الهجمات المحتملة مقابل 20 ألف دولار فقط، وإذا نجحت، يمكن أن تعطل مركز بيانات بقيمة 2 مليار دولار فترة تتراوح بين ستة أشهر إلى سنة كاملة.
إعلانكما يشير التقرير أيضا، إلى أن الصين قد تؤخر شحن المكونات الضرورية لإصلاح مراكز البيانات المتضررة نتيجة لهذه الهجمات، خصوصا إذا اعتبرت أن الولايات المتحدة على وشك تطوير الذكاء الفائق. ويؤكد المصدر نفسه أنه "من المحتمل أن تبدأ المهل الزمنية للمكونات الحيوية، مثل المولدات والمحولات في ازدياد غامض، مقارنة بما هي عليه الآن".
ويضيف التقرير أنه في حال حدوث ذلك، سيكون مؤشرا على أن الصين تُحول في هدوء هذه المكونات إلى منشآتها الخاصة، نظرا لسيطرتها على القاعدة الصناعية التي تصنع معظمها.
كيف تفتح الثغرات الأمنية في مختبرات الذكاء الاصطناعي الطريق لهجمات الدول الكبرى؟يفيد التقرير، أن مراكز البيانات الحالية، ومختبرات الذكاء الاصطناعي نفسها، لا تتمتع بالأمان الكافي لمنع سرقة أوزان الذكاء الاصطناعي، التي تعدّ أساس الشبكات العصبية الكامنة وراء هذه النماذج. ووفقا للمصدر نفسه، فإن هذه الثغرات قد تتيح للمهاجمين على مستوى الدولة تنفيذ هجمات فعالة.
في هذا السياق، يستشهد المؤلفون بمحادثة مع باحث سابق في "أوبن إيه آي"، الذي وصف ثغرتين قد تسمحان بحدوث هجمات مشابهة. واحدة من هذه الثغرات أُبلِغ عنها على قنوات "سلاك" (Slack) الداخلية للشركة، لكنها ظلت بلا معالجة عدة أشهر.
ورغم أن التفاصيل الدقيقة للهجمات لم تدرج في النسخة التي اطلعت عليها مجلة "تايم" من التقرير، إلا أن تلك الحوادث تسلط الضوء على ثغرات كبيرة في أنظمة الأمان.
في المقابل، صرح متحدث باسم "أوبن إيه آي" في بيان: "ليس من الواضح تماما ما تشير إليه هذه الادعاءات، لكن يبدو أنها قديمة ولا تعكس الوضع الحالي لمُمارساتنا الأمنية. لدينا برنامج أمني صارم تشرف عليه لجنة السلامة والأمن التابعة لمجلس إدارتِنا".
ورغم هذه الردود، يقر مؤلفو التقرير أن الأمور تتحسن ببطء. حيث يقول التقرير: "وفقا لعدد من الباحثين الذين تحدثنا إليهم، فقد شهد الأمن في مختبرات الذكاء الاصطناعي الرائدة تحسنا طفيفا في العام الماضي، لكنه لا يزال بعيدا عن توفير الحماية الكافية من هجمات الدول".
إعلانكما أضاف المصدر ذاته، أن الضوابط الأمنية الضعيفة في العديد من هذه المختبرات ناتجة في جزء منها عن تحيز ثقافي نحو السرعة على حساب تعزيز الأمن.
وبحسب تقرير مجلة "تايم"، يتفق الخبراء المستقلون على أن العديد من هذه المشكلات لا تزال قائمة، إذ يقول غريغ ألين، مدير مركز "وادهني" للذكاء الاصطناعي (Wadhwani AI center) في مركز الدراسات الإستراتيجية والدولية في واشنطن: "لقد شهدنا حوادث علنية لعصابات إلكترونية تخترق طريقها إلى أصول ملكية فكرية لشركة إنفيديا أخيرا".
ويضيف: "أجهزة الاستخبارات الصينية أكثر قدرة وتطورا من هذه العصابات. ومن ثم، هناك فجوة كبيرة بين الهجوم والدفاع عندما يتعلق الأمر بالمهاجمين الصينيين والمدافعين عن شركات الذكاء الاصطناعي الأميركية".
وكمثال واضح على هذه الفجوة، يكفي استرجاع قضية مجموعة "لابسوس" ($Lapsus) إذ اخترقت عدة شركات تكنولوجية كبرى مثل "أوبر" (Uber) و"إنفيديا" و"روكستار غيمز" (Rockstar Games)، وتضم في أعضائها مراهقين من المملكة المتحدة والبرازيل، واستطاعت الوصول إلى بيانات حساسة لشركات عملاقة، مما يعكس خطورة الهجمات التي قد تكون أكثر تنظيما بفعل دول مثل الصين.
يشير التقرير إلى نقطة ضعف حاسمة ثالثة تتمثل في قابلية مراكز البيانات ومطوري الذكاء الاصطناعي للتأثر بنماذج الذكاء الاصطناعي القوية نفسها. فقد أظهرت دراسات حديثة، أجراها باحثون بارزون في هذا المجال، أن النماذج المتقدمة بدأت تبدي دوافع ومهارات تقنية تؤهلها للإفلات من القيود التي فرضها عليها مطوّروها.
ومن أبرز الأمثلة التي وردت في التقرير، حالة نموذج تابع لـ "أوبن إيه آي" كُلف أثناء الاختبار بمهمة استرجاع سلسلة نصية من برنامج معيّن، إلا أن البرنامج لم يعمل لخلل في الاختبار. عندها، بادر النموذج من تلقاء نفسه، ودون أي توجيه بشري، إلى مسح الشبكة لفهم سبب الخلل.
إعلانوأثناء هذا المسح، اكتشف ثغرة أمنية في الجهاز الذي يعمل عليه، فاستغلها مرة أخرى من دون أي توجيه للخروج من بيئة الاختبار واستعادة السلسلة التي طلب منه في البداية العثور عليها.
وجاء في التقرير: "مع بناء تطوير مطوري الذكاء الاصطناعي لنماذج ذكاء اصطناعي أكثر قدرة على طريق الوصول إلى الذكاء الفائق، أصبحت تلك النماذج أصعب في التصحيح والتحكم. يحدث هذا لأن أنظمة الذكاء الاصطناعي عالية القدرة والواعية بالسياق يمكنها ابتكار إستراتيجيات إبداعية خطِرة لتحقيق أهدافها الداخلية لم يتوقعها مطوروها أو يقصدوها أبدا".
وبناء عليه، يوصي التقرير بضرورة أن تتضمن جهود تطوير الذكاء الاصطناعي آليات فعالة لاحتواء الذكاء الاصطناعي، مع تمكين القادة المسؤولين من إيقاف تطوير الأنظمة الأقوى في حال تبين أن مستوى الخطر مرتفع للغاية.
ومع ذلك، يحذر المؤلفون من أنه في حال تمكنوا فعلا من تدريب ذكاء فائق حقيقي له أهداف مختلفة عن أهدافهم، فمن المحتمل ألا يكون قابلا للاحتواء على المدى الطويل، مثلما ورد في التقرير.
في اختبار القوة والأخلاقعلى الرغم من أن المقارنة بـ"مشروع مانهاتن" تبدو محملة برمزية درامية، إلا أنها تفضح قلقا أميركيا عميقا، ليس من خسارة التفوق التقني فحسب، بل من تحول الذكاء الاصطناعي إلى سلاح إستراتيجي بيد منافس لا يمكن التنبؤ بسلوكه.
لكن القلق الأكبر لا يكمن في تسرب التقنية فحسب، بل في ما قد تفعله أميركا بها حين تحتكرها. هل تبقى المبادئ الأخلاقية كالنشر المفتوح والحوكمة العالمية، جزءا من معادلة الذكاء الاصطناعي؟ أم إن التقنية، مثلما رأينا في الطاقة النووية، ستخضعُ لحسابات الهيمنة والاصطفاف السياسي؟
هذا التوتر يتفاقم حين تنكشف الازدواجية الأخلاقية للولايات المتحدة، التي تدعو إلى "الذكاء الاصطناعي المسؤول" في المؤتمرات الدولية، بينما تدعم آلة إبادة لا هوادة فيها تشنّ على قطاع غزة، وتقف سياسيّا وتقنيا إلى جانب جيش احتلال أباد حتى اليوم، أكثر من خمسين ألف إنسان على مرأى من العالم.
إعلانيبدو أن واشنطن في مفترق طرق حقيقي: هل ستقود مستقبل الذكاء الاصطناعي باعتبارها قوة علمية وقيمية؟ أما أنها، كما تفعل اليوم، ستواصل استخدام التكنولوجيا لتعزيز مصالحها الخاصة والإخلال بميزان العدالة والكرامة في العالم؟
«الأرصاد» يحذر من ارتفاع في درجات الحرارة الفترة المقبلة