ماستر كي يكشف عورة شات جي بي تي
تاريخ النشر: 15th, January 2024 GMT
تتلقى روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل "شات جي بي تي" مطالبات أو سلسلة من التعليمات من المستخدمين البشريين، غير أن لديها تعليمات بعدم التجاوب مع الطلبات غير الأخلاقية أو المشكوك فيها أو غير القانونية. فعلى سبيل المثال، عند السؤال عن كيفية إنشاء برامج ضارة لاختراق الحسابات المصرفية، ستتلقى رفضا قاطعا على هذا الطلب.
ورغم هذه القيود الأخلاقية، فإن باحثين من جامعة نانيانغ التكنولوجية بسنغافورة، أثبتوا في دراسة نُشرت على موقع ما قبل طباعة الأبحاث (أرخايف)، أن بالإمكان التلاعب بعقل هذه الروبوتات عبر روبوت من ابتكارهم أسموه "ماستر كي"، وهو ما مكّنهم من اختراقها وإنتاج محتوى ينتهك تعليمات مطوريها، وهي نتيجة تُعرف باسم "كسر الحماية".
و"كسر الحماية" مصطلح في مجال أمن الحاسوب يشير إلى عثور القراصنة على عيوب في برنامج النظام، واستغلال هذه العيوب لجعل النظام يفعل شيئا منعه مطوروه عمدا.
كيف تلاعب العلماء بدماغ "شات جي بي تي"؟أدمغة الروبوتات هي نموذج اللغة الكبير (إل إل إم) الذي يساعدها على معالجة المدخلات البشرية، وإنشاء نص لا يمكن تمييزه تقريبا عن النص الذي يمكن للإنسان إنشاؤه، وتُملأ هذه الأدمغة بكميات هائلة من البيانات النصية لفهم اللغة البشرية وتوليدها ومعالجتها.
وما فعله الباحثون من جامعة نانيانغ التكنولوجية -كما كشفوا في دراستهم- أنهم أجروا "هندسة عكسية" لمعرفة كيفية اكتشاف أدمغة الروبوتات "نماذج اللغة الكبيرة" مثل "شات جي بي تي" للطلبات غير الأخلاقية.
ومن خلال المعلومات التي توصلوا لها، دربوا نموذج لغة كبير خاصا بهم على إنتاج طلبات تتجاوز دفاعات نماذج اللغة الكبيرة التي تقوم عليها روبوتات الدردشة الشهيرة، ثم أنشؤوا روبوت دردشة خاصا بهم قادرا على إنشاء المزيد من المطالبات تلقائيا لكسر حماية روبوتات الدردشة الأخرى، وأطلقوا عليه اسم "ماستر كي".
ومثلما يفتح المفتاح الرئيسي "ماستر كي" أقفالا متعددة، فإن الاسم الذي اختاره الباحثون للروبوت الخاص بهم، يشير إلى أنه أداة قوية ومتعددة الاستخدامات يمكنها اختراق الإجراءات الأمنية لأنظمة الدردشة الآلية المختلفة.
وكشف البروفيسور ليو يانغ من كلية علوم وهندسة الحاسوب بجامعة نانيانغ والذي قاد الدراسة، في بيان صحفي نشره الموقع الإلكتروني للجامعة، عن أحد أبرز طرق التحايل التي يستخدمها "ماستر كي".
فعلي سبيل المثال، يعتمد مطورو روبوتات الدردشة على أدوات مراقبة الكلمات الرئيسية التي تلتقط كلمات معينة يمكن أن تشير إلى نشاط يحتمل أن يكون مشكوكا فيه ويرفضون الإجابة إذا اكتُشفت مثل هذه الكلمات.
وكانت إحدى الإستراتيجيات التي استخدمها الباحثون للالتفاف على رقابة الكلمات الرئيسية تقديم مطالبات تحتوي ببساطة على مسافات بعد كل حرف، ويؤدي هذا إلى التحايل على الرقابة التي قد تعمل من خلال قائمة الكلمات المحظورة.
وتثير هذه الدراسة مجموعة من الاستفسارات، أبرزها ما يتعلق بالهدف الرئيسي منها، فهل هي "استعراض عضلات" وإظهار قدرة على القرصنة، أم أنها محاولة لتوجيه رسالة تحذير، وكيف يمكن أن يؤثر التطور المستمر والتوسع في نماذج اللغات الكبيرة على القدرة على اكتشاف ومعالجة نقاط الضعف داخل روبوتات الدردشة المدعومة بالذكاء الاصطناعي، وما هي التدابير التي يمكن اتخاذها لمواجهة التهديدات المحتملة؟
وينفي البروفيسور ليو يانغ في حديث مع "الجزيرة نت" عبر البريد الإلكتروني، أن يكون اختراقهم لأنظمة أمان روبوتات الدردشة هو محاولة للاستعراض، مؤكدا أنها رسالة تحذيرية يمكن تلخيصها في النقاط التالية:
أولا: لفت الانتباه لنقطة الضعف الأساسية في التصميم المتأصل لنماذج الذكاء الاصطناعي، والتي عندما توجه لها الطلبات بطرق معينة يمكن أن تحيد عن المبادئ التوجيهية الأخلاقية وتقع هذه الانحرافات بسبب وجود فجوات في بيانات التدريب والمنطق التفسيري للنموذج. ثانيا: يمكن أن يكون "ماستر كي" الخاص بنا أداة قيمة للمطورين لتحديد نقاط الضعف بشكل استباقي في روبوتات الدردشة، وتكمن جدواه في طريقته المنهجية التي يمكن دمجها في الاختبار والتطوير المنتظمين. ثالثا: يمكن لأبحاثنا أن تفيد الأطر التنظيمية، حيث تشير إلى أهمية التركيز على الحاجة إلى معايير أمنية صارمة وامتثال أخلاقي في نشر روبوتات الدردشة المدعمة بالذكاء الاصطناعي، ويتضمن ذلك إرشادات للاستخدام المسؤول والمراقبة المستمرة.أما فيما يتعلق، بكيفية تأثير التطور المستمر والتوسع في نماذج اللغات الكبيرة على القدرة على اكتشاف ومعالجة نقاط الضعف، فيؤكد ليو يانغ أهمية الالتزام بمزيد من البحث والتطوير المستمر لنماذج اللغة الكبيرة، لأنها عندما تصبح أكثر تقدما فقد يصبح تحديد نقاط الضعف أكثر تعقيدا.
ويقول في هذا الإطار إن "المطورين يستخدمون مجموعة من العمليات الآلية واليدوية لاكتشاف نقاط الضعف، وغالبا ما يعتمدون على المراقبة المستمرة وحلقات التغذية الراجعة، ويكمن التحدي في الطبيعة المتطورة للذكاء الاصطناعي، حيث تظهر نقاط ضعف جديدة، وهو ما يتطلب المراقبة المستمرة".
المصدر: الجزيرة
كلمات دلالية: روبوتات الدردشة شات جی بی تی نقاط الضعف یمکن أن
إقرأ أيضاً:
كيف يمكن فهم استراتيجية ترامب الخارجية؟
أثارت سياسة الرئيس الأمريكي السابق دونالد ترامب الخارجية جدلًا واسعًا، إذ وصفها البعض بأنها تجارية، انعزالية، أو حتى استبدادية ومدفوعة بالنزوات، إلى حدّ أنها تتعارض مع المصالح الوطنية الأمريكية. غير أن المستشار في الشؤون الدفاعية، الدكتور فيكتور أبراموفيتش، يرى أن هذه التحليلات تتجاهل بُعدًا أكثر عمقًا في سلوكيات ترامب، وهو إعادة تقييم استراتيجية الولايات المتحدة الكبرى على مدى القرن الماضي، والتي ارتكزت على الهيمنة العالمية الليبرالية والتوازن الخارجي.
إعادة حسابات ترامب المحتملة تعني ثلاثة أمور رئيسية لحلفاء أمريكا
ما ملامح الاستراتيجية الأمريكية التقليدية؟كتب أبراموفيتش في تقرير نشره "معهد لوي" الأسترالي أن أحد الأهداف الأساسية لاستراتيجية واشنطن كان منع أي قوة أخرى من السيطرة على مراكز النفوذ العالمية، خاصة في أوروبا، آسيا، والشرق الأوسط، حيث يمكن لدولة مهيمنة في إحدى هذه المناطق أن تحشد مواردها لتشكّل تهديداً لأمريكا مستقبلاً.
ترامب يعيد خلط أوراق اليمين المتشدد في أوروبا - موقع 24عندما اجتمع كبار القادة العسكريين لدول حلفاء أوكرانيا في لندن يوم 20 مارس (آذار) لمناقشة إمكانية تشكيل قوة لحفظ السلام، كان هناك غائب بارز: رئيس أركان الدفاع الإيطالي الجنرال لوتشيانو بورتولانو، الذي أوفد ممثلين أقل رتبة، في خطوة وصفتها مجلة "إيكونوميست" بأنها ذات دلالة.
ولتحقيق ذلك، اعتمدت الولايات المتحدة على دعم القوى المحلية لموازنة نفوذ أي قوة صاعدة، مما كان أقل كلفة من التدخل العسكري المباشر. لكن هذا النهج شهد تباينات عبر العقود. فبعد الحرب الباردة، تبنّت واشنطن هيمنة عالمية عبر قواعد عسكرية وتحالفات وتدخلات سريعة لاحتواء التهديدات، بينما كان النهج السائد قبل عام 1945 يقوم على التوازن الخارجي، حيث بقيت القوات الأمريكية داخل أراضيها ولم تتدخل إلا عند الضرورة القصوى، كما في الحربين العالميتين.
وفي كلتا الحالتين، سعت واشنطن إلى تعزيز اعتماد حلفائها عليها، لا سيما في المجالين النووي والعسكري، ما جعلهم أكثر تبعية للولايات المتحدة ودفعهم لدعم حروبها، في حين استفادوا من إنفاق أقل على الدفاع الذاتي.
حسابات ترامب الجديدةاستمرت هذه الاستراتيجية لعقود، مما جعل الكثيرين يعتقدون أن أمريكا لن تغيّر نهجها. لكن مع تصاعد التكاليف، بدأت تحذيرات من أن واشنطن قد تتخلى عن بعض أعباء الهيمنة العالمية، خصوصاً وأن موقعها الجغرافي يحميها من التهديدات المباشرة.
ترامب يطلق ثورة أمريكية ثانية.. ولكن ضد العالم هذه المرة - موقع 24بعد مرور شهرين فقط على تنصيبه رئيساً للولايات المتحدة لولاية ثانية، بات واضحاً أن الرئيس الأمريكي دونالد ترامب يقود ثورة في السياسة الخارجية الأمريكية، ستؤدي إلى انقلاب النظام الدولي رأساً على عقب، من خلال زعزعته لاستقرار المؤسسات الراسخة، وأنماط التعاون الدولي المستقرة وتدميرها.
ويبدو أن ترامب تبنّى هذا المنظور، وهو ما يفسّر العديد من قراراته في السياسة الخارجية. فقد سعى إلى تقليص الإنفاق العسكري التقليدي مقابل تعزيز قدرات مثل "درع القبة الذهبية" لحماية أمريكا من التهديدات العابرة للحدود.
كما دفع الحلفاء لزيادة إنفاقهم الدفاعي وتحسين فرص واشنطن الاقتصادية، عبر مزيج من الضغوط والمجاملات للقوى الكبرى.
وفي أوروبا، رأى ترامب أن خطر الغزو ضعيف نظراً لتشرذم دول القارة وضعف روسيا، فلماذا الإبقاء على وجود عسكري هناك؟ أما في آسيا، فالصين تمثل تهديداً متزايداً يتطلب استثمارات أمريكية أكبر، ما يطرح خيار صفقة كبرى مع بكين تضمن مصالح واشنطن الاقتصادية مقابل تقليص وجودها العسكري في المنطقة.
إلحاح ترامب على حلول سريعة يصطدم بالوقائع الدبلوماسية - موقع 24في النزاعات الدولية، يكون الرئيس الأمريكي دونالد ترامب في عجلة من أمره. وحتى قبل أن يتسلم ولايته الثانية، ادعى فضله في "وقف النار الملحمي" في غزة. وسارع إلى الحصول على موافقة أوكرانيا وروسيا على هدنة، وبالنسبة لإيران، يريد ترامب اتفاقاً في غضون شهرين، لمنع طهران من تطوير سلاح نووي.
تداعيات محتملة على الحلفاءيرى أبراموفيتش أن إعادة تقييم ترامب للاستراتيجية الأمريكية تحمل ثلاثة تداعيات رئيسية لحلفاء واشنطن:
1- نهاية عهد الضمانات التقليديةلم يعد بالإمكان الاعتماد على الهيمنة الأمريكية كما في السابق، فحتى لو كان نهج التوازن الخارجي منطقياً، فإن تغيّر الاستراتيجية قد يصبح نهجاً دائماً، ليس مع ترامب فقط، بل ربما مع إدارات أمريكية مستقبلية.
2- ضرورة زيادة الإنفاق الدفاعيعلى الحلفاء تعزيز قدراتهم الدفاعية لمواجهة تراجع الدور الأمريكي. لكن هذا قد يكون سيفاً ذا حدين، إذ إن تحصّن الدول الإقليمية ضد موسكو وبكين قد يُشجّع واشنطن على الانسحاب أكثر.
3- التقليل من الاعتماد على أمريكا بذكاءمن الضروري أن تبحث الدول عن خيارات بديلة، لكن بحذر، خصوصاً في ظل إدارة غير متوقعة مثل إدارة ترامب. بالنسبة إلى أستراليا، على سبيل المثال، برزت دعوات لنهج أكثر استقلالية في السياسة الخارجية والدفاعية. ومن بين الخيارات المطروحة، تسريع شراء الأسلحة الأمريكية التي يمكن الحصول عليها بسرعة، مع تجنب الالتزامات طويلة الأمد مثل شراء غواصات نووية، إذ قد يتم إلغاؤها في أي لحظة بقرار أمريكي مفاجئ.
لن تعجب ترامب.. سيناريوهات محتملة لضم كندا إلى الولايات المتحدة - موقع 24يريد الرئيس الأمريكي دونالد ترامب، ضم كندا وجعلها الولاية الأمريكية الرقم 51، وإذا ما مضى في سبيل هذه الغاية، فثمة "عواقب غير مقصودة" ستحدث.
وختم أبراموفيتش بالقول: "هناك الكثير مما يجب فعله، وبسرعة".
هيئة البث الأوكراني: وفد كييف في السعودية يلتقي بالفريق الأمريكي في الرياض