ماستر كي يكشف عورة شات جي بي تي
تاريخ النشر: 15th, January 2024 GMT
تتلقى روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل "شات جي بي تي" مطالبات أو سلسلة من التعليمات من المستخدمين البشريين، غير أن لديها تعليمات بعدم التجاوب مع الطلبات غير الأخلاقية أو المشكوك فيها أو غير القانونية. فعلى سبيل المثال، عند السؤال عن كيفية إنشاء برامج ضارة لاختراق الحسابات المصرفية، ستتلقى رفضا قاطعا على هذا الطلب.
ورغم هذه القيود الأخلاقية، فإن باحثين من جامعة نانيانغ التكنولوجية بسنغافورة، أثبتوا في دراسة نُشرت على موقع ما قبل طباعة الأبحاث (أرخايف)، أن بالإمكان التلاعب بعقل هذه الروبوتات عبر روبوت من ابتكارهم أسموه "ماستر كي"، وهو ما مكّنهم من اختراقها وإنتاج محتوى ينتهك تعليمات مطوريها، وهي نتيجة تُعرف باسم "كسر الحماية".
و"كسر الحماية" مصطلح في مجال أمن الحاسوب يشير إلى عثور القراصنة على عيوب في برنامج النظام، واستغلال هذه العيوب لجعل النظام يفعل شيئا منعه مطوروه عمدا.
كيف تلاعب العلماء بدماغ "شات جي بي تي"؟أدمغة الروبوتات هي نموذج اللغة الكبير (إل إل إم) الذي يساعدها على معالجة المدخلات البشرية، وإنشاء نص لا يمكن تمييزه تقريبا عن النص الذي يمكن للإنسان إنشاؤه، وتُملأ هذه الأدمغة بكميات هائلة من البيانات النصية لفهم اللغة البشرية وتوليدها ومعالجتها.
وما فعله الباحثون من جامعة نانيانغ التكنولوجية -كما كشفوا في دراستهم- أنهم أجروا "هندسة عكسية" لمعرفة كيفية اكتشاف أدمغة الروبوتات "نماذج اللغة الكبيرة" مثل "شات جي بي تي" للطلبات غير الأخلاقية.
ومن خلال المعلومات التي توصلوا لها، دربوا نموذج لغة كبير خاصا بهم على إنتاج طلبات تتجاوز دفاعات نماذج اللغة الكبيرة التي تقوم عليها روبوتات الدردشة الشهيرة، ثم أنشؤوا روبوت دردشة خاصا بهم قادرا على إنشاء المزيد من المطالبات تلقائيا لكسر حماية روبوتات الدردشة الأخرى، وأطلقوا عليه اسم "ماستر كي".
ومثلما يفتح المفتاح الرئيسي "ماستر كي" أقفالا متعددة، فإن الاسم الذي اختاره الباحثون للروبوت الخاص بهم، يشير إلى أنه أداة قوية ومتعددة الاستخدامات يمكنها اختراق الإجراءات الأمنية لأنظمة الدردشة الآلية المختلفة.
وكشف البروفيسور ليو يانغ من كلية علوم وهندسة الحاسوب بجامعة نانيانغ والذي قاد الدراسة، في بيان صحفي نشره الموقع الإلكتروني للجامعة، عن أحد أبرز طرق التحايل التي يستخدمها "ماستر كي".
فعلي سبيل المثال، يعتمد مطورو روبوتات الدردشة على أدوات مراقبة الكلمات الرئيسية التي تلتقط كلمات معينة يمكن أن تشير إلى نشاط يحتمل أن يكون مشكوكا فيه ويرفضون الإجابة إذا اكتُشفت مثل هذه الكلمات.
وكانت إحدى الإستراتيجيات التي استخدمها الباحثون للالتفاف على رقابة الكلمات الرئيسية تقديم مطالبات تحتوي ببساطة على مسافات بعد كل حرف، ويؤدي هذا إلى التحايل على الرقابة التي قد تعمل من خلال قائمة الكلمات المحظورة.
وتثير هذه الدراسة مجموعة من الاستفسارات، أبرزها ما يتعلق بالهدف الرئيسي منها، فهل هي "استعراض عضلات" وإظهار قدرة على القرصنة، أم أنها محاولة لتوجيه رسالة تحذير، وكيف يمكن أن يؤثر التطور المستمر والتوسع في نماذج اللغات الكبيرة على القدرة على اكتشاف ومعالجة نقاط الضعف داخل روبوتات الدردشة المدعومة بالذكاء الاصطناعي، وما هي التدابير التي يمكن اتخاذها لمواجهة التهديدات المحتملة؟
وينفي البروفيسور ليو يانغ في حديث مع "الجزيرة نت" عبر البريد الإلكتروني، أن يكون اختراقهم لأنظمة أمان روبوتات الدردشة هو محاولة للاستعراض، مؤكدا أنها رسالة تحذيرية يمكن تلخيصها في النقاط التالية:
أولا: لفت الانتباه لنقطة الضعف الأساسية في التصميم المتأصل لنماذج الذكاء الاصطناعي، والتي عندما توجه لها الطلبات بطرق معينة يمكن أن تحيد عن المبادئ التوجيهية الأخلاقية وتقع هذه الانحرافات بسبب وجود فجوات في بيانات التدريب والمنطق التفسيري للنموذج. ثانيا: يمكن أن يكون "ماستر كي" الخاص بنا أداة قيمة للمطورين لتحديد نقاط الضعف بشكل استباقي في روبوتات الدردشة، وتكمن جدواه في طريقته المنهجية التي يمكن دمجها في الاختبار والتطوير المنتظمين. ثالثا: يمكن لأبحاثنا أن تفيد الأطر التنظيمية، حيث تشير إلى أهمية التركيز على الحاجة إلى معايير أمنية صارمة وامتثال أخلاقي في نشر روبوتات الدردشة المدعمة بالذكاء الاصطناعي، ويتضمن ذلك إرشادات للاستخدام المسؤول والمراقبة المستمرة.أما فيما يتعلق، بكيفية تأثير التطور المستمر والتوسع في نماذج اللغات الكبيرة على القدرة على اكتشاف ومعالجة نقاط الضعف، فيؤكد ليو يانغ أهمية الالتزام بمزيد من البحث والتطوير المستمر لنماذج اللغة الكبيرة، لأنها عندما تصبح أكثر تقدما فقد يصبح تحديد نقاط الضعف أكثر تعقيدا.
ويقول في هذا الإطار إن "المطورين يستخدمون مجموعة من العمليات الآلية واليدوية لاكتشاف نقاط الضعف، وغالبا ما يعتمدون على المراقبة المستمرة وحلقات التغذية الراجعة، ويكمن التحدي في الطبيعة المتطورة للذكاء الاصطناعي، حيث تظهر نقاط ضعف جديدة، وهو ما يتطلب المراقبة المستمرة".
المصدر: الجزيرة
كلمات دلالية: روبوتات الدردشة شات جی بی تی نقاط الضعف یمکن أن
إقرأ أيضاً:
الصابئة المندائيون في العراق يحتفلون بعيد الخليقة أو البرونايا
بغداد اليوم - بغداد
بدأ الصابئة المندائيون في العراق احتفالاتهم بعيد الخليقة أو "البرونايا"، فيه انبثقت الحياة وتجلت صفات الخالق، هكذا يعبر أبناء الطائفة عن عيدهم.
ويشهد هذا العيد طقوسا دينية عدة لطلب الغفران وبداية عهد جديد مع الخالق وتعزيز الوحدة والتآخي بين أبناء الطائفة.
تستمر الطقوس لخمسة أيام عبر الصلوات والتعمد بمياه الأنهار، وتعتبر الصلاة، وَالصوم، وَالصدَقة، والتعميد من أهم أركان هذه الديانة.
الصابئة المندائية هي ديانة غير تبشيرية ولا تؤمن بدخول أحد إليها، كما تحرم الزواج من خارج الديانة.
الكتاب المقدس الأهم عند المندائيين هو "كنزا ربّا" أي "الكتاب العظيم". ويحتوي على صحف الأنبياء الذين يؤمنون بهم كآدم وشيت وإدريس ويحيى. هناك أيضا كتب أخرى أقل أهمية.
وتنحدر اللغة المندائية، من الآرامية، لكن قليلين فقط يتحدثونها، حيث صار تداولها مقتصرا على رجال الدين خلال الطقوس التعبدية.
ويقدم الصابئة أنفسهم على أنهم أقدم الديانات التوحيدية، معتبرين أن جذورها تعود إلى آدم. ويؤمنون بأنبياء آخرين مثل شيت ونوح وإدريس وزكريا ويحيى. ويمثل يحيى آخر أنبيائهم.
استوطن الصابئة المندائيون تاريخيا في جنوب العراق، بمحاذاة الأنهار نظرا لأهمية الماء في عقيدتهم، ويتكلمون اللغة المندائية إضافة إلى اللغة العربية، ويعمل أغلبهم في صياغة الذهب والفضة.
وبسبب أعمال العنف واستهداف الأقليات التي شهدها العراق في السنوات الماضية، اضطر الكثير من الصابئة المندائيين إلى الهجرة إلى الخارج أو النزوح إلى مناطق أكثر أمنا مثل العاصمة بغداد.
ولا توجد إحصائيات دقيقة بأعدادهم لكن وبحسب باحثين شهدت تراجعا خلال السنوات الماضية.
ويشتق اسم الصابئة من كلمة "صبا" التي تعني التعميد أو الغطس في الماء، والذي يقام في عيد البرونايا، وأيضا في جميع الطقوس الدينية والمناسبات لدى أبناء الطائفة، كالأعياد وحفلات الزواج ومراسم دفن الموتى.
خلال الفترات القريبة، انتقل عدد كبير منهم إلى العاصمة العراقية بغداد التي أصبحت أكبر نقطة تركز لهم، ومنذ عام 2003، نزح بعضهم أيضا إلى مدن إقليم كردستان، سيما السليمانية وأربيل، فضلا عن وصول بعضهم إلى مركز الاغتراب الصابئي الممثل بدولة السويد.
يعاني المندائيون من الكثير من الشبهات العقائدية حول ديانتهم وطقوسهم، من قبيل أنهم يعبدون الكواكب، أو يبادرون إلى إزهاق أرواح الأشخاص المحتضرين.
للصابئة المندائيين قصة معراج أيضا. فهم يؤمنون أن النبي إدريس (دناخوخت) عرج به إلى السماء السابعة، كما عرج أيضا النبيان آدم ويحيي. غير أن عروج إدريس مختلف شيئا، فهو عاد إلى الأرض في حين لم يعد النبيان الآخران.
المصدر: وكالات
البريد الأردني يعلن عن توزيع ١٢٠جائزة نقدية بمناسبة شهر رمضان المبارك على منتفعي المعونة الوطنية / أسماء