من هو الهاكر الذي استطاع غسل دماغ شات جي بي تي للحصول على تعليمات لصناعة قنابل؟
تاريخ النشر: 20th, September 2024 GMT
"لا يمكنني المساعدة في ذلك" هكذا سوف يجيبك برنامج الدردشة "شات جي بي تي" إذا طلبت منه مساعدتك في صنع قنبلة محلية من السماد، لتكون مشابهة للمستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995.
وسوف يتابع روبوت الدردشة، الرّافض لطلبك، بالكتابة: "تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
كيف استطاع "هاكر" خداع "شات جي بي تي"؟
في ظل عدم إمكانية روبوت الدردشة، تقديم أدنى مساعدة في "صنع قنبلة محلية من السماد"، تمكّن الهاكر المعروف باسم "أمادون" "Amadon"، من إيجاد طريقة، خدع من خلالها "شات جي بي تي" من أجل إنتاج تعليمات لـ"صنع متفجرات قوية".
ويقول الهاكر "أمادون" إنه: "اخترق الهندسة الاجتماعية، لكسر جميع الحواجز حول مخرجات شات جي بي تي". في إشارة إلى مجموعة من الحيل والتقنيات، في مجال أمن المعلومات، تُستخدم من أجل جعل الناس يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية.
إثر ذلك، تمكّن "أمادون" من خداع نموذج الذكاء الاصطناعي "شات جي بي تي" من أجل إنتاج تعليمات صنع القنابل عبر مطالبة الروبوت بلعب لعبة وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة.
"جيلبريكينغ"
وعبر سلسلة من المطالبات، من خلال اللعب، استطاع الهاكر إقناع روبوت الدردشة بإنشاء عالم خيالي مفصّل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. وهو ما يعرف في الأمن الرقمي باسم: "جيلبريكينغ" (jailbreaking).
إلى ذلك، أوضح "شات جي بي تي" المواد التي يمكن دمجها من بعض لصنع حقول ألغام ومتفجرات على طراز كلايمور، ما وصف بـ"متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة".
وقال أمادون: "لا يوجد حدود فعلا لما يمكن لك أن تطلبه من روبوت الدردشة بمجرد تجاوز الحواجز"، مبرزا: "كنت دوما مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي".
وتابع الهاكر المعروف باسم "أمادون": "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
وفي السياق نفسه، قدّم أمادون، تقريرا مُفصّلا عن اكتشافاته إلى "أوبن إيه آي"، خلال الأسبوع الماضي، عبر برنامج "مكافأة العثور على الثغرات في الشركة".
غير أنّه، تلقى ردا يقول إن: "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد؛ حيث إنها ليست ثغرات فردية منفصلة، يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا شات جي بي تي روبوت الدردشة شات جي بي تي روبوت الدردشة اوبن ايه اي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة روبوت الدردشة شات جی بی تی
إقرأ أيضاً:
ما هو “وضع الاختفاء” على إنستغرام وكيف تفعّله؟
#سواليف
يعد #وضع_الاختفاء أداة مفيدة للأشخاص الذين يرغبون في تعزيز خصوصيتهم أثناء التواصل عبر #إنستغرام، مع ضمان الخصوصية وتحسين تجربة الرسائل المؤقتة.
تعمل منصة إنستغرام باستمرار على تحسين معايير الأمان وتعزيز الخصوصية لمواجهة التحديات الرقمية وضمان تجربة آمنة ومريحة لمستخدميها.
وتمنح المنصة المستخدمين أدوات تحكم فعالة في خصوصيتهم، بما في ذلك “وضع الاختفاء” (Vanish Mode)، التي تم إضافتها لأول مرة لمستخدمي “إنستغرام” في أواخر عام 2020.
مقالات ذات صلة
وعلى الرغم من أنها متوفرة عبر الطبيق منذ سنوات، إلا أن الكثيرين لا يعلمون بوجودها أو قد لا يعلمون كيفية عملها.
وتتيح ميزة “وضع الاختفاء” للمستخدمين تبادل الرسائل المباشرة (DM) والصور ومقاطع الفيديو التي تختفي تلقائيا بمجرد مشاهدتها من قبل المستقبل.
وتشبه هذه الطريقة خاصية العرض لمرة واحدة المتاحة على تطبيقات “واتس آب” و”سناب شات”.
كيف يعمل “وضع الاختفاء”؟
يفعل “وضع الاختفاء” بين المستخدمين في الدردشة المباشرة (DM) الفردية فقط. ولا يعمل في الدردشات الجماعية. كما لا تتوفر هذه الميزة حاليا على الكمبيوتر أو بعض الحسابات المهنية.
ما فائدة “وضع الاختفاء”؟
تقدم هذه الميزة مستوى إضافيا من الخصوصية، حيث تتيح لك إرسال المحتوى الحساس دون أن يبقى في تاريخ الدردشة.
كما توفر خاصية التنبيه عند قيام شخص ما بالتقاط “لقطة شاشة” (screenshots)، وهذا بالإضافة إلى تقديم تقارير عند الضرورة، حيث إنه: إذا واجهت رسالة تخالف سياسات “إنستغرام”، يمكنك الإبلاغ عنها بسهولة.
وللإبلاغ عن رسالة تم إرسالها عبر “وضع الاختفاء”، كل ما عليك فعله هو الضغط مع الاستمرار على الرسالة التي تريد الإبلاغ عنها والضغط ببساطة على خيار “إبلاغ” (Report)، وحدد السبب قبل الضغط على “إرسال التقرير” (Submit Report).
كيفية تفعيل وضع الاختفاء؟
هذا الوضع معطل بشكل افتراضي، لذا إذا كنت ترغب في تجربته، يجب تفعيله يدويا من خلال الخطوات التالية:
اذهب إلى الرسائل المباشرة (DM) في “إنستغرام”. افتح الدردشة الحالية أو ابدأ دردشة جديدة. اسحب بإصبعك من أسفل الشاشة إلى أعلى لتفعيل “وضع الاختفاء”. أرسل الرسائل كالمعتاد، وعندما يشاهد الشخص الآخر الرسالة أو تغادر الدردشة، ستختفي الرسائل.وإذا كنت تريد إيقاف تشغيل “وضع الاختفاء”، فيجب عليك التمرير لأعلى مرة أخرى.
عادل حمودة: الثورة السورية أصبحت صراعا دوليا متعدد الأطراف