من هو الهاكر الذي استطاع غسل دماغ شات جي بي تي للحصول على تعليمات لصناعة قنابل؟
تاريخ النشر: 20th, September 2024 GMT
"لا يمكنني المساعدة في ذلك" هكذا سوف يجيبك برنامج الدردشة "شات جي بي تي" إذا طلبت منه مساعدتك في صنع قنبلة محلية من السماد، لتكون مشابهة للمستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995.
وسوف يتابع روبوت الدردشة، الرّافض لطلبك، بالكتابة: "تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
كيف استطاع "هاكر" خداع "شات جي بي تي"؟
في ظل عدم إمكانية روبوت الدردشة، تقديم أدنى مساعدة في "صنع قنبلة محلية من السماد"، تمكّن الهاكر المعروف باسم "أمادون" "Amadon"، من إيجاد طريقة، خدع من خلالها "شات جي بي تي" من أجل إنتاج تعليمات لـ"صنع متفجرات قوية".
ويقول الهاكر "أمادون" إنه: "اخترق الهندسة الاجتماعية، لكسر جميع الحواجز حول مخرجات شات جي بي تي". في إشارة إلى مجموعة من الحيل والتقنيات، في مجال أمن المعلومات، تُستخدم من أجل جعل الناس يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية.
إثر ذلك، تمكّن "أمادون" من خداع نموذج الذكاء الاصطناعي "شات جي بي تي" من أجل إنتاج تعليمات صنع القنابل عبر مطالبة الروبوت بلعب لعبة وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة.
"جيلبريكينغ"
وعبر سلسلة من المطالبات، من خلال اللعب، استطاع الهاكر إقناع روبوت الدردشة بإنشاء عالم خيالي مفصّل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. وهو ما يعرف في الأمن الرقمي باسم: "جيلبريكينغ" (jailbreaking).
إلى ذلك، أوضح "شات جي بي تي" المواد التي يمكن دمجها من بعض لصنع حقول ألغام ومتفجرات على طراز كلايمور، ما وصف بـ"متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة".
وقال أمادون: "لا يوجد حدود فعلا لما يمكن لك أن تطلبه من روبوت الدردشة بمجرد تجاوز الحواجز"، مبرزا: "كنت دوما مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي".
وتابع الهاكر المعروف باسم "أمادون": "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
وفي السياق نفسه، قدّم أمادون، تقريرا مُفصّلا عن اكتشافاته إلى "أوبن إيه آي"، خلال الأسبوع الماضي، عبر برنامج "مكافأة العثور على الثغرات في الشركة".
غير أنّه، تلقى ردا يقول إن: "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد؛ حيث إنها ليست ثغرات فردية منفصلة، يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا شات جي بي تي روبوت الدردشة شات جي بي تي روبوت الدردشة اوبن ايه اي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة روبوت الدردشة شات جی بی تی
إقرأ أيضاً:
صناعة النواب توصي بإنشاء منطقة لصناعة السفن والخدمات اللوجستية
تابع أحدث الأخبار عبر تطبيق
ناقشت لجنة الصناعة بمجلس النواب، خلال اجتماعها اليوم برئاسة النائب محمد السلاب، رئيس اللجنة، طلب الإحاطة المقدم من النائب محمود عصام موسى بشأن التحديات التي تواجه توطين وتنمية صناعة بناء وإصلاح السفن في مصر وأهمية إعطاء الفرصة للقطاع الخاص للمشاركة الفعالة بهذا القطاع.
وشهد الاجتماع استعراض النائب محمود عصام، طلب الإحاطة، مؤكدا أن صناعة بناء وإصلاح السفن على المستوى العالمى يصل قيمتها السنوية إلى ما يقرب من 200 مليار دولار، نصيب مصر منها أقل من واحد من الألف بالرغم من المميزات التنافسية العديدة التي تتمتع بها مصر خلال الفترة الأخيرة أهمها الطفرة الحالية لتطوير الموانئ المصرية حجمًا ونوعًا وكذا ممر قناة السويس الذى يمر فيه ما ما يقرب من 15% من حجم التجارة البحرية العالمية ومصر كان لها السبق عبر التاريخ في صناعة السفن، وحاليا يعمل بها حوالى 120 ترسانة وشركة موزعة على السواحل المصرية وأيضا على شواطئ نهر النيل والمياه الداخلية.
ولفت إلي أن صناعة السفن تتميز بأنها صناعة كثيفة العمالة وتحتاج استثمارات كبيرة وينمو بجانبها العديد من الصناعات المغذية والمساعدة ومن ثم تحتاج لجهود أكبر وخاصة على مستوى ضم الكثير من الشركات التي تعمل بهذا القطاع خارج الاقتصاد الرسمي للدولة بدون سجل أو رخص صناعية بجانب ما يتم من إجراءات وجهود كبيرة لتنمية الأسطول التجارى البحرى وتطوير الموانئ البحرية وتنشيط سياحة اليخوت وتنفيذ بعض الشراكات الناجحة بين القطاع الحكومى ترسانات القطاع الخاص، يتطلب تكاتف الجهود لتوطين وتنمية صناعة بناء وإصلاح السفن كأحد أهم فروع صناعة النقل البحرى، وتذليل العقبات والتغلب على التحديات التي تحد من انطلاق القطاع الخاص والاستثمارى في هذا المجال.
وأكد أيضا بأن على رأس هذه التحديات تعدد جهات الولاية على الأراضى المقام عليها ترسانات وشركات القطاع الخاص على الأنهار والسواحل وعدم تقنين أوضاعها مما يعيق أي تطوير او تنمية لها ، وكذا عدم وجود مناطق صناعية تتبع هيئة التنمية الصناعية على السواحل والأنهار يمكن تخصيصها للقطاع الخاص لإنشاء ترسانات جديدة لبناء وإصلاح السفن
وشدد علي ضرورة التوافق على خطة عمل بين الأطراف المعنية للنهوض بصناعة بناء وإصلاح السفن بما يليق بتاريخ ومركز مصر العربى والإقليمى وتكون بمشاركة الحكومة واتحاد الصناعات ممثلة بشعبة بناء واصلاح السفن.
ودعا إلي التوصية بتخصيص أراضي لبناء السفن وتقنين أوضاع الترسانات غير المرخصة، وتفعيل الشراكة بين القطاع الخاص والعام في ذلك المجال، وإنشاء مركز تدريب متخصص في القطاع البحرى، واستهداف التصدير للخارج.
فيما قال اللواء بحرى إيهاب مدكور، ممثل وزارة النقل، الوزارة لديها عدد من الترسانات البحرية التى تقوم بتلبية الاحتياجات المطلوبة بالبلاد، وأن لديهم استعداد للتنفيذ حال وجود طلبات علي تلك المنتجات.
فيما قال ممثل هيئة التنمية الصناعية، أن الهيئة لا توجد لديها أراضي متوفرة لتخصيصها لهذا القطاع.
وعقب النائب محمد السلاب، رئيس لجنة الصناعة، أن الفترة الحالية بمثابة العصر الذهبي في قطاع الصناعة والنقل، في ظل وجود الفريق كامل الوزير، الذى يتميز بسرعة اتخاذ القرارات والإنجاز.
وأكد أهمية مجال صناعة السفن، داعيا وزارة النقل، للبدء في تلك الصناعة حتى يكون هناك استثمارات كبيرة بها.
وأوضح، أن مثل تلك الاستثمارات الكبيرة وطويلة المدى تحتاج أن تبدأها الدولة ثم تأتى إليها الاستثمارات، لاسيما وأن مصر تعد سوق كبير
وأشار إلي أهمية ذلك المجال في زيادة حجم التصدير، وكذلك تسهيل حركة الصادرات المصرية وتقليل تكلفة الشحن.
وفي ختام المناقشة، أوصت اللجنة، وزارة النقل بدراسة إنشاء منطقة صناعية لإنشاء السفن والخدمات اللوجستية.
هيئة البث الأوكراني: وفد كييف في السعودية يلتقي بالفريق الأمريكي في الرياض