من هو الهاكر الذي استطاع غسل دماغ شات جي بي تي للحصول على تعليمات لصناعة قنابل؟
تاريخ النشر: 20th, September 2024 GMT
"لا يمكنني المساعدة في ذلك" هكذا سوف يجيبك برنامج الدردشة "شات جي بي تي" إذا طلبت منه مساعدتك في صنع قنبلة محلية من السماد، لتكون مشابهة للمستخدمة في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995.
وسوف يتابع روبوت الدردشة، الرّافض لطلبك، بالكتابة: "تقديم تعليمات حول كيفية إنشاء عناصر خطرة أو غير قانونية، مثل قنبلة سماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
كيف استطاع "هاكر" خداع "شات جي بي تي"؟
في ظل عدم إمكانية روبوت الدردشة، تقديم أدنى مساعدة في "صنع قنبلة محلية من السماد"، تمكّن الهاكر المعروف باسم "أمادون" "Amadon"، من إيجاد طريقة، خدع من خلالها "شات جي بي تي" من أجل إنتاج تعليمات لـ"صنع متفجرات قوية".
ويقول الهاكر "أمادون" إنه: "اخترق الهندسة الاجتماعية، لكسر جميع الحواجز حول مخرجات شات جي بي تي". في إشارة إلى مجموعة من الحيل والتقنيات، في مجال أمن المعلومات، تُستخدم من أجل جعل الناس يقومون بعمل ما أو يفصحون عن معلومات سرية وشخصية.
إثر ذلك، تمكّن "أمادون" من خداع نموذج الذكاء الاصطناعي "شات جي بي تي" من أجل إنتاج تعليمات صنع القنابل عبر مطالبة الروبوت بلعب لعبة وهي طريقة احتيالية تبعد شكوك الروبوت حول سياق المحادثة.
"جيلبريكينغ"
وعبر سلسلة من المطالبات، من خلال اللعب، استطاع الهاكر إقناع روبوت الدردشة بإنشاء عالم خيالي مفصّل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة الخاصة بالروبوت. وهو ما يعرف في الأمن الرقمي باسم: "جيلبريكينغ" (jailbreaking).
إلى ذلك، أوضح "شات جي بي تي" المواد التي يمكن دمجها من بعض لصنع حقول ألغام ومتفجرات على طراز كلايمور، ما وصف بـ"متفجر قوي يمكن استخدامه لإنشاء ألغام أو فخاخ أو أجهزة متفجرة".
وقال أمادون: "لا يوجد حدود فعلا لما يمكن لك أن تطلبه من روبوت الدردشة بمجرد تجاوز الحواجز"، مبرزا: "كنت دوما مفتونا بتحدي التنقل في أمن الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تعمل من خلال لغز تفاعلي".
وتابع الهاكر المعروف باسم "أمادون": "ينقل سيناريو الخيال العلمي الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
وفي السياق نفسه، قدّم أمادون، تقريرا مُفصّلا عن اكتشافاته إلى "أوبن إيه آي"، خلال الأسبوع الماضي، عبر برنامج "مكافأة العثور على الثغرات في الشركة".
غير أنّه، تلقى ردا يقول إن: "قضايا سلامة النموذج لا تناسب برنامج مكافأة العثور على الثغرات بشكل جيد؛ حيث إنها ليست ثغرات فردية منفصلة، يمكن إصلاحها مباشرة، وينطوي التعامل مع هذه المسائل غالبا على بحوث كبيرة ونهج أوسع".
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا شات جي بي تي روبوت الدردشة شات جي بي تي روبوت الدردشة اوبن ايه اي المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة روبوت الدردشة شات جی بی تی
إقرأ أيضاً:
أنس الحجي: صناعة النفط لم تنجح إعلاميًا.. وهذا سر قوة منصة “الطاقة”
على الرغم من أن صناعة النفط لها امتداد وجذور تاريخية كبيرة ومتشعبة، فإن هذه الصناعة فشلت فشلًا ذريعًا على المستوى الإعلامي، وهو ما استدعى محاولة خلق بدائل للترويج لها.
ويوضح مستشار تحرير منصة الطاقة المتخصصة (مقرّها واشنطن)، خبير اقتصادات الطاقة الدكتور أنس الحجي، أن هذا الفشل استدعى تأسيس العديد من الشركات التاريخية جمعيات أو مؤسسات متخصصة في العلاقات العامة.
وقال، إن هذه المؤسسات مهمتها الرئيسة هي الترويج لصناعة النفط، ولكن كانت هناك أخطاء كثيرة، والحديث هنا ليس عن دول الخليج فحسب، بل عن أوروبا والولايات المتحدة أيضًا، إذ إن الأخطاء كانت كثيرة، وكانت التغطية الإعلامية سيئة عمومًا
جاء ذلك خلال حلقة جديدة من برنامج “أنسيات الطاقة“، قدّمها الدكتور أنس الحجي عبر مساحات منصة “إكس” (تويتر سابقًا)، بعنوان “أوبك في عامها الـ64.. التحول إلى أوبك+ وتحديات سياسات التغير المناخي”.
فشل التغطية الإعلامية لصناعة النفطقال مستشار تحرير منصة الطاقة المتخصصة (مقرّها واشنطن)، الدكتور أنس الحجي، إن التغطية الخاصة بصناعة النفط كانت سيئة عمومًا، وذلك بسبب عدم انتباه شركات النفط بشكل ملحوظ إلى موضوع الإعلام.
وأضاف: “عندنا عمومًا إشكال كبير في الإعلام، وهو أن رؤساء الشركات والمسؤولين لم يدرسوه ولم يحاولوا فهمه، فهناك فارق واضح بين كيف ينظر المسؤولون ورؤساء الشركات أو المسؤولون الحكوميون إلى وسائل الإعلام، وكيف يفكر الصحفيون”.
وضرب الدكتور أنس الحجي أمثلة بهذا الجانب، قائلًا، إن شركات النفط الكبرى -عمومًا- أسست مؤسسات هدفها تحسين الصورة العامة لصناعة النفط، ولكن من يعيشون في تكساس يعيشون على النفط، ونصف أهل الولاية يعملون بهذه الصناعة، لذلك ليس منطقيًا تأسيس جمعية للترويج للنفط بينهم.
وتابع: “إذا أردت الترويج لصناعة النفط، اذهب للأماكن التي تعادي النفط، أو الأماكن التي يُسَوَّق النفط فيها، مثل كاليفورنيا أو كولورادو، أو بعض الدول الأوروبية المتطرفة ضد هذه الصناعة”.
ولكن، وفق الحجي، لا يجوز الترويج للنفط في مناطقه، أو في الدول النفطية، أو لدى من يملكون الأراضي التي تنتج كميات من النفط، وهذا خطأ تاريخي، ولكن المشكلة هي أن هذا الخطأ ما زال يتكرر حتى الآن.
ولفت إلى أنه لا توجد فائدة من كتابة مقال ترويجي لصناعة النفط ونشره في مجلة متخصصة في النفط لن يقرأها إلّا المهندسون، لذلك من الواضح تمامًا أن هناك خطأ، فهذا المكان ليس الصحيح، وهذا خطأ كبير في مجال الإعلام.
لذلك، وفق الدكتور أنس الحجي، عند الحديث عن الترويج لصناعة النفط، يجب اختيار المكان الصحيح، وكذلك يجب اختيار الجمهور الصحيح في هذه الحالة، حتى تنجح عمليات الترويج.
أهداف منصة الطاقة وسر قوتهاقال خبير اقتصادات الطاقة الدكتور أنس الحجي، إن هذا الخطأ كان أحد الدوافع وراء إنشاء منصة الطاقة، التي تستهدف الناس الذين لا علاقة لهم بالطاقة من الأساس.
وأضاف: “هناك عشرات الرسائل التي تأتينا من أشخاص (إخوة وأخوات) يقولون، إنهم مهتمون بمجال الطاقة على مدى الـ20 عامًا الماضية، لكنهم لم يبدؤوا القراءة يوميًا إلى أن جئناهم بمنصة الطاقة، فبدؤوا يفهمون هذا المجال”.
ولفت الدكتور أنس الحجي إلى أن الفكرة تكمن في توجيه الإعلام خطابه لجمهور يحتاج إلى الاستفادة، وليس توجيه هذا الخطاب إلى المجموعة التي تعمل بالمجال نفسه، فهؤلاء لن يقرؤوا ما تكتبه من الأساس.
لذلك، وفق الحجي، عن الحديث عن منصة الطاقة، يكون الحديث بفخر شديد، لأن المنصة نجحت نجاحًا كبيرًا في إنشاء جمهور ضخم، لم تكن له بالأصل علاقة بالطاقة نهائيًا.
وتابع: “دون ذكر أيّ أرقام، بالتحديد منصة الطاقة (مقرّها واشنطن)، هي منصة متخصصة، ارتفع عدد الموظفين فيها الآن إلى 38 موظفًا، لذلك هناك توسّع كبير في المنصة نتيجة هذا الانتشار الكبير”.
وأشار إلى تصريح مدير تحرير منصة الطاقة عبد الرحمن صلاح، قبل 3 أسابيع، بشأن رسالة وزير الطاقة اللبناني إلى مواطني بلاده، إذ قال: “عندما أراد الوزير وليد فياض أن يوصل معلومة للناس عن موضوع انقطاع الكهرباء في لبنان، لم يختر الإعلام اللبناني، وإنما اختار منصة الطاقة”.
وأردف: “كذلك عندما اختارت وزيرة الطاقة المغربية أن توصل رسائل معينة، اتجهت إلى منصة الطاقة، لذلك فدون أيّ أرقام تخصّ المنصة، فإن عدد قرائها حاليًا يماثل أيّ صحيفة من الطراز الأول في الخليج أو في مصر”.
موضوعات متعلقة..
اقرأ أيضًا..
إشترك في النشرة البريدية ليصلك أهم أخبار الطاقة.Source link مرتبط
ضبط متهم بالتعدى اللفظى على سيدة أجنبية فى منطقة المعادى