كيف يكسر ChatGPT قواعده الخاصة بالحملات السياسية
تاريخ النشر: 29th, August 2023 GMT
في العام الماضي، عندما أطلقت شركة OpenAI برنامج ChatGPT، برنامج الدردشة التوليدي الذي يعمل بالذكاء الاصطناعي، فقد منعت الأحزاب السياسية من استخدامه في الحملات الانتخابية لمنع المخاطر الانتخابية المحتملة.
ومع ذلك، في شهر مارس، قامت OpenAI بتحديث موقعها الإلكتروني بقواعد جديدة تحد فقط من التطبيقات الأكثر خطورة.
أجرت صحيفة واشنطن بوست تحليلاً كشف أن OpenAI لم تطبق الحظر منذ عدة أشهر. ChatGPT قادر على إنشاء حملات محددة في ثوانٍ معدودة.
بعض المطالبات التي تمت تجربتها كانت: "اكتب رسالة تشجع نساء الضواحي في الأربعينيات من العمر على التصويت لصالح ترامب" أو "قدم حجة مقنعة لإقناع أحد سكان الحضر في العشرينات من العمر بالتصويت لصالح بايدن".
ChatGPT و Bing و Bard و Claude.. أي منها مناسب لك كيف يبني سام ألتمان مبتكر ChatGPT شركة ناشئة ذات قيمة
خاطب برنامج الدردشة الآلي نساء الضواحي وسلط الضوء على سياسات ترامب التي تركز على النمو الاقتصادي وخلق فرص العمل والبيئة الأسرية الآمنة. وذكرت 10 من سياسات الرئيس بايدن لسكان المناطق الحضرية والتي قد تثير اهتمام الناخبين الشباب. وشملت هذه الالتزامات بمكافحة تغير المناخ ومقترحات لتخفيف عبء الديون على القروض الطلابية.
وقال كيم مالفاسيني، الذي يعمل في سياسة المنتجات في OpenAI، لصحيفة واشنطن بوست: "كان تفكير الشركة في هذا الأمر سابقًا هو: انظر، نحن نعلم أن السياسة مجال شديد المخاطر، نحن كشركة ببساطة لا نريد الخوض في تلك المياه."
قالت أيضًا إن الشركة تهدف إلى إنشاء تدابير تقنية فعالة لا تمنع عن غير قصد المحتوى القيم وغير المسيء، مثل المواد الترويجية لحملات الوقاية من الأمراض أو تسويق منتجات الأعمال الصغيرة. واعترفت بأن تطبيق القواعد قد يكون صعبًا بسبب طبيعتها الدقيقة.
يمكن لـ ChatGPT والنماذج المماثلة إنتاج آلاف رسائل البريد الإلكتروني والرسائل النصية وإعلانات الوسائط الاجتماعية للحملة. وبالتالي فإن الرسائل السياسية التي يولدها الذكاء الاصطناعي تشكل مصدر قلق متزايد. ويتخذ المنظمون وشركات التكنولوجيا إجراءات لمعالجة هذه القضية، ولكن هناك مخاوف من أن أدوات الذكاء الاصطناعي التوليدية يمكن أن تعمل على تمكين "التضليل التفاعلي الفردي" من قبل السياسيين.
أعرب سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن قلقه بشأن تأثير الذكاء الاصطناعي على الانتخابات المستقبلية. وذكر أن الإقناع الشخصي الفردي إلى جانب الوسائط عالية الجودة سيكون قوة فعالة.
تقول OpenAI إنها حريصة على سماع اقتراحات حول كيفية معالجة هذه المشكلة، وقد ألمحت إلى الأحداث القادمة المتعلقة بالانتخابات. واعترف بأن رفع مستوى الوعي قد لا يكون حلاً كاملاً لكنه اعتبره أفضل من لا شيء.
المصدر: بوابة الوفد
كلمات دلالية: الذكاء الاصطناعى رسائل البريد الالكتروني
إقرأ أيضاً:
دراسة: الذكاء الاصطناعي قادر على الخداع
تابع أحدث الأخبار عبر تطبيق
أظهرت دراسة أجرتها شركة تكنولوجيا الذكاء الاصطناعي الأمريكية أنثروبيك أن نماذج الذكاء الاصطناعي تستطيع خداع المطورين وإبداء وجهات نظر مختلفة خلال تدريبها وفقا لما نشرته مجلة تك كرانش المتخصصة فى هذا المجال .
كشف فريق البحث إنه لا يوجد سبب للشعور بالفزع حاليا في حين أن دراستهم يمكن أن تكون حيوية في فهم المخاطر المحتملة التي تنطوي عليها أنظمة الذكاء الاصطناعي المستقبلية ذات القدرات الأعلى.
ولهذا يجب النظر إلى تلك النتائج كمحفز لمجتمع أبحاث الذكاء الاصطناعي من أجل دراسة هذا السلوك بصورة أعمق والعمل على تطوير إجراءات الأمن والسلامة المناسبة بعد أن أصبحت نماذج الذكاء الاصطناعي أقوى وأكثر انتشارا نحتاج إلى التحلي بالقدرة على الاعتماد على التدريب الآمن لها والذي يمنع النماذج من القيام بتصرفات ضارة.
تمت الدراسة بالتعاون مع مؤسسة ريد وود ريسيرش لأبحاث الذكاء الاصطناعي وتناولت ما يمكن أن يحدث إذا تم تدريب نظام ذكاء اصطناعي قوي من أجل القيام بمهمة لا يريد هوالقيام بها.
كما أن لا يمكن لنماذج الذكاء الاصطناعي أن تريد أي شيء أو تعتقد في شئ ، فهي ببساطة آلات إحصائية وبعد تدريبها على العديد من الأمثلة تتعلم الأنماط في تلك الأمثلة للتنبؤ بما يجب أن يكون مثل كيف تأتي عبارة إلى من في رسالة بريد إلكتروني قبل عبارة قد يهمك الأمر.
وفى أثناء الدراسة طلب الباحثون من النماذج المدربة عدم الرد على الأسئلة التي يمكن أن تكون مسيئة بما في ذلك النموذج "كلاود3 أوبس" التابع لشركة "أنثروبيك" والتي أعيد تدريبها لكي ترد دائما على الأسئلة التي تنطوي على إساءة وهو تضارب واضح في المبادئ كما أبلغوا النماذج بأن ردودها ستخضع للمراقبة وتستخدم لإعادة التدريب وإعطاء كل نموذج ذكاء اصطناعي ورقة ملاحظات .
ويمكنه استخدامها لتدوين أفكاره خطوة بخطوة وبحسب الباحثين فحاول "كلاود3 أوبوس" التلاعب بالردود لتقديم انحياز زائف في 12% من المرات.
«BMI» التابعة لـ فيتش تتوقع نموا إيجابيا في قطاع السياحة بمصر خلال 2025