OpenAI تغلق استخدام ChatGPT لتوليد مقالات إخبارية مزيفة في إيران

قالت شركة OpenAI يوم الجمعة إنها أحبطت حملة تأثير إيرانية استخدمت ChatGPT لتوليد قصص إخبارية ومنشورات اجتماعية مزيفة تستهدف الأميركيين. 

وقالت الشركة إنها حددت وحظرت حسابات تنتج محتوى لخمسة مواقع ويب (باللغتين الإنجليزية والإسبانية) تتظاهر بأنها منافذ إخبارية، وتنشر "رسائل استقطابية" حول قضايا مثل الحملة الرئاسية الأميركية، وحقوق المثليين والمثليات ومزدوجي الميل الجنسي والمتحولين جنسيا والحرب في غزة.

تم تحديد العملية باسم "Storm-2035"، وهي جزء من سلسلة من حملات التأثير التي حددتها Microsoft الأسبوع الماضي على أنها "مرتبطة بالحكومة الإيرانية". بالإضافة إلى المنشورات الإخبارية، تضمنت "عشرات الحسابات على X وحساب واحد على Instagram" مرتبطة بالعملية. قالت شركة OpenAI إن العملية لم تكتسب أي قوة جذب ذات مغزى. وكتبت الشركة: "تلقت غالبية منشورات وسائل التواصل الاجتماعي التي حددناها القليل من الإعجابات أو المشاركات أو التعليقات أو لم تتلق أي إعجابات أو مشاركات".

بالإضافة إلى ذلك، قالت شركة OpenAI إنه على مقياس مؤسسة بروكينجز للاختراق، الذي يصنف التهديدات، لم تسجل العملية سوى تصنيف الفئة 2 (على مقياس من واحد إلى ستة). وهذا يعني أنها أظهرت "نشاطًا على منصات متعددة، ولكن لا يوجد دليل على أن أشخاصًا حقيقيين التقطوا أو شاركوا على نطاق واسع محتواها".

وصفت شركة OpenAI العملية بأنها تخلق محتوى لمنافذ إخبارية محافظة وتقدمية مزيفة، تستهدف وجهات نظر معارضة. وقالت بلومبرج إن المحتوى يشير إلى أن دونالد ترامب "كان خاضعًا للرقابة على وسائل التواصل الاجتماعي وكان مستعدًا لإعلان نفسه ملكًا للولايات المتحدة". ووصف آخر اختيار كامالا هاريس لتيم والز كمرشح لمنصب نائب الرئيس بأنه "اختيار محسوب للوحدة".

وأضافت شركة OpenAI أن العملية أنشأت أيضًا محتوى حول وجود إسرائيل في الألعاب الأولمبية و(بدرجة أقل) السياسة الفنزويلية وحقوق المجتمعات في أمريكا اللاتينية واستقلال اسكتلندا. بالإضافة إلى ذلك، أضافت الحملة تعليقات حول الموضة والجمال، "ربما لتبدو أكثر أصالة أو في محاولة لبناء قاعدة جماهيرية".

وقال بن نيمو، المحقق في الاستخبارات والتحقيقات في شركة OpenAI، لوكالة بلومبرج: "حاولت العملية اللعب على كلا الجانبين، لكن يبدو أنها لم تحصل على مشاركة من أي منهما".

تأتي عملية التأثير الفاشلة التي تم اكتشافها بعد الكشف في وقت سابق من هذا الأسبوع عن استهداف قراصنة إيرانيين لحملتي هاريس وترامب. وقال مكتب التحقيقات الفيدرالي إن مستشار ترامب غير الرسمي روجر ستون وقع ضحية لرسائل البريد الإلكتروني الاحتيالية. ثم سيطر القراصنة الإيرانيون على حسابه وأرسلوا رسائل تحتوي على روابط احتيالية إلى آخرين. ولم يجد مكتب التحقيقات الفيدرالي أي دليل على أن أي شخص في حملة هاريس وقع في الفخ.

المصدر: بوابة الوفد