صور إباحية لتايلور سويفت أُنشئت بالذكاء الاصطناعي تجتاح مواقع التواصل الاجتماعي
تاريخ النشر: 26th, January 2024 GMT
(CNN)-- انتشرت صور إباحية تم إنشاؤها بواسطة الذكاء الاصطناعي لأشهر نجمة في العالم عبر وسائل التواصل الاجتماعي هذا الأسبوع، مما يؤكد الإمكانات الضارة التي تشكلها تكنولوجيا الذكاء الاصطناعي السائدة: قدرتها على إنشاء صور حقيقية وضارة بشكل مقنع.
تم تداول الصور المزيفة لتايلور سويفت في الغالب على موقع التواصل الاجتماعي X، تويتر سابقًا.
ولم يستجب المتحدث باسم سويفت لطلب التعليق.
مثل معظم منصات التواصل الاجتماعي الرئيسية، تحظر سياسات X مشاركة "الوسائط المركبة التي تم التلاعب بها أو خارج السياق والتي قد تخدع الناس أو تربكهم وتؤدي إلى الأذى".
ولم تستجب الشركة لطلب CNN للتعليق.
ويأتي ذلك في الوقت الذي تتجه فيه الولايات المتحدة إلى عام الانتخابات الرئاسية، وتتزايد المخاوف بشأن كيفية استخدام الصور ومقاطع الفيديو المضللة التي تم إنشاؤها بواسطة الذكاء الاصطناعي لقيادة جهود التضليل وتعطيل التصويت في نهاية المطاف.
وقال بن ديكر، الذي يدير "ميمتيكا"، وكالة لتحليل التهديدات عبر الإنترنت لـCNN: "هذا مثال رئيسي على الطرق التي يتم بها إطلاق العنان للذكاء الاصطناعي للعديد من الأسباب الشائنة دون وجود حواجز حماية كافية لحماية الساحة العامة".
وأضاف أن استغلال أدوات الذكاء الاصطناعي التوليدية لإنشاء محتوى قد يكون ضارًا ويستهدف جميع أنواع الشخصيات العامة يتزايد بسرعة وينتشر بشكل أسرع من أي وقت مضى عبر وسائل التواصل الاجتماعي.
وتابع: "لا تمتلك شركات وسائل التواصل الاجتماعي خططًا فعالة لمراقبة المحتوى بالضرورة".
على سبيل المثال، قامت شركة X بخفض عدد أفراد فريق الإشراف على المحتوى الخاص بها إلى حد كبير وتعتمد على الأنظمة الآلية وتقارير المستخدم.
قامت ميتا أيضًا بإجراء تخفيضات على فرقها التي تعالج المعلومات المضللة وحملات التصيد والمضايقات المنسقة على منصاتها، حسبما قال أشخاص لديهم معرفة مباشرة بالوضع لشبكة CNN، مما أثار مخاوف قبل انتخابات 2024 المحورية في الولايات المتحدة وحول العالم.
ليس من الواضح من أين نشأت الصور المتعلقة بتايلور سويفت. ورغم العثور على بعض الصور على مواقع مثل انستغرام و"رديت"، إلا أنها كانت مشكلة واسعة النطاق على X على وجه الخصوص.
ويتزامن الحادث أيضًا مع ظهور أدوات توليد الذكاء الاصطناعي مثل ChatGPT و Dall-E. ومع ذلك، هناك أيضًا عالم أوسع بكثير من نماذج الذكاء الاصطناعي غير الخاضعة للإشراف وغير الآمنة في منصات مفتوحة المصدر، كما قال ديكر.
وأضاف: "يشير هذا إلى نوع أكبر من التصدع في الإشراف على المحتوى وإدارة المنصة لأنه إذا كان جميع أصحاب الشأن - شركات الذكاء الاصطناعي وشركات التواصل الاجتماعي والمنظمين والمجتمع المدني - لا يتحدثون عن نفس الأشياء وعلى نفس الصفحة حول كيفية معالجة ذلك، فإن هذا النوع من المحتوى سيستمر في الانتشار".
ومع ذلك، قال ديكر إن استهداف سويفت يمكن أن يجذب المزيد من الاهتمام للقضايا المتزايدة حول الصور المولدة بواسطة الذكاء الاصطناعي. أعرب جمهور سويفت الهائل عن غضبهم على وسائل التواصل الاجتماعي هذا الأسبوع، مما دفع القضية إلى الواجهة.
في عام 2022، أثار انهيار منصة "تيكت ماستر" قبل جولتها الغنائية "إيراس" غضبًا عبر الإنترنت، مما أدى إلى العديد من الجهود التشريعية للقضاء على سياسات التذاكر غير الصديقة للمستهلك.
ويعتقد ديكر أن الأمر نفسه ربما ينطبق على إتلاف الصور التي ينتجها الذكاء الاصطناعي.
وقال: "عندما يكون لديك شخصيات مثل تايلور سويفت بهذا الحجم [مستهدفة]، فربما يكون هذا هو ما يدفع المشرعين وشركات التكنولوجيا إلى اتخاذ إجراء". وأضاف: "أرى أنهم بحاجة إلى جعلها تشعر بالتحسن لأنها تتمتع على الأرجح بنفوذ أكبر من أي شخص آخر على الإنترنت تقريبًا."
تم استخدام هذا النوع من التكنولوجيا لإنشاء ما يعرف باسم "الإباحية الانتقامية" - نشر صور فاضحة لشخص ما عبر الإنترنت دون موافقته - لفترة من الوقت حتى الآن، ولكنه يحظى باهتمام متجدد الآن بسبب الصور المسيئة لسويفت.
أمريكاالذكاء الاصطناعيمشاهيرنشر الجمعة، 26 يناير / كانون الثاني 2024تابعونا عبرسياسة الخصوصيةشروط الخدمةملفات تعريف الارتباطخيارات الإعلاناتCNN الاقتصاديةمن نحنالأرشيف© 2024 Cable News Network. A Warner Bros. Discovery Company. All Rights Reserved.المصدر: CNN Arabic
كلمات دلالية: الذكاء الاصطناعي مشاهير وسائل التواصل الاجتماعی الذکاء الاصطناعی
إقرأ أيضاً:
Runway تطلق نموذج فيديو جديد بالذكاء الاصطناعي يحافظ على تناسق المشاهد والشخصيات
أعلنت شركة Runway الناشئة في مجال الذكاء الاصطناعي عن إطلاق نموذجها الجديد Gen-4، والذي يهدف إلى تحسين استمرارية الشخصيات والمشاهد في الفيديوهات المُنشأة بالذكاء الاصطناعي، وهي مشكلة طالما عانت منها هذه التقنية في السابق
تحكم أكبر في الشخصيات والمشاهدوفقًا لما نشرته الشركة على منصة X، فإن Gen-4 يمنح المستخدمين مزيدًا من التحكم والاستمرارية أثناء سرد القصص عبر مقاطع الفيديو، حيث يمكن للنموذج إنشاء شخصيات وعناصر متسقة عبر لقطات متعددة باستخدام صورة مرجعية واحدة فقط، وبعد ذلك يقوم المستخدم بوصف التركيبة المطلوبة ليقوم الذكاء الاصطناعي بتوليد المشاهد المختلفة بنفس الأسلوب والتناسق.
حاليًا، يتم طرح Gen-4 تدريجيًا للمستخدمين من فئات الاشتراكات المدفوعة والمؤسسات، وقد استعرضت الشركة إمكانيات النموذج عبر فيديو يظهر امرأة تحافظ على شكلها في لقطات متعددة رغم اختلاف ظروف الإضاءة والمشاهد.
تطور سريع بعد Gen-3 Alphaيأتي هذا الإطلاق بعد أقل من عام على إعلان Runway عن نموذجها السابق Gen-3 Alpha، الذي مكّن المستخدمين من إنشاء فيديوهات أطول، لكنه أثار الجدل بسبب تقارير تشير إلى أنه تم تدريبه على آلاف الفيديوهات من يوتيوب وأفلام مقرصنة.
بفضل Gen-4، تسعى Runway إلى تعزيز قدرة المبدعين على إنتاج فيديوهات أكثر واقعية ومتسقة، وهو ما يمثل تطورًا هامًا في عالم الذكاء الاصطناعي المرئي.