OpenAI ومايكروسوفت وجوجل يكافحون التزييف العميق في بالانتخابات
تاريخ النشر: 17th, February 2024 GMT
وقع تحالف من 20 شركة تكنولوجيا اتفاقا يوم الجمعة للمساعدة في منع التزييف العميق للذكاء الاصطناعي في انتخابات 2024 الحاسمة التي تجري في أكثر من 40 دولة.
تعد OpenAI وGoogle وMeta وAmazon وAdobe وX من بين الشركات التي انضمت إلى الاتفاقية لمنع ومكافحة المحتوى الناتج عن الذكاء الاصطناعي والذي يمكن أن يؤثر على الناخبين.
تتضمن قائمة الشركات الموقعة على "اتفاق التكنولوجيا لمكافحة الاستخدام الخادع للذكاء الاصطناعي في انتخابات 2024" تلك التي تنشئ نماذج الذكاء الاصطناعي وتوزعها، بالإضافة إلى المنصات الاجتماعية التي من المرجح أن تظهر فيها التزييفات العميقة. الموقعون هم Adobe، Amazon، Anthropic، Arm، ElevenLabs، Google، IBM، Inflection AI، LinkedIn، McAfee، Meta، Microsoft، Nota، OpenAI، Snap Inc.، Stability AI، TikTok، Trend Micro، Truepic وX (تويتر سابقًا).
وتصف المجموعة الاتفاقية بأنها "مجموعة من الالتزامات لنشر التكنولوجيا لمواجهة المحتوى الضار الناتج عن الذكاء الاصطناعي والذي يهدف إلى خداع الناخبين". وقد وافق الموقعون على الالتزامات الثمانية التالية:
تطوير وتنفيذ التكنولوجيا للتخفيف من المخاطر المتعلقة بمحتوى انتخابات الذكاء الاصطناعي الخادع، بما في ذلك الأدوات مفتوحة المصدر حيثما كان ذلك مناسبًا
تقييم النماذج في نطاق هذه الاتفاقية لفهم المخاطر التي قد تمثلها فيما يتعلق بالمحتوى الانتخابي المخادع للذكاء الاصطناعي
يسعون لكشف توزيع هذا المحتوى على منصاتهم
السعي لمعالجة هذا المحتوى المكتشف على منصاتهم بشكل مناسب
تعزيز المرونة عبر الصناعة في مواجهة المحتوى الانتخابي المخادع للذكاء الاصطناعي
توفير الشفافية للجمهور فيما يتعلق بكيفية تعامل الشركة معه
الاستمرار في التعامل مع مجموعة متنوعة من منظمات المجتمع المدني العالمية والأكاديميين
دعم الجهود الرامية إلى تعزيز الوعي العام ومحو الأمية الإعلامية وقدرة المجتمع على الصمود
سيتم تطبيق الاتفاقية على الصوت والفيديو والصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. ويتناول المحتوى الذي "يزيف أو يغير بشكل مخادع مظهر أو صوت أو تصرفات المرشحين السياسيين ومسؤولي الانتخابات وغيرهم من أصحاب المصلحة الرئيسيين في انتخابات ديمقراطية، أو الذي يقدم معلومات كاذبة للناخبين حول متى وأين وكيف يمكنهم التصويت. "
يقول الموقعون إنهم سيعملون معًا لإنشاء ومشاركة الأدوات لاكتشاف ومعالجة توزيع التزييف العميق عبر الإنترنت. بالإضافة إلى ذلك، يخططون لقيادة الحملات التعليمية و"توفير الشفافية" للمستخدمين.
قالت OpenAI، إحدى الشركات الموقعة، الشهر الماضي إنها تخطط لقمع المعلومات الخاطئة المتعلقة بالانتخابات في جميع أنحاء العالم. سيتم تشفير الصور التي تم إنشاؤها باستخدام أداة DALL-E 3 الخاصة بالشركة باستخدام مصنف يوفر علامة مائية رقمية لتوضيح أصلها كصور تم إنشاؤها بواسطة الذكاء الاصطناعي. وقالت الشركة المصنعة لـ ChatGPT إنها ستعمل أيضًا مع الصحفيين والباحثين والمنصات للحصول على تعليقات حول مُصنف مصدرها. وتخطط أيضًا لمنع روبوتات الدردشة من انتحال هوية المرشحين.
وكتبت آنا ماكانجو، نائبة رئيس الشؤون العالمية في OpenAI، في البيان الصحفي المشترك للمجموعة: "نحن ملتزمون بحماية نزاهة الانتخابات من خلال تطبيق السياسات التي تمنع إساءة الاستخدام وتحسين الشفافية حول المحتوى الناتج عن الذكاء الاصطناعي". "نحن نتطلع إلى العمل مع شركاء الصناعة وقادة المجتمع المدني والحكومات في جميع أنحاء العالم للمساعدة في حماية الانتخابات من الاستخدام الخادع للذكاء الاصطناعي."
ومن أبرز الغائبين عن القائمة شركة Midjourney، الشركة التي لديها مولد صور يعمل بالذكاء الاصطناعي (يحمل نفس الاسم) والتي تنتج حاليًا بعض الصور المزيفة الأكثر إقناعًا. ومع ذلك، قالت الشركة في وقت سابق من هذا الشهر إنها ستفكر في حظر الأجيال السياسية تمامًا خلال موسم الانتخابات. في العام الماضي، تم استخدام Midjourney لإنشاء صورة مزيفة للبابا بنديكتوس السادس عشر وهو يتبختر بشكل غير متوقع في الشارع مرتديًا سترة بيضاء منتفخة. وقد شارك أحد أقرب منافسي Midjourney، وهو Stability AI (صانعو Stable Diffusion مفتوح المصدر). اتصلت Engadget بـ Midjourney للتعليق على غيابها، وسنقوم بتحديث هذه المقالة إذا سمعنا ردًا.
شركة أبل فقط هي الغائبة بين "الخمسة الكبار" في وادي السليكون. ومع ذلك، يمكن تفسير ذلك من خلال حقيقة أن صانع iPhone لم يطلق بعد أي منتجات ذكاء اصطناعي توليدية، كما أنه لا يستضيف منصة وسائط اجتماعية يمكن من خلالها توزيع التزييف العميق. تحياتي حسنًا، لقد اتصلنا بشركة Apple للعلاقات العامة للتوضيح ولكن لم نتلق أي رد حتى وقت النشر.
على الرغم من أن المبادئ العامة التي اتفقت عليها الشركات العشرين تبدو وكأنها بداية واعدة، يبقى أن نرى ما إذا كانت مجموعة فضفاضة من الاتفاقيات دون إنفاذ ملزم ستكون كافية لمكافحة سيناريو كابوس حيث تستخدم الجهات الفاعلة السيئة في العالم الذكاء الاصطناعي التوليدي للتأثير على الرأي العام والتأثير على الرأي العام. انتخاب مرشحين مناهضين للديمقراطية بقوة - في الولايات المتحدة وأماكن أخرى.
وقالت راشيل أوري، المديرة المساعدة الأولى لمشروع الانتخابات في مركز السياسات بين الحزبين، لوكالة أسوشيتد برس يوم الجمعة: “اللغة ليست قوية تمامًا كما كان يتوقع المرء”. "أعتقد أننا يجب أن نمنح الائتمان عند استحقاقه، ونعترف بأن الشركات لديها مصلحة راسخة في عدم استخدام أدواتها لتقويض الانتخابات الحرة والنزيهة. ومع ذلك، فهو طوعي، وسنراقب ما إذا كانوا سيتابعون ذلك أم لا.
لقد تم بالفعل استخدام تقنية التزييف العميق التي أنشأها الذكاء الاصطناعي في الانتخابات الرئاسية الأمريكية. في وقت مبكر من أبريل 2023، عرضت اللجنة الوطنية للحزب الجمهوري (RNC) إعلانًا باستخدام صور تم إنشاؤها بواسطة الذكاء الاصطناعي للرئيس جو بايدن ونائب الرئيس كامالا هاريس. أعقبت حملة رون ديسانتيس، الذي انسحب منذ ذلك الحين من الانتخابات التمهيدية للحزب الجمهوري، صور تم إنشاؤها بواسطة الذكاء الاصطناعي لمنافسه والمرشح المحتمل دونالد ترامب في يونيو 2023. وتضمن كلاهما إخلاء مسؤولية يسهل تفويته بأن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي.
في شهر يناير، تم استخدام تقنية التزييف العميق لصوت الرئيس بايدن بواسطة الذكاء الاصطناعي من قبل شركتين مقرهما تكساس للاتصال الآلي بالناخبين في نيو هامبشاير، وحثهم على عدم التصويت في الانتخابات التمهيدية بالولاية في 23 يناير. المقطع، الذي تم إنشاؤه باستخدام أداة استنساخ الصوت من ElevenLabs، وصلت إلى ما يصل إلى 25000 ناخب في نيو هامبشاير، وفقًا للمدعي العام بالولاية. ElevenLabs من بين الموقعين على الاتفاقية.
تصرفت لجنة الاتصالات الفيدرالية (FCC) بسرعة لمنع المزيد من إساءة استخدام تقنية استنساخ الصوت في مكالمات الحملات الانتخابية المزيفة. وفي وقت سابق من هذا الشهر، صوتت بالإجماع على حظر المكالمات الآلية التي ينشئها الذكاء الاصطناعي. لم يصدر الكونجرس الأمريكي (الذي يبدو أنه وصل إلى طريق مسدود إلى الأبد) أي تشريع بشأن الذكاء الاصطناعي. في ديسمبر، وافق الاتحاد الأوروبي على مشروع قانون موسع لتطوير السلامة بموجب قانون الذكاء الاصطناعي والذي يمكن أن يؤثر على الجهود التنظيمية للدول الأخرى.
كتب نائب رئيس Microsoft ورئيسها براد سميث في بيان صحفي: "بينما يحتضن المجتمع فوائد الذكاء الاصطناعي، فإننا نتحمل مسؤولية المساعدة في ضمان عدم استخدام هذه الأدوات كسلاح في الانتخابات". "لم يخلق الذكاء الاصطناعي خداعًا انتخابيًا، لكن يجب علينا التأكد من أنه لا يساعد في ازدهار الخداع".
المصدر: بوابة الوفد
كلمات دلالية: للذکاء الاصطناعی التزییف العمیق الاصطناعی فی ومع ذلک
إقرأ أيضاً:
وداعًا للمصورين: الذكاء الاصطناعي يهدد الملايين من الوظائف
الأحد, 23 فبراير 2025 11:00 ص
بغداد/المركز الخبري الوطني
في ظل التطورات المتسارعة في مجال الذكاء الاصطناعي، أصبح بإمكان البرامج المتقدمة إنتاج صور احترافية تحاكي الواقع دون الحاجة إلى كاميرا أو مصور. هذا التطور يثير مخاوف الملايين من العاملين في قطاع التصوير، بدءًا من المصورين الفوتوغرافيين إلى محرري الصور والمصممين.
تقنيات الذكاء الاصطناعي، مثل “التصوير التوليدي”، تتيح للمستخدمين إنشاء صور فائقة الجودة بناءً على أوصاف نصية فقط، مما يقلل من الحاجة إلى جلسات تصوير مكلفة. وقد بدأت شركات كبرى بالفعل في تبني هذه الحلول، مما يهدد مستقبل العديد من الوظائف التقليدية في هذا المجال.
مع تزايد الاعتماد على هذه التقنيات، يبقى السؤال: هل سيؤدي الذكاء الاصطناعي إلى نهاية عصر التصوير التقليدي، أم أنه سيفتح آفاقًا جديدة للمبدعين في المجال؟
رئيس الوزراء يستعرض الفرص الاستثمارية في الساحل الشمالي والبحر الأحمر