تحذير هام للبنات بشأن توليد الصور بالذكاء الاصطناعي|متخافيش لو حد هددك بالصور تاني
تاريخ النشر: 9th, May 2024 GMT
لقد تطورت قدرات أدوات توليد الصور بالذكاء الاصطناعي إلى مرحلة يمكن فيها للأفراد الخلط بينها وبين الصور غير المولدة بالذكاء الاصطناعي أو الصور الحقيقية، وهو ما يثير مخاوف بشأن إساءة استخدامها المحتملة على سبيل المثال استخدامها لابتزاز الفتيات أو التحرش بهم .
وقد قامت شركة OpenAI بالفعل بتضمين علامات مائية للصور التي ينشئها برنامج DALL-E 3 للحفاظ على الشفافية حول المصدر واحترام الأصالة.
ستتضمن أدوات الذكاء الاصطناعي التوليدية من OpenAI بيانات تعريف C2PA
أعلن المدونة الرسمية لشركة OpenAI أنهم يعملون على طرق جديدة للكشف عن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفقًا للشركة، فإن الهدف هو مساعدة الباحثين على دراسة أصالة المحتوى والانضمام إلى اللجنة التوجيهية لتحالف مصدر ومصداقية المحتوى (C2PA)، وهي معيار واسع الاستخدام لإصدار شهادات للمحتوى الرقمي. سيسمح ذلك للمبدعين بوضع علامات وإصدار شهادات على محتواهم للتحقق من أصوله الحقيقية.
تقول OpenAI إنهم سيقومون أيضًا بدمج بيانات تعريف C2PA لبرنامج Sora، وهو نموذج الشركة لإنشاء الفيديوهات، عند إطلاقه على نطاق واسع. بالنسبة لأولئك الذين لا يعرفون، من المحتمل أيضًا أن يكون Sora أداة مميزة لتحويل النص إلى فيديو، مثل DALL-E 3، حيث يتوفر فقط للمشتركين المدفوعين. وفقًا لتقرير سابق، سيكون Sora متاحًا للجمهور في عام 2024.
OpenAI تبني أداة جديدة للكشف عن المحتوى الذي ينشئه DALL-E 3
كما ذكر أعلاه، تعمل OpenAI أيضًا على أداة جديدة تستخدم الذكاء الاصطناعي للكشف عن الصور التي تم إنشاؤها بواسطة DALL-E 3. وبشكل أكثر تحديدًا، تتنبأ هذه الأداة باحتمالية إنشاء صورة بواسطة الأداة. وفقًا للشركة، لا يزال من الممكن اكتشاف الصورة حتى بعد ضغطها، أو تعديل تشبعها، أو حتى اقتصاصها. ناهيك عن أن هذه الأدوات تهدف إلى أن تكون أكثر مقاومة لمحاولات إزالة إشارات حول أصل المحتوى.
حققت أداة الكشف معدل دقة يبلغ 98٪ للصور التي تم إنشاؤها باستخدام DALL-E، والأهم من ذلك أنها لا تضع علامة على الصور غير المولدة بالذكاء الاصطناعي على أنها من صنع الذكاء الاصطناعي.
لقد فتحت الشركة بالفعل باب التقدمات للوصول إلى أداة الكشف عن الصور الجديدة لأول مجموعة من المختبرين لديها. ويشمل ذلك مختبرات الأبحاث ومنظمات الصحافة الاستقصائية البحثية التي تهدف إلى جمع الملاحظات من خلال برنامج وصول الباحثين.
المصدر: صدى البلد
كلمات دلالية: الذكاء الاصطناعي التحرش أدوات الذكاء الاصطناعي بالذکاء الاصطناعی الذکاء الاصطناعی
إقرأ أيضاً:
الحربٌ التقنية الباردة تشتعل.. OpenAI تدعو رسميًا إلى حظر DeepSeek
شنت شركة OpenAI هجوما على شركة DeepSeek، ودعت إلى حظر استخدام نماذج الذكاء الاصطناعي من شركة DeepSeek الصينية في القطاعات الحساسة.
وقالت إن شركة DeepSeek المنافسة «مدعومة من دولة الصين» و«خاضعة لسيطرتها»، وذلك في خطاب رسمي أرسلته إلى مكتب سياسات العلوم والتكنولوجيا.
وأوضحت OpenAI في خطابها، الذي وقّعه كريس لاهين، نائب الرئيس للشؤون العالمية في الشركة، أن نماذج DeepSeek الصينية تشكل خطرا أمنيا كبيرا، داعية إلى حظرها في المؤسسات الحكومية والعسكرية والاستخباراتية.بحسب موقع «البوابة التقنية»
وأوصت الشركة في خطابها بحظر المعدات الصينية، مثل رقاقات Huawei Ascend، والنماذج التي تنتهك خصوصية المستخدم، أو تعرض الأمن القومي للخطر، وفقا لما جاء في الخطاب.
وأشار الخطاب إلى أن الولايات المتحدة تقود العالم في مجال الذكاء الاصطناعي، لكنها تواجه منافسة شديدة من الحزب الشيوعي الصيني، الذي يسعى إلى تجاوزها بحلول عام 2030.
وترى الشركة أن خطة العمل الجديدة لإدارة الرئيس ترامب في مجال الذكاء الاصطناعي يمكن أن تضمن تفوق النماذج الأمريكية المبنية على المبادئ الديمقراطية على تلك التي تعتمدها الصين، التي وصفتها بـ«الاستبدادية».
وشهد قطاع الذكاء الاصطناعي حالة من الجدل بعد أن قدّم نموذج DeepSeek-R1 أداءً مماثلًا تقريبًا لنماذج ChatGPT في اختبارات الاستدلال، ولكن بتكلفة أقل بكثير، بل إنه كان مجانيًا عند استخدامه عبر المتصفح.
وأدى ذلك إلى تراجع أسهم الشركات المستثمرة في الذكاء الاصطناعي بنحو كبير، قبل أن تستعيد السوق توازنها لاحقًا.
وأُثيرت تساؤلات حول سرعة تطور DeepSeek، إذ شكك بعض الخبراء في كون نماذجها قد اعتمدت على منهجية تدريب مبتكرة أو أنها«استخلصت» بيانات تدريبية من OpenAI بما يخالف شروط الاستخدام، ولكن ذلك لم يتم تأكيده إلى الآن.
وحذّرت OpenAI من خطورة بناء بنية تحتية حيوية على نماذج مثل DeepSeek، مشيرةً إلى احتمال توجيه الحزب الشيوعي الصيني النموذج لتنفيذ عمليات تلاعب ضارة.
وفي سياق متصل، أكّدت OpenAI أن العالم على أعتاب مرحلة الذكاء الاصطناعي العام (AGI)، وهي أنظمة ذكاء تمتلك قدرات إدراكية شبيهة بالبشر. وشددت الشركة على ضرورة ضمان حرية الوصول إلى هذا التطور، بعيدًا عن القيود البيروقراطية والقوانين المفرطة التي تعوق التقدم.
وأضاف سام ألتمان، الرئيس التنفيذي لـ OpenAI، قائلًا: «إننا على أعتاب قفزة ضخمة نحو عصر الذكاء، وعلينا ضمان أن يكون الوصول إلى الذكاء الاصطناعي العام متاحًا للجميع، دون أن تفرض القوى الاستبدادية قيودًا عليه أو تعرقله القوانين المرهِقة»، على حد تعبيره.
اقرأ أيضاًذاكرة المستخدمين.. ميزة جديدة تطلقها شركة OpenAI في ChatGPT
ينافس «كروم».. OpenAI تسعى لإنشاء متصفحها الخاص
لمحبي الذكاء الاصطناعي.. OpenAI تتيح تطبيق ChatGPT مجانا
برعاية منصور بن زايد.. ختام ناجح للبطولة الرمضانية لجمال الخيل العربية