عرضت شركة “أوبن ايه آي”، مبتكرة برنامج المحادثة الشهير “شات جي بي تي” القائم على الذكاء الاصطناعي التوليدي، أداة لاستنساخ الصوت سيكون استخدامها محدوداً لتفادي تسجيل حوادث احتيال أو جرائم.

والأداة التي سُمّيت بـ” فويس انجين” قادرة على إعادة إنتاج صوت شخص من خلال عينة صوتية مدتها 15 ثانية، على ما ذكر بيان لـ”اوبن ايه آي” تطرّق إلى نتائج اختبار أجري على نطاق صغير.


وأضاف البيان “ندرك أن القدرة على توليد أصوات تشبه أصوات البشر خطوة تنطوي على مخاطر كبيرة، خصوصاً في عام الانتخابات هذا”.

وتابع “نعمل مع شركاء أميركيين ودوليين من حكومات ووسائل إعلام ومجالات الترفيه والتعليم والمجتمع المدني وقطاعات أخرى، ونأخذ ملاحظاتهم في الاعتبار خلال عملية ابتكار الأداة”.
وفي هذا العام الذي يُرتقب أن يشهد انتخابات في دول كثيرة، يخشى الباحثون في مجال التضليل الإعلامي من إساءة استخدام تطبيقات الذكاء الاصطناعي التوليدية، وخصوصاً أدوات استنساخ الصوت التي تُعدّ رخيصة وسهلة الاستخدام ويصعب تتبعها.
وأكدت “أوبن ايه آي” أنها اعتمدت “نهجاً حذراً” قبل نشر الأداة الجديدة على نطاق أوسع “بسبب احتمال إساءة استخدام الأصوات الاصطناعية”.
ويأتي عرض الأداة بعدما قام مستشار يعمل في الحملة الرئاسية لمنافس ديمقراطي لجو بايدن، بابتكار برنامج آلي انتحل شخصية الرئيس الأمريكي المرشح لولاية جديدة.

ودعا الصوت المشابه لصوت جو بايدن الناخبين إلى الامتناع عن التصويت في الانتخابات التمهيدية في نيو هامبشر.
وحظرت الولايات المتحدة مذّاك الدعوات التي تستخدم فيها الأصوات المستنسخة المولّدة بواسطة الذكاء الاصطناعي، من أجل مكافحة عمليات الاحتيال السياسية أو التجارية.
وأوضحت “أوبن ايه آي” أنّ الشركاء الذين يختبرون “فويس انجين” وافقوا على قواعد تفرض مثلاً موافقة صريحة من أي شخص قبل استخدام صوته، وضرورة الإشارة بوضوح إلى المستمعين أن الأصوات ابتُكرت بواسطة الذكاء الاصطناعي.
وتابعت الشركة “اعتمدنا مجموعة من الإجراءات الأمنية، بينها العلامة المائية حتى نتمكن من تتبع أصل كل صوت تبتكره الأداة الجديدة، بالإضافة إلى مراقبة استباقية لاستخدامها”.

المصدر: جريدة الحقيقة

كلمات دلالية: الذکاء الاصطناعی ایه آی

إقرأ أيضاً:

الاتحاد الأوروبي يبدأ تطبيق “قانون الذكاء الاصطناعي” رسميًا

فبراير 2, 2025آخر تحديث: فبراير 2, 2025

المستقلة/- دخلت اليوم الأحد القواعد الجديدة لتنظيم استخدام الذكاء الاصطناعي حيز التنفيذ في الاتحاد الأوروبي، وذلك بموجب “قانون الذكاء الاصطناعي”، الذي يُعد الأول من نوعه عالميًا. يهدف هذا القانون إلى وضع إطار تنظيمي شامل يوازن بين تشجيع الابتكار وحماية المستخدمين من المخاطر المحتملة لهذه التكنولوجيا المتطورة.

ملامح قانون الذكاء الاصطناعي

يرتكز القانون على نهج قائم على المخاطر، حيث يُصنّف أنظمة الذكاء الاصطناعي إلى أربع فئات رئيسية:

مخاطر غير مقبولة: تشمل الأنظمة التي تشكل تهديدًا واضحًا لحقوق الإنسان، مثل أدوات المراقبة الجماعية أو أنظمة التصنيف الاجتماعي المشابهة لتلك المستخدمة في الصين. سيتم حظر هذه الأنظمة بالكامل. مخاطر عالية: تتضمن أنظمة الذكاء الاصطناعي المستخدمة في القطاعات الحيوية مثل الرعاية الصحية، التوظيف، والبنية التحتية العامة. يجب أن تلتزم هذه الأنظمة بمعايير صارمة للشفافية والسلامة. مخاطر محدودة: تشمل أنظمة الذكاء الاصطناعي التوليدية مثل ChatGPT، حيث يُطلب من المطورين توضيح كيفية تدريب النماذج وضمان عدم إنتاج محتوى مضلل أو غير دقيق. مخاطر ضئيلة: لا تتطلب هذه الأنظمة قيودًا صارمة، مثل فلاتر البريد الإلكتروني أو التوصيات التلقائية في منصات البث. أهداف القانون وتأثيره

يسعى الاتحاد الأوروبي إلى تحقيق توازن بين تشجيع الابتكار وضمان حماية حقوق الأفراد، خصوصًا فيما يتعلق بالخصوصية والمساواة وعدم التمييز. كما يفرض القانون عقوبات مالية صارمة على الشركات التي تخالف هذه القواعد، قد تصل إلى 7% من إيراداتها السنوية العالمية.

تحديات التطبيق وردود الفعل

رحبت العديد من الشركات والمؤسسات بهذه الخطوة، معتبرة أنها تعزز الثقة في أنظمة الذكاء الاصطناعي وتمنع الاستخدامات الضارة. ومع ذلك، هناك مخاوف من أن تؤدي هذه القيود إلى إبطاء الابتكار في قطاع التكنولوجيا داخل أوروبا، مقارنة بالمنافسين في الولايات المتحدة والصين، الذين يملكون قوانين أقل تقييدًا.

خاتمة

يعد “قانون الذكاء الاصطناعي” الأوروبي نقطة تحول في تنظيم التكنولوجيا الحديثة، مما يجعله نموذجًا عالميًا في التعامل مع الذكاء الاصطناعي بطريقة مسؤولة. ومع دخول هذه القواعد حيز التنفيذ، يبقى السؤال المطروح: هل سينجح الاتحاد الأوروبي في تحقيق التوازن بين الأمان والابتكار، أم أن هذه القوانين ستحد من تنافسيته في المجال التكنولوجي؟

مقالات مشابهة

  • “رئيس جامعة نايف العربية”: الذكاء الاصطناعي يمثل أولوية دولية
  • اليماحي: الذكاء الاصطناعي أداة حاسمة لتغيير المستقبل
  • قوانين جديدة لاستخدام الذكاء الاصطناعي تدخل حيز التنفيذ في الاتحاد الأوروبي
  • قوانين جديدة لاستخدام الذكاء الاصطناعي تدخل حيز التنفيذ
  • الاتحاد الأوروبي يبدأ تطبيق “قانون الذكاء الاصطناعي” رسميًا
  • ميزة في “iOS 18.3” تثير الجدل.. هل يشكل الذكاء الاصطناعي خطرا؟
  • موظف في "أوبن إيه آي" يحذر من نهاية البشرية على يد الذكاء الاصطناعي
  • موظف في أوبن إيه آي يحذر من نهاية البشرية على يد الذكاء الاصطناعي
  • “أوبن إيه آي” تتهم عملاق الذكاء الاصطناعي الصيني DeepSeek باستخدام نماذجها لتدريب نموذج منافس
  • أوبن إيه آي تتهم شركة ديب سيك الصينية بسرقة نماذجها للذكاء الاصطناعي