وثيقة جديدة للتصدي لعمليات الاحتيال والتضليل في "الذكاء الاصطناعي"
تاريخ النشر: 19th, September 2024 GMT
طرحت الهيئة السعودية للبيانات والذكاء الاصطناعي، وثيقة مبادئ التزييف العميق، عبر منصة ”استطلاع“ بهدف وضع أدلة استرشادية واضحة للمطورين وصناع المحتوى والمستخدمين لتفادي أو معالجة الآثار المترتبة من استخدام تقنيات التزييف العميق والتخفيف من مخاطرها.
كما تتضمن توصيات ومبادئ أخلاقيات الذكاء الاصطناعي وممارسات حماية البيانات الشخصية.
أخبار متعلقة "سدايا" تطلق أول إطار مختص بمعايير الذكاء الاصطناعي في العالمانطلاق القمة العالمية للذكاء الاصطناعي بمشاركة 450 متحدثًا من 100 دولةاليوم الأول.. تفاصيل مذكرات التفاهم الموقعة في قمة الذكاء الاصطناعيصنّفت الوثيقة المخاطر الأساسية المرتبطة بتقنيات التزييف العميق الخبيثة إلى 3 فئات، تشمل العمليات الاحتيالية، التي تتمثل في تقنيات التزييف العميق لتقليد الأفراد الموثوق بهم بشكلٍ مقنع من أجل الحصول على معلومات حساسة أو خداع الضحايا، ومن خلال تكرار الأصوات وتعبيرات الوجه والسلوكيات.
وتتضمن أيضًا الاحتيال على الشركات المتعددة الجنسيات، أو التلاعب غير المصرح به استخدام تقنية التزييف العميق لإنشاء محتوى صريح أو مساومة للأفراد دون إذنهم، وغالباً ما يكون ذلك لأغراض متنوعة، مثل: المضايقة، أو الابتزاز، أو الإضرار بالسمعة، أو انتهاك الخصوصية، كفضيحة التزييف العميق للمشاهير.التضليل والدعاية
تشمل المخاطر الأساسية أيضًا التضليل والدعاية عن طريق نشر تقنيات التزييف العميق معلومات كاذبة، وتتلاعب بالتصور العام، وتؤثر على النتائج السياسية من خلال تصوير شخصيات سياسية تدلي ببيانات كاذبة أو تنخرط في سلوك غير أخلاقي، ويمكن استخدام هذا التكتيك لتقويض انتشار المعارضين، والتأثير على الرأي العام، وزعزعة استقرار المجتمعات، مما يؤدي إلى انتشار المعلومات الخاطئة، مثل حادثة التزييف العميق لزعيم سياسي.
أكدت الوثيقة أنه للتخفيف من المخاطر المرتبطة بالتزييف العميق، يجب على الأفراد والمؤسسات تنفيذ أفضل الممارسات والتي منها الحد من التعرض للبيانات الشخصية عبر الإنترنت، وتعزيز الثقافة حول مخاطر التزييف العميق، والتعرف على خصائص التزييف العميق، وتنفيذ عمليات تحقق قوية بالنسبة للمؤسسات لا سيما العاملة في مجال الإعلام والاتصالات.أخلاقيات الذكاء الاصطناعي
ألزمت الوثيقة، المطورين بأخلاقيات الذكاء الاصطناعي ويتم تشجيعهم على ضمان توافق تقنيات التزييف العميق مع المعايير الأخلاقية الموضوعة، حماية البيانات الشخصية، ومنع سوء الاستخدام.
وأكدت على امتثالهم للقوانين واحترام الأخلاق الاجتماعية والالتزام بالقيم الأساسية أمر ضروري لا يمكن التفريط فيه، ويجب أن تسهم التقنية في تسهيل التحقق من صحة المحتوى، ومنع إساءة استخدام الوسائط الاصطناعية، وتعزيز الممارسات المسؤولة والجديرة بالثقة.
وأوجبت الالتزام بالبروتوكولات الصارمة لجمع البيانات، واستخدام الحد الأدنى من البيانات الضرورية، وتطبيق إخفاء الهوية والأسماء المستعارة لتقليل مخاطر إعادة تحديد الهوية.الحفاظ على الخصوصية
اشترطت دمج تقنيات الحفاظ على الخصوصية في معالجة البيانات، وتقليل الاحتفاظ بالبيانات، وإنشاء دورات مراجعة آلية للتقييم المنتظم وحذف البيانات غير الضرورية، وتحقيق مبدأ الشفافية والوضوح، وتوثيق كل مكون من مكونات نموذج الذكاء الاصطناعي بما في ذلك مصادر البيانات وخطوات المعالجة المسبقة والبنية الخوارزمية وعملية اتخاذ القرار، وضمان أن هذه الوثائق قابلة للقراءة آلياً.
وأكدت الوثيقة على المطورين، تطوير وتطبيق تقنيات العلامات المائية الرقمية غير المتطفلة وضمان مقاومتها للهجمات الشائعة مثل إعادة الضغط، والقص، وتغيير المظهر، والحفاظ على الشفافية من خلال نشر تقارير منتظمة حول استخدام تقنيات التزييف العميق وتأثيرها، بما في ذلك التدابير المتخذة لمنع سوء الاستخدام.تطبيقات مفيدة
وشددت على توجيه تقنيات التزييف العميق نحو التطبيقات المفيدة اجتماعياً وبيئياً مثل التعليم، والترفيه، والرعاية الصحية، مع تجنب إساءة استخدام هذه التقنيات أو تطبيقها بشكل غير أخلاقي.
واشترطت على صناع المحتوى استخدام تقنية التزييف العميق بشكل مسؤول من خلال الالتزام بالمعايير الأخلاقية وحماية البيانات الشخصية ومنع سوء الاستخدام.
ونصت الوثيقة على أهمية الامتثال للقوانين واحترام الأخلاق الاجتماعية والمواءمة مع القيم الأساسية أمراً ضرورياً، نظرًا للتأثير المجتمعي الكبير للتزييف العميق، من الضروري توجيه صناعة المحتوى نحو الاستخدامات الإيجابية والبنَّاءة، بهدف الحفاظ على ثقة الجمهور، ومنع سوء الاستخدام، ومعالجة المخاطر، مثل العمليات الاحتيالية، والتلاعب غير المصرح به، والتضليل، والدعاية.فحص صحة المحتوى
وأوضحت الوثيقة أن يمكن تحديد التزييف العميق بشكلٍ فعَّال من خلال نهج يتكون من ثلاث خطوات لفحص صحة المحتوى، من خلال تقييم الرسالة من حيث المصدر والسياق، والهدف من المحتوى، وتحليل العناصر السمعية والبصرية كتناقضات الإضاءات وتغير لون الجلد، أو الأنماط الوامضة، ومصادقة المحتوى باستخدام أدوات الكشف من الذكاء الاصطناعي لتحليل المحتوى وإعطاء مؤشرات حول التلاعب.
وحثت الوثيقة أفراد المجتمع على الإبلاغ عن الحادث فعندما يتأثر شخص ما بالتزييف العميق، يمكن اتخاذ خطوات محددة لمعالجة الموقف وحماية سمعته، منها التعرف على أنواع الاستخدام الخبيث، وإبلاغ المنصة عن الحادث، ووإبلاغ السلطات المختصة، وطلب مشورة النظام، وإشراك الطب الشرعي الرقمي، وتوثيق الأدلة.
المصدر: صحيفة اليوم
كلمات دلالية: اليوم الوطني 94 اليوم الوطني 94 اليوم الوطني 94 الدمام الهيئة السعودية للبيانات والذكاء الاصطناعي سدايا منصة استطلاع تقنیات التزییف العمیق الذکاء الاصطناعی من خلال
إقرأ أيضاً:
«الإمارات العلمي» ينظم «الذكاء الاصطناعي إلى أين؟»
دبي: محمد نعمان
نظّم نادي الإمارات العلمي التابع لندوة الثقافة و العلوم المجلس الرمضاني السنوي الخامس عشر تحت عنوان «الذكاء الاصطناعي إلى أين؟»، في مقر الندوة بدبي، بمشاركة نخبة من الخبراء والمتخصصين في الذكاء الاصطناعي والتكنولوجيا، وبحضور بلال البدور، نائب رئيس مجلس إدارة الندوة، والدكتور سهيل البستكي، الرئيس التنفيذي للعلاقات المجتمعية لتعاونية الاتحاد.
أدار الجلسة الدكتور عيسى البستكي، رئيس جامعة دبي ورئيس نادي الإمارات العلمي.
وشهدت الندوة تفاعلاً من الحضور الذين طرحوا أسئلة عن مستقبل الذكاء الاصطناعي والتحديات المرتبطة به، فيما أكد المتحدثون أهمية تعزيز التعاون بين المؤسسات الأكاديمية والحكومية والخاصة لتسريع تبني هذه التقنيات وتطويرها.
وركزت مناقشات الندوة على توظيف الذكاء الاصطناعي في القطاعات الحيوية، حيث تطرّقت إلى التطبيقات الصحية، والاستدامة البيئية، والتنمية الاقتصادية المستدامة، والتعليم الشخصي والذاتي، والسياحة الذاتية والرقمية، وأتمتة النقل، إضافة إلى استكشاف علوم الفضاء.
الاستثمار في التكنولوجيا
وأكد د. عيسى البستكي، أن الذكاء الاصطناعي لم يعد مجرد تقنية، بل أصبح محركاً رئيسياً للتغيير والتطوير في مختلف جوانب الحياة، وتأثيره غير المسبوق سيمتد إلى المجتمعات والاقتصادات في العالم، ما يجعل الاستثمار في هذه التكنولوجيا ضرورة استراتيجية.
وتحدث د. محمد العلماء، رئيس جمعية الإمارات لجراحة المخ والأعصاب، عن توظيف الذكاء الاصطناعي في القطاع الصحي، الذي سيحدث نقلة نوعية في القطاع الصحي خلال السنوات العشر المقبلة.
وأكد د. عبداللطيف الشامسي، مستشار الشيخة بدور بنت سلطان القاسمي، على إعداد المواهب للتعامل مع هذه التقنيات الحديثة. مشيراً إلى ضرورة تمكين كل طالب من التعلم الفردي وتوظيف أدوات الذكاء الاصطناعي في تطوير مهاراته.
تحليل البيانات
وأكد سعيد المنصوري، مدير إدارة الاستشعار عن بُعد في مركز محمد بن راشد للفضاء، أن الذكاء الاصطناعي أصبح عنصراً محورياً في تحليل البيانات المستمدة من الأقمار الصناعية، ما يسهم بشكل كبير في دعم صناع القرار في مختلف القطاعات الحيوية.
وأكد المهندس مساعد الحمادي، مدير إدارة الاستراتيجية وحوكمة التقنيات لقطاع خدمات الدعم التقني المؤسسي في هيئة الطرق والمواصلات بدبي، أهمية تطوير بنية تحتية رقمية متكاملة لدعم هذا التحول، لأن هيئة الطرق والمواصلات في دبي تضع استراتيجيات متقدمة للاستفادة من هذه التقنيات في تطوير خدمات النقل وتعزيز كفاءتها.
وأشار د. عبدالرحمن المعيني، الوكيل المساعد لقطاع الملكية الفكرية بوزارة الاقتصاد، إلى الدور المتنامي للذكاء الاصطناعي في دعم وتنمية القطاعات الاقتصادية، مؤكدًا أن هناك توجهاً استراتيجياً لمضاعفة الدخل القومي وتعزيز الابتكار والتجارة عبر تقنيات الذكاء الاصطناعي.