تزوير بالصوت والصورة ـ الذكاء الاصطناعي سلاح خطير في يد القراصنة
تاريخ النشر: 16th, September 2023 GMT
يتمثل التهديد الرئيسي الجديد للذكاء الاصطناعي بسهولة نسخ الوجوه والأصوات وتوليد ما يطابقها تماماً
يخشى مراقبون من إمكان أن تسهّل روبوتات الدردشة وبرامج التزوير القائمة علىالذكاء الاصطناعي عمل الجهات الضالعة في الجرائم الإلكترونية وعمليات الاحتيال عبر الإنترنت، بعدما أصبحت متاحة منذ حوالى سنة للاستخدام العام، من دون أن تُحدث تغييرات جذرية على صعيد هجمات المعلوماتية التقليدية.
أقدم آلاف الممثلين وكتاب السيناريو في هوليوود على الشروع في إضراب للمطالبة بتعويضات تتعلق بالبث عبر الإنترنت وضمانات حيال الاستعانة بالذكاء الاصطناعي. ورغم الإضراب استمر إنتاج بعض الأفلام. فما السبب في ذلك؟
الذكاء الاصطناعي.. ساحة معركة بين عمالقة الإنترنت و"الهاكرز"أدوات أفضل لـ"التصيد الاحتيالي"
تتمثل عملية "التصيد الاحتيالي" ("فيشينغ") بالاتصال بشخص مستهدف وجعله يُدخل البيانات الخاصة به على موقع مقرصن يشبه المواقع الأصلية.
ويشرح جيروم بيلوا، وهو خبير في أمن المعلوماتية في شركة الاستشارات "وايفستون" ومؤلف كتاب عن الهجمات السيبرانية لوكالة فرانس برس، "الذكاء الاصطناعي يسهل ويسرع وتيرة الهجمات" من خلال إرسال رسائل إلكترونية مقنعة وخالية من الأخطاء الإملائية.
ويتبادل القراصنة بذلك خططاً تمكّنهم من توليد رسائل احتيالية محددة الهدف بشكل تلقائي، بواسطة منتديات عبر الإنترنت أو رسائل خاصة.
وللتغلب على القيود التي وضعها مقدمو الحلول بشأن الذكاء الاصطناعي، تسوّق مجموعات متخصصة منذ هذا الصيف نماذج لغوية مدربة على إنتاج محتويات خبيثة، على غرار تطبيق "فرود جي بي تي". لكن لا يزال يتعين إثبات فعاليتها.
ويحذر بيلوا "لا نزال في البداية فقط".
خطر تسريب البيانات
يُعتبر الذكاء الاصطناعي التوليدي واحداً من التهديدات الخمسة الرئيسية التي تهابها الشركات، وفق دراسة حديثة أصدرتها شركة "غارتنر" الأمريكية.
وتخشى الشركات خصوصاً في هذا المجال تسرب البيانات الحساسة التي يتناقلها موظفوها، الأمر الذي دفع شركات كبرى، ومنها "آبل" و"أمازون" و"سامسونغ" إلى منع موظفيها من استخدام "تشات جي بي تي".
وتوضح مديرة الأبحاث في "غارتنر" ران شو أن "كل معلومة يتم إدخالها على أداةالذكاء الاصطناعي التوليدي يمكن أن تدخل في مساره التعلّمي، وهذا ما قد يجعل معلومات حساسة أو سرية تظهر في نتائج عمليات بحث مستخدمين آخرين".
وأطلقت شركة "أوبن ايه آي"، المطورة لبرنامج "تشات جي بي تي"، في آب/أغسطس الماضي النسخة المحترفة "تشات جي بي تي انتربريز" التي لا تستعمل الدردشات من أجل التعلّم بغية تطمين الشركات التي تخشى تسريب معلوماتها.
من جهتها، توصي شركة "غوغل" موظفيها بعدم إدخال معلومات سرية أو حساسة في برنامج الدردشة الآلي الخاص بها، "بارد".
تزوير بالصوت والصورة
يتمثل التهديد الرئيسي الجديد للذكاء الاصطناعي بسهولة نسخ الوجوه والأصوات وتوليد ما يطابقها تماماً. فمن خلال تسجيل لا تتجاوز مدته بضع ثوان، تسمح بعض الأدواتعبر الانترنت بتوليد نسخة مطابقة تماماً قد يقع ضحيتها الزملاء أو الأقارب.
ويعتبر مؤسس شركة "أوبفور انتلجنس" جيروم سايز أن هذه الأدوات قد تُستخدم بسرعة من جانب "مجموعة كاملة من الجهات الضالعة في عمليات احتيال صغيرة، لها وجود فعال في فرنسا وغالبًا ما تكون وراء حملات خبيثة تستعمل الرسائل النصية" بهدف الحصول على أرقام البطاقات المصرفية.
ويضيف لوكالة فرانس برس "هؤلاء المخالفون الصغار، الذين يكونون بالإجمال من فئة الشباب، سيتمكنون وبسهولة من تقليد الأصوات".
وفي حزيران/يونيو، وقعت أم أمريكية ضحية احتيال اثر اتصال رجل بها للمطالبة بفدية لقاء تسليمها ابنتها الذي زعم أنها مخطوفة، وقد عمد الرجل إلى إسماعها ما ادعى أنه صراخ ابنتها الضحية. وانتهى الحادث من دون وقوع أضرار، بعد أن اشتبهت الشرطة في أن الحادثة تشكل عملية احتيال تعتمد على الذكاء الاصطناعي.
ويشرح بيلوا أنه، بالنسبة للشركات التي باتت على دراية بأساليب احتيالية مستخدمة على نطاق واسع تقوم على انتحال محتالين صفة الرئيس التنفيذي للشركة للحصول على تحويلات مالية، فإن "استخدام مقتطف صوتي أو فيديو مزيف"، من قبل المقرصن "يمكن أن يقلب مسار الأحداث لصالح" هذا الأخير.
قراصنة مبتدئون
ويعتقد سايز أنّ "أياً من الهجمات التي نجحت في العام الماضي لا يدفع إلى الاعتقاد بأنها نتيجة استخدام الذكاء الاصطناعي التوليدي".
ورغم أن روبوتات الدردشة قادرة على تحديد بعض العيوب وتوليد أجزاء رموز معلوماتية خبيثة، إلا أنها عاجزة عن تنفيذها مباشرة.
في المقابل، يرى سايز أن الذكاء الاصطناعي "سيسمح لأشخاص محدودي الموهبة بتحسين مهاراتهم"، مستبعداً في المقابل أن يتمكن "الذين يبدأون من الصفر من تطوير برامج مشفرة باستخدام تشات جي بي تي".
ع.أ.ج (أ ف ب)
المصدر: DW عربية
كلمات دلالية: أنظمة الذكاء الاصطناعي خطر الذكاء الاصطناعي تطبيقات الذكاء الاصطناعي تزوير وثائق التزوير في محررات رسمية أنظمة الذكاء الاصطناعي خطر الذكاء الاصطناعي تطبيقات الذكاء الاصطناعي تزوير وثائق التزوير في محررات رسمية الذکاء الاصطناعی تشات جی بی تی
إقرأ أيضاً:
"كونغرس الإعلام" يستعرض دور الذكاء الاصطناعي في الارتقاء بالصحافة
تناولت جلسة نقاشية بعنوان "ما الذي يؤرقك ليلًا؟" ضمن فعاليات اليوم الأول من الكونغرس العالمي للإعلام 2024 القضايا الأساسية التي تحرك عالم وسائل الإعلام اليوم بدءًا من التحديات التي تواجهها الصحافة ومصداقية وسائل الإعلام والتحول الرقمي، وصولًا إلى تحديات الأمن العالمي والقيادة الحضرية والمعضلات الأخلاقية المرتبطة بالذكاء الاصطناعي.
وأدار الجلسة محمد العتيبة، رئيس التحرير السابق لصحيفة "ذا ناشيونال" بمشاركة مينا العريبي، رئيس تحرير صحيفة ذا ناشيونال وألكسندرو جيبوي، الأمين العام للاتحاد الأوروبي لوكالات الأنباء ولودوفيك بليشر، المدير التنفيذي، آيدياشن. واستكشفت الجلسة النقاشية أهم القضايا التي تواجه قطاع الإعلام ومنها تراجع ثقة الجمهور، وتحديات الصحافة، ودور الذكاء الاصطناعي، والعلاقة دائمة التطور بين الإعلام التقليدي والمنصات الرقمية وتناول النقاش تحوّلات المشهد الإعلامي، حيث قدّم المتحدثون رؤاهم حول التحديات والفرص التي يولدها ذلك التحول.انفصال متنام وأبرز ألكسندرو غيبوي الانفصال المتنامي بين الجمهور والإعلام التقليدي، المدفوع بتراجع الثقة وانخفاض مستويات الإلمام بالإعلام.
وأشار إلى الصعوبات التي تواجه قطاعاً عريضاً من الجمهور في تحديد المصادر الموثوقة، ما يساهم في التأثير المتصاعد لمنصات مثل تيك توك في تشكيل الأحداث الكبرى، ومنها الانتخابات.
ودعا غيبوي المؤسسات الإعلامية إلى الابتكار للتفاعل مع الجمهور الأصغر سناً وتحسين الفهم العام للأخبار، مشيراً لدور أدوات الذكاء الاصطناعي، بما يضم الملخصات الآلية والصوت المولّد بالذكاء الاصطناعي كأمثلة على تكيف وكالات الأنباء مع التغيير.
وناقش لودوفيك بليشر ظاهرة تجنب الأخبار، حيث يتجنب 40% من الجمهور الأخبار بسبب سلبيتها، وانتشار نقص الثقة في الصحافة، لافتاً إلى أن تقصي الحقائق وحده لم يؤدِ إلى إعادة بناء ثقة الجمهور، داعياً للمزيد من الشفافية والتعاطف لإعادة بناء العلاقة مع الجمهور.
وأيد بليشر استخدام الذكاء الاصطناعي كأداة تدعم وتعزز الصحافة دون استبدال المساهمة البشرية، والقى الضوء على التحديات التي تواجه غرف الأخبار الصغيرة في تبني التكنولوجيا الجديدة. تقنيات التزييف وركزت مينا العريبي على بروز تقنيات التزييف العميق، التي تصاعدت بنسبة 900% في عام واحد وغالباً ما تُستخدم في نشر المعلومات المضللة.
وأعربت عن قلقها إزاء ارتفاع تكلفة التكنولوجيا المتقدمة، مما يحد من قدرة وسائل الإعلام الصغيرة على المنافسة وتقديم محتوى عالي الجودة، مشددة على ضرورة الشفافية وسلامة الصحفيين ووضوح القوانين لإعادة بناء الثقة مع إبراز أهمية التفريق بين الصحافة الموثوقة والمحتوى الترفيهي.
واختتم النقاش بتدارس الحلول المحتملة والطريق نحو المستقبل، وأجمع المتحدثون على ضرورة التعاون بين المؤسسات الإعلامية ومطوري التكنولوجيا والهيئات القانونية لإعادة بناء ثقة الجمهور.
جوميز يستقر على بديل ناصر ماهر في مواجهة بلاك بولز الليلة