تحذير من هلاوس الذكاء الاصطناعي.. هل تصاب بالزهايمر مثل البشر؟
تاريخ النشر: 13th, February 2024 GMT
أصبح الذكاء الاصطناعي جزءًا أساسيًا من حياتنا خلال الفترة الأخيرة، إذ تعتمد أغلب المهن حاليًا على تطبيقاته المختلفة، لإنجاز المهام بشكل أكثر دقة وسرعة، خاصة العاملين في مجال البيانات والبحث والإعلام، كما يعتمد بعض طلاب الجامعات حول العالم، عليه في استذكار دروسهم، وشاع مؤخرًا مصطلح هلاوس الذكاء الاصطناعي، لذا، يتسائل البعص حول ماذا يعني هذا المصطلح وتأثيره؟
وبحسب موقع «ibm» الأمريكي، المتخصص في التكنولوجيا، فإن مصطلح هلاوس الذكاء الاصطناعي، يعني وجود معلومات خاطئة في الأبحاث المختلفة التي تعتمد على «AI»، ما يهدد صحة البيانات الناتجة عن استخدام تلك التقنية.
يشير مصطلح هلاوس الذكاء الاصطناعي إلى الحصول على مخرجات معلومات غير صحيحة، بحسب ما قاله المهندس محمد الحارثي خبير التكنولوجيا لـ«الوطن»، موضحًا أنّ أدوات الـAI، تعتمد على البيانات والمعلومات التي يدخلها المستخدم، لتتحول فيما بعد إلى لغة رقمية ومن ثم مخرجات بيانات، وفي حال كانت المعلومات غير صحيحة أو غير مكتملة من الأساس، ستكون العواقب وخيمة.
وأضاف «الحارثي»: «لو بحثنا عن اسم شخص مشهور باستخدام أدوات الذكاء الاصطناعي، وكانت المعلومات المتوفرة حوله موثقة فسيكون المخرج دقيقًا، أما لو بحثنا عن شخص آخر واسمه متشابه مع أكثر من شخص، فسنحصل على معلومات غير دقيقة، وهذا ما يُعرف بهلاوس الذكاء الاصطناعي»، ونصح بصرورة توخي الحذر والاحرص في أثناء إدخال البيانات المختلفة كي تكون النتيجة موثقة.
وتابع: «لابد أن نعترف أنّ الذكاء الاصطناعي، هو أدوات مساعدة قد تصيب أو تخطأ، ويكون الفيصل هنا هو المستخدم الذي يجب عليه مراجعة المستخرجات جيدًا».
يُذكر أن بيل جيتس، المؤسس المشارك في شركة مايكروسوفت، تحدث في أكثر من مناسبة عن مصطلح هلاوس الذكاء الاصطناعي، إذ أشار إلى احتمالية إصابة الروبوتات وتطبيقات الذكاء الاصطناعي بالزهايمر والخرف مثل البشر، نتيجة تحليل بيانات ومعلومات غير موثقة، ومن ثم استخراح أحداث غير حقيقية تشبه الهلاوس.
المصدر: الوطن
كلمات دلالية: الذكاء الاصطناعي الهلاوس مايكروسوفت
إقرأ أيضاً:
معلومات الوزراء: 254.8 مليون شخص استخدموا أدوات الذكاء الاصطناعي عالميا عام 2023
تابع أحدث الأخبار عبر تطبيق
أصدر مركز المعلومات ودعم اتخاذ القرار بمجلس الوزراء، تحليلاً جديداً تناول من خلاله تقنية التزييف العميق، وذلك بدءًا من زيادة اعتماد المستخدمين على تقنيات الذكاء الاصطناعي، ثم الانتقال إلى مفهوم التزييف العميق، وكيف تعمل هذه التقنية، واستخدامات التزييف العميق، والمخاطر الناجمة عنها، وطرق الكشف عنها.
وأوضح التحليل أن استخدام مجالات التكنولوجيا المختلفة -مثل الحوسبة السحابية والذكاء الاصطناعي والأمن السيبراني- أصبح أمرًا مهمًّا في كل مناحي الحياة، بما في ذلك الاتصالات، والصناعة، والتجارة، والتعليم، والطب، والترفيه، وغيرها.
وعلى الرغم من أهمية استخدام التكنولوجيا والفوائد المترتبة عليها، فإنها يقابلها العديد من التحديات التي تتعلق بحفظ الخصوصية، والبيانات المزيفة، ومن بين هذه التحديات استخدام تقنيات التزييف العميق؛ حيث فرضت هذه التقنيات تحديات جديدة تتعلق بالأمان والخصوصية والمصداقية.
وذكر المركز أن زيادة اعتماد المستخدمين على تقنيات الذكاء الاصطناعي تعكس التطور السريع في مجال التكنولوجيا وتأثيره العميق في حياتنا اليومية، هذه الزيادة تعكس الثقة المتزايدة في القدرات التي يمكن أن يوفرها الذكاء الاصطناعي في تحسين الكفاءة وتبسيط العمليات في مختلف المجالات.
وفي هذا الإطار، فقد بلغ عدد الأشخاص الذين يستخدمون أدوات الذكاء الاصطناعي عالميًّا نحو 254.8 مليون مستخدم عام 2023، أي أكثر من الضعف مقارنة بعام 2020، ومن المتوقع أن يستمر هذا النمو في عدد مستخدمي أدوات الذكاء الاصطناعي، ليتجاوز 700 مليون بحلول 2030.
وأضاف التحليل أن تقنية التزييف العميق هي تقنية تقوم على صنع صور أو مقاطع فيديو مزيفة باستخدام البرامج الرقمية والتعلم الآلي وتبديل الوجه، وتعتمد هذه التقنية على دمج الصور لإنشاء لقطات جديدة تصور أحداثًا أو تصريحات أو أفعالًا لم تحدث في الواقع، ومع ذلك هناك صعوبة في معرفة وتحديد مدى صحة أو واقعية هذه الصور والفيديوهات.
وبناءً على ذلك، أصبح الاعتقاد بتوثيق الصوت والفيديو للواقع بأنه دليل على مصداقية البيانات والمعلومات، اعتقاد يشوبه الشك، فقد استغل مجرمو الإنترنت هذه التقنيات في زيادة القدرات الاحتيالية، والتي أصبحت تمثل تهديدات جديدة على مستوى الأفراد والمؤسسات والمجتمعات، سواء من خلال تصنيع المواد الإباحية للتشهير بشخص معين بغرض الانتقام أو الابتزاز، أو من خلال تصنيع ونشر البيانات والتصريحات والمعلومات المضللة لأغراض إثارة الفوضى والاحتيال المالي وإفساد الانتخابات وخلق الأزمات الدبلوماسية.
وأشار التحليل إلى اختلاف أنواع تقنيات التزييف العميق، والتي يمكن أن تقع في إحدى الفئات الآتية:
١- المحتوى المرئي: حيث يتم استخدام تقنيات التزييف العميق في إنشاء الصور ومقاطع الفيديو، ويمكن أن يتم ذلك من خلال الآتي:
-تبديل الوجه: يتم تركيب الوجه غير الحقيقي على الرأس المستهدف في الصور أو مقاطع الفيديو التي يتم تبديل الوجه بها.
-صور يتم إنشاؤها بالكامل: يتم إنشاء الوجه الجديد بالكامل من البداية ليبدو واقعيًّا بدلًا من تبديل الوجه.
-مقاطع فيديو مزامنة الشفاه: هي مقاطع تظهر شخصًا يؤدي كلمات أو نصًا معينًا بالتزامن مع حركات الشفاه لجعل الأمر يبدو واقعيًّا، وذلك على الرغم من عدم وجود هذا النص في الفيديو الرئيس.
٢- المحتوى الصوتي: ويتم تحريف الصوت وتعديله إما من خلال استخدام ملف صوتي يتضمن حديثًا مزيفًا بنفس صوت الشخص، لكنه لم يقله في الواقع، أو من خلال تعديل نبرة صوت الشخص لإظهار مشاعر أو سلوك غير حقيقي.
وأشار التحليل إلى أن إنشاء فيديوهات التزييف العميق يتم باستخدام نظامين من أنظمة الذكاء الاصطناعي؛ المولد "Generator" والمميز "Discriminator"، عندما ينتج نظام المولد فيديو جديدًا، يُرسل إلى نظام المميز لتحديد ما إذا كان الفيديو حقيقيًّا أم مزيفًا، إذا تأكد المميز من أن الفيديو حقيقي، يبدأ المولد في تعلم كيفية إنشاء فيديوهات تبدو أكثر قابلية للتصديق، وهكذا يستمر التطور في العملية.
هذا، ويُشكل النظامان معًا ما يُعرف بشبكة الخصومة التوليفية "GNN"، وتتطلب هذه التقنية مخزونًا من الفيديوهات يتم التعديل عليها. في البداية، يحتاج نظام المولد "Generator" إلى تدريب مستمر، وعندما يصل إلى مستوى مقبول من الجودة، يبدأ بإرسال فيديوهاته إلى الـمميّز "Discriminator". كلما زاد ذكاء المولد، زاد ذكاء الـمميّز بالتبعية، وبالتالي، يتم الوصول إلى فيديو معدّل بشكل كامل وقابل للتصديق للعين البشرية، ويوضح الشكل التالي كيفية عمل هذه التقنية.
واستعرض التحليل الاستخدامات الإيجابية التي تمتلكها تقنية التزييف العميق، وفيما يلي أهم هذه الاستخدامات:
-الاستخدامات الطبية والتعليمية: يمكن استخدام تقنية التزييف العميق لإنشاء عمليات محاكاة تفاعلية للعمليات الجراحية أو غيرها من الإجراءات، مما يوفر لطلاب الطب والمهنيين فرص تدريب قيمة. كما يمكن استخدام هذه التقنيات في دعم وتطوير أدوات الوصول المهمة.
على سبيل المثال، قامت شركة Lyrebird الكندية باستخدام التزييف العميق لمساعدة مرضى التصلب الجانبي الضموري على التواصل عندما يفقدون قدرتهم على التحدث، وذلك من خلال استنساخ أصواتهم، حيث يمكن للأشخاص الاستمرار في "التحدث" من خلال تقنيات التزييف العميق.
-صناعة الترفيه: يمكن استخدام تقنيات التزييف العميق في صناعة الأفلام والإعلانات وتقديم الأخبار. كما يمكن إنشاء تأثيرات خاصة أكثر واقعية والسماح للممثلين بإعادة تمثيل أدوارهم حتى بعد وفاتهم.
سلطان يسمي أكاديمية العلوم الشرطية «أكاديمية الشارقة للعلوم الشرطية»