الذكاء الاصطناعي التوليدي.. ابتكار محفوف بالمخاطر وتحديات لها حلول
تاريخ النشر: 21st, June 2024 GMT
تابع أحدث الأخبار عبر تطبيق
تُعد تقنية الذكاء الاصطناعي التوليدي مثيرة للإعجاب بفضل قدرتها على إنتاج محتوى جديد ومبتكر، لكنها تحمل أيضًا مخاطر وتحديات تتطلب إدارة فعّالة، فيما يلي توضيح لهذه المخاطر وكيفية الحد منها:
المخاطر المرتبطة باستخدام الذكاء الاصطناعي التوليديإساءة الاستخدام:
الهجمات الإلكترونية والاحتيال: يُستغل الذكاء الاصطناعي التوليدي في إنشاء تزييفات عميقة (Deepfakes) تُستخدم في عمليات الاحتيال، سرقة الهوية، والتلاعب بالانتخابات.الحملات المضللة: يمكن للمحتالين استخدام الذكاء الاصطناعي لإنشاء حملات مضللة، ما يؤدي إلى نشر معلومات غير صحيحة أو ضارة.
تقديم معلومات غير صحيحة (الهلوسة):
مخرجات غير دقيقة: قد ينتج الذكاء الاصطناعي معلومات خاطئة أو مضللة، مما يسبب مشكلات قانونية أو سمعة سيئة. على سبيل المثال، رفع دعوى قضائية ضد OpenAI بسبب تقديم ChatGPT لمعلومات خاطئة.نشر المحتوى دون التحقق من صحته:
انتشار الأخبار المزيفة: يمكن للمحتوى المولّد بالذكاء الاصطناعي أن ينتشر بسرعة دون التحقق من صحته، مما يسبب أضرارًا اقتصادية واجتماعية. على سبيل المثال، فيديو مزيف لتحطم سيارة تسلا أو صورة مزيفة لانفجار في البنتاغون.كيفية الحد من مخاطر الذكاء الاصطناعي التوليديتخفيف المخاطر الناتجة عن إساءة الاستخدام:
وضع مبادئ وتوجيهات:
ينبغي على المنظمات تطوير سياسات واضحة لاستخدام الذكاء الاصطناعي التوليدي تتماشى مع القيم الأخلاقية للمنظمة لضمان عدم التسبب بأي ضرر.وضع علامة مائية على المحتوى:
يجب أن تحتوي جميع المحتويات المولدة بواسطة الذكاء الاصطناعي على علامات مائية واضحة، مما يساعد في التحقق من مصدر المحتوى وتقليل انتشار المحتوى المزيف.إنشاء بيئة تحكم في الذكاء الاصطناعي:
يمكن للمنظمات تطوير نماذج لغوية كبيرة (LLMs) خاصة بها، مما يتيح لها التحكم في الخصوصية ويضمن تدريب النماذج على مجموعات بيانات غير متحيزة.تخفيف المخاطر المرتبطة بنشر المحتوى المزيف:
التوعية في مجال الذكاء الاصطناعي:
يجب على الشركات توفير برامج تدريبية لزيادة الوعي بالاستخدام المسؤول للذكاء الاصطناعي، وتحديد سياسات واضحة حول متى وكيف يمكن استخدام هذه التقنية.التحقق من صحة المخرجات:
ينبغي تطوير أنظمة متخصصة للتحقق من صحة المحتوى المنشور عبر الإنترنت، مما يقلل من مخاطر نشر المحتوى المزيف ويعزز ثقة الجمهور في المعلومات المتاحة.يحمل الذكاء الاصطناعي التوليدي إمكانات كبيرة لتحسين الإنتاجية والابتكار، لكنه يتطلب إدارة دقيقة للمخاطر. من خلال وضع سياسات واضحة، والتحقق من صحة المحتوى، وتوعية الموظفين، يمكن للمنظمات تحقيق أقصى استفادة من هذه التقنية مع تقليل المخاطر المحتملة.
المصدر: البوابة نيوز
كلمات دلالية: تقنية الذكاء الاصطناعي الذكاء الاصطناعي التوليدي الأخبار المزيفة الذکاء الاصطناعی التولیدی التحقق من
إقرأ أيضاً:
تقنين الذكاء الاصطناعي في الطب على مائدة قمة ويش بقطر
الدوحة- حظيت قضيتا الرعاية الصحية بمناطق النزاع، والتطورات التكنولوجية في مجال الرعاية الصحية من خلال تطبيقات الذكاء الاصطناعي، بالتركيز الأكبر من قبل المشاركين في مؤتمر القمة العالمي للابتكار في الرعاية الصحية "ويش 2024″، الذي اختتم أعماله اليوم بالدوحة.
وطالب مشاركون في القمة بضرورة إنشاء تحالف عالمي لحماية الصحة بمناطق النزاعات، في ظل ارتفاع وتيرة الهجمات على مقدمي الرعاية الصحية في السنوات الأخيرة، كما دعوا إلى ضرورة وضع تشريعات لتقنين استعمال تطبيقات الذكاء الاصطناعي في الرعاية الصحية للحفاظ على خصوصية بيانات ومعلومات المرضى.
وفي ختام القمة التي شارك فيها أكثر من 200 خبير عالمي، تم الإعلان عن تبني قطر مبادرة "كارديو فور سيتيز"، وهي مبادرة تتمحور حول تبني نهج قائم على البيانات لتعزيز صحة القلب والأوعية الدموية للسكّان، بحيث تصبح قطر مركزا إقليميا لتوسيع نطاق هذه المبادرة في منطقة الشرق الأوسط.
وقال البروفيسير رئيس قسم الجودة ومدير المعهد الوطني للسكري والسمنة وأمراض الأيض بمؤسسة حمد الطبية عبد البديع أبو سمرة، للجزيرة نت، إن المؤتمر سلط الضوء على الارتفاع المقلق في الهجمات التي تستهدف المنشآت الصحية بشكل ينتهك حقوق الإنسان والقانون الدولي الإنساني، مطالبا بأهمية اتخاذ إجراءات محددة لحماية الصحة في مناطق النزاعات المسلحة.
وأضاف عبد البديع أن القانون الدولي الإنساني يحمي الرعاية الصحية في مناطق النزاع، ويضمن سلامة الكوادر الطبية والمنشآت ووسائل النقل لتقديم الرعاية دون تمييز، ولكن السنوات القليلة الماضية شهدت زيادة مروّعة في وتيرة وحجم وتأثير الهجمات على النظم الصحية، بما في ذلك البنى التحتية والعاملون في مجال الرعاية الصحية، في بلدان مثل السودان وغزة ولبنان وأوكرانيا وغيرها.
وشدد على أهمية أن تتعاون وكالات الأمم المتحدة والحكومات والمجتمع المدني مع مجتمع الرعاية الصحية لأجل تبني موقف أكثر قوة ضد الهجمات التي تستهدف الخدمات الصحية أو تؤثر عليها بشكل مباشر، واتخاذ خطوات حازمة لتعزيز القانون الدولي الإنساني واحترامه، وإدراج حماية الرعاية الصحية ضمن برامج الصحة والعمل الإنساني، وأهمية إنشاء تحالف عالمي لحماية الرعاية الصحية في النزاعات.
ولفت إلى أنه وفقا للجنة الدولية للصليب الأحمر، فقد وثقت منظمة الصحة العالمية، منذ عام 2018، أكثر من 7 آلاف حادثة هجوم على الرعاية الصحية، راح ضحيتها ما يزيد على 2200 من العاملين الصحيين والمرضى، وأصيب أكثر من 4600 شخص في 21 بلدا وإقليما يعاني من أزمات إنسانية معقّدة.
وفي إطار آخر، قال الرئيس التنفيذي لمؤتمر القمة العالمي للابتكار في الرعاية الصحية "ويش" سليم سلامه، في حديث للجزيرة نت، إن التطورات الرقمية أحدثت ثورة حقيقية في مجال الصحة مثل العديد من القطاعات الأخرى، لكن بالطبع هناك بعض الاعتبارات الأخلاقية التي يجب التوقف عندها ومراعاتها.
ويرى المتحدث ذاته أن لهذه التطورات الرقمية تأثيرات ضارة، رغم كونها مفيدة، مشددا على ضرورة التركيز على معرفة كيفية تناسبها مع الاتصال الثقافي والديني، وكيف يتم تكييفها ثقافيا مع بلداننا ومنطقتنا ومع المبادئ الإسلامية.
وتابع أن التطورات الحاصلة في مجال الذكاء الاصطناعي يمكنها أن تحدث ثورة في مجال الطب من خلال تحسين دقة التشخيص وفعالية العلاج، وتعزيز الرعاية الصحية الشاملة، بالإضافة إلى الإسهام في البحوث الطبية الحيوية وتطوير الأدوية. واستدرك أنه مع التقدم السريع الذي يحققه الذكاء الاصطناعي، أصبحت القضايا الأخلاقية المرتبطة به في صدارة اهتمام الباحثين وواضعي السياسات، وكانت من أبرز القضايا التي تمت مناقشتها خلال المؤتمر.
ومن جانبه، قال أستاذ الإسلام والأخلاقيات البيولوجية في مركز التشريع الإسلامي والأخلاق بجامعة حمد بن خليفة الدكتور محمد غالي، في حديث للجزيرة نت، إن أهم ركائز أخلاقيات الرعاية الصحية بشكل عام هي العلاقة بين الطبيب والمريض، وكلما كان الطبيب يشعر بالمسؤولية والمريض لديه حماية، باعتباره الطرف الأضعف، فإن العلاقة تكون مؤسسة على أخلاق مستقيمة.
وأضاف غالي أن الطبيب لديه مسؤولية باعتباره يتحكم في الأدوات المستخدمة في الرعاية الطبية كأدوات الجراحة والأجهزة الطبية، ولكن الذكاء الاصطناعي ظهر ليحدث إشكالا في هذه العلاقة، مما يجعل تحكم الطبيب بهذه العلاقة ليس كاملا، لأن هناك أدوات ذكية تتعلم وتستوعب وتقرر وتضع النصائح أو القرارات في طريقة العلاج.
وأشار إلى أن الطبيب مع هذه التقنيات الجديدة لم يعد مسيطرا على العلاقة كما كان في السابق، لأنه بات يعتمد على الأدوات التي لا يستطيع السيطرة عليها، كما أنه لا يمكن أن نجعل الآلة هي المسؤولة، لأن المسؤولية نوع من التكليف ولا يوجد أي مكلف إلا الإنسان.
وأوضح أن المسؤول مع الطبيب في هذه الحالة يكون هو من قام بتجهيز وبرمجة وأتمتة هذه الآلة الذكية، لافتا إلى أن هذه إشكالية يجب حلها من خلال إدخال مسؤولين جدد لم يكونوا موجودين من قبل، مثل علماء الهندسة والحواسب وعلوم الكمبيوتر وغيرهم.
وأكد أن الأمر يحتاج لتشريعات جديدة أيضا لحماية بيانات المرضى والحفاظ على أخلاقيات الرعاية الصحية، مثل أهمية ترخيص أو اعتماد الآلات الجديدة التي تعمل بالذكاء الاصطناعي داخل المستشفيات، لأنها تختلف عن سابقتها وتحتاج لترخيص خاص بهيئات معينة من خلال لجان أخلاقية محددة.
من جهتها، قالت مديرة التطبيقات الجينومية في معهد قطر للطب الدقيق رجاء باجي، للجزيرة نت، إن الذكاء الاصطناعي له تأثيرات كبيرة في تطوير الخدمات الصحية، خاصة في مجال الطب الدقيق، فهذه التقنيات تسهم في التنبؤ بالأمراض، ومن ثم توفير الإجراءات أو الخدمات الوقائية لمنع حدوث هذه الإصابات.
وأوضحت الخبيرة أن الآليات الذكية تتطلب من أجل ذلك الحصول على معلومات وبيانات خاصة شاملة عن الإنسان.
ولفتت إلى أن من مزايا هذه التقنية الجديدة أيضا السرعة ودقة التشخيص من خلال المساعدة في قراءة الأشعة أو التقارير الطبية وإعطاء النتائج بطريقة مميزة، بالإضافة إلى أنها ستخفف الكثير من الأعباء الإدارية عن الطبيب، خاصة في مسألة إدخال البيانات، وبالتالي توفير الوقت للطبيب للتحدث أكثر مع المريض، وبناء علاقة إنسانية أقوى معه.
واستدركت المتحدثة ذاتها أن التحدي الأكبر لهذه التقنيات يكمن في مسألة تعريض الخصوصية للخطر، وكذلك الحفاظ على البيانات والمعلومات التي يحتاجها الذكاء الاصطناعي في الأساس للتنبؤ بالأمراض، والتي يتم تزويد التطبيقات بها، موضحة أن هذا الخطورة تكمن في مسألة التعرض للاختراق وانتهاك هذه الخصوصية.
تعرض دورية لليونيفيل لإطلاق نار في جنوب لبنان