حَوكمة الذكاء الاصطناعي: بين الابتكار والمسؤولية
تاريخ النشر: 3rd, March 2025 GMT
يشهد العالم اليوم تطورا مُتسارعا في مجال الذكاء الاصطناعي، حيث أصبحت تطبيقاته تتغلغل في مختلف القطاعات، من الرعاية الصحية إلى التعليم والصناعة والخدمات المالية وغيرها من القطاعات. ومع هذا التوسع الهائل، تتزايد الحاجة إلى وضع أطر تنظيمية تضمن الاستخدام الآمن والمسؤول لهذه التقنية، وهو ما يُعرف بحوكمة الذكاء الاصطناعي.
إن التحدي الرئيس الذي تواجهه الحكومات والمؤسسات يتمثل في إيجاد توازن بين تشجيع الابتكار التكنولوجي من جهة، وضمان الامتثال للمبادئ الأخلاقية والقانونية التي تحمي الأفراد والمجتمعات من المخاطر المحتملة من جهة أخرى. وقد عرفت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) حوكمة الذكاء الاصطناعي بأنها «مجموعة من السياسات والإجراءات والمعايير القانونية التي تهدف إلى تنظيم تطوير واستخدام أدوات الذكاء الاصطناعي بطريقة مسؤولة وشفافة، مع ضمان احترام القيم الإنسانية وحماية الحقوق الأساسية».
ووفقا لتوصية منظمة اليونسكو بشأن أخلاقيات الذكاء الاصطناعي لعام 2021، فإن الحوكمةَ الفعالةَ للذكاء الاصطناعي ينبغي أن تستند إلى مبادئ الشفافية والمساءلة والأمان لضمان تحقيق الفائدة للمجتمع دونَ المساس بالحقوق الفردية. تهدفُ هذه الحوكمة إلى ضمان العدالة والشفافية وحماية البيانات واحترام حقوق الإنسان في جميع مراحل تطوير واستخدام هذه التقنيات. وتبرز أهمية الحوكمة في ضوء المخاطر المحتملة للذكاء الاصطناعي، مثل التحيز الخوارزمي وانتهاك الخصوصية والتأثير على سوق العمل، الأمر الذي يستدعي وضع تشريعات صارمة لضمان عدم إساءة استخدام هذه التقنية.
وفي سياق الجهود الدولية لتنظيم الذكاء الاصطناعي، صدر التقرير الدولي حول سلامة الذكاء الاصطناعي في يناير 2025 عن المعهد الدولي لسلامة الذكاء الاصطناعي (International AI Safety Report)، الذي شارك في إعداده 30 دولة من بينها منظمات دولية بارزة مثل هيئة الأمم المتحدة والاتحاد الأوروبي ومنظمة التعاون الاقتصادي والتنمية، حيث تناول الحالة الراهنة للفهم العلمي المتعلق بالذكاء الاصطناعي العام، وهو ذلك «النوع من الذكاء الاصطناعي القادر على تنفيذ مجموعة واسعة من المهام». وقد هدف التقرير إلى بناء فهم دولي مشترك حول المخاطر المرتبطة باستخدام الذكاء الاصطناعي المتقدم، مع تقديم تحليل شامل للوسائل العلمية والتقنية المتاحة لإدارتها والتخفيف منها بفعالية، وتوفير معلومات علمية تدعم صانعي القرار في وضع سياسات تنظيمية فعالة. وعلى الرغم من الفوائد العديدة التي يقدمها الذكاء الاصطناعي العام، فإن التقرير يحذر من المخاطر المتزايدة المرتبطة باستخدامه.
فمن الناحية الأمنية، قد يُستغل الذكاء الاصطناعي في تنفيذ هجمات سيبرانية متقدمة أو في تسهيل عمليات الاحتيال الإلكتروني، من خلال إنتاج محتوى مزيف (Fake content) يصعب تمييزه عن الحقيقي. كما أن هناك مخاطر اجتماعية تتمثل في إمكانية تعميق التحيزات الموجودة في البيانات التي تُستخدم في تدريب هذه الأنظمة. إضافة إلى ذلك، مخاوف تتعلق بفقدان السيطرة على أنظمة الذكاء الاصطناعي المتقدمة، حيث يمكن أن يؤدي التطور المتسارع لهذه الأنظمة إلى سلوكيات غير متوقعة قد يصعب التحكم بها. أما على المستوى الاقتصادي، فإن الذكاء الاصطناعي قد يتسبب في اضطرابات كبيرة في سوق العمل، حيث يؤدي إلى استبدال العديد من الوظائف التقليدية بالأنظمة الآلية، ففي قطاع خدمة العملاء مثلا، تعتمد الشركات الكبرى مثل أمازون وجوجل على روبوتات الدردشة (Chatbots) لتقديم الدعم الفني والتفاعل مع العملاء بكفاءة عالية، مما يقلل الحاجة إلى الموظفين البشريين.
أما في مجال التصنيع والتجميع، فقد أصبحت الروبوتات الصناعية تقوم بمهام الإنتاج بدقة وسرعة تفوق القدرات البشرية، كما هو الحال في مصانع تسلا وفورد التي تستخدم أنظمة مؤتمتة لتنفيذ عمليات اللحام والتجميع، مما يقلل التكاليف ويرفع كفاءة الإنتاج. ومع استمرار تطور الذكاء الاصطناعي، يُتوقع أن يمتد تأثيره إلى المزيد من القطاعات.
ومع تزايد الاعتماد على الذكاء الاصطناعي في مختلف القطاعات، أصبح من الضروري تبني استراتيجيات وحلول لمواجهة تحديات فقدان الوظائف التقليدية. ويُعد إعادة تأهيل القوى العاملة من أهم هذه الحلول، إذ يجب الاستثمار في برامج تدريبية تُمكن الموظفين من اكتساب مهارات رقمية وتقنية جديدة، مثل تحليل البيانات وتطوير البرمجيات، مما يساعدهم على التكيف مع متطلبات سوق العمل المتغير. إلى جانب ذلك، يمثل تعزيز ريادة الأعمال والابتكار حلا فعالا، حيث يُمكن تشجيع إنشاء مشاريع صغيرة ومتوسطة تعتمد على الذكاء الاصطناعي، مما يخلق فرص عمل جديدة.
كما يعد تبني نموذج العمل الهجين ضرورة مُلحة، إذ يُمكن دمج الذكاء الاصطناعي مع القدرات البشرية بدلا من الاستبدال الكامل، مما يعزز الإنتاجية مع الحفاظ على دور العنصر البشري. كما أن تطوير الأطر القانونية والتنظيمية يعد خطوة مهمة، حيث ينبغي صياغة قوانين تضمن الاستخدام العادل والمسؤول للذكاء الاصطناعي، وتحمي العمال من التمييز الناتج عن الأتمتة. بالإضافة إلى ذلك فإن التعليم المستمر يُسهم في تأهيل القوى العاملة الوطنية لمواكبة التحولات في سوق العمل، حيث ينبغي تعزيز ثقافة التعلم المستمر لضمان قدرة القوى العاملة على التكيف مع المتطلبات المستقبلية للتكنولوجيا المتقدمة. وغيرها من الاستراتيجيات الجديدة لدمج الإنسان مع الآلة في بيئة العمل.
من جانب آخر، هناك مخاطر تتعلق بالخصوصية، حيث يمكن للذكاء الاصطناعي تحليل كميات كبيرة من البيانات الشخصية، مما يزيد من احتمالات انتهاك الخصوصية وسوء استخدام المعلومات. ولتقليل هذه المخاطر، من الضروري تبني مجموعة من الاستراتيجيات التقنية والتنظيمية التي تعزز شفافية وأمان أنظمة الذكاء الاصطناعي. ومن أبرزها، تطوير تقنيات تتيح فهما أعمق لآليات اتخاذ القرار لدى الذكاء الاصطناعي، مما يسهل عملية المراجعة والمساءلة. بالإضافة إلى ذلك، تبرز أهمية تعزيز الأمن السيبراني عبر تصميم بروتوكولات حماية متقدمة لمواجهة التهديدات المحتملة.
كما يجب العمل على تصفية البيانات وتقليل التحيز لضمان دقة وعدالة أنظمة الذكاء الاصطناعي في اتخاذ القرارات. ومن أجل حماية بيانات المستخدمين، يتوجب استخدام تقنيات التشفير القوية وآليات الحماية الحديثة التي تضمن الامتثال لمعايير الخصوصية. بالإضافة إلى ضرورة الحفاظ على دور الإنسان في عمليات اتخاذ القرار، لضمان عدم الاعتماد الكامل على الذكاء الاصطناعي في الأمور الحساسة، مما يقلل من المخاطر المحتملة الناجمة عن التحكم الذاتي للأنظمة. إن التطور السريع لهذه التقنية يتطلب نهجا شاملا يجمع بين البحث العلمي والسياسات التنظيمية والتقنيات المتقدمة لضمان الاستخدام الآمن والمسؤول لهذه الأنظمة، بحيث تتحقق الفائدة المرجوة منها دون التعرض للمخاطر المحتملة.
وقد اعتمدت العديد من الدول سياسات مُتقدمة لتنظيم الذكاء الاصطناعي، حيث اتخذ الاتحاد الأوروبي خطوات رائدة في هذا المجال عبر قانون الذكاء الاصطناعي الأوروبي الذي دخل حيز التنفيذ عام 2024م والذي يُعدُ أول إطار قانوني شامل يهدف إلى تَنظيم استخدام الذكاء الاصطناعي وفق معايير صارمة تحمي الخصوصية وتحد من التحيز الخوارزمي. وفي المقابل، تبنت الولايات المتحدة الأمريكية نهجا يعتمد على توجيهات إرشادية لتعزيز الشفافية والمساءلة، مع منح الشركات حرية الابتكار ضمن حدود أخلاقية محددة. أما الصين، فقد ألزمت الشركات التقنية بمراجعة وتقييم خوارزميات الذكاء الاصطناعي المُستخدمة في المنصات الرقمية، لضمان الامتثال لمعايير الأمان السيبراني.
عليه فإنه يُمكن الإشارة إلى مجموعة من التوصيات والمُبادرات التي يُمكن أن تُسهم في تعزيز حوكمة الذكاء الاصطناعي بشكل فعال، ومن أبرزها: وضع أطر قانونية مَرنة تُتيح تطوير الذكاء الاصطناعي دون عرقلة الابتكار، مع ضمان حماية حقوق الأفراد والمجتمع وتعزيز الشفافية والمساءلة من خلال فرض معايير تضمن وضوح كيفية عمل أنظمة الذكاء الاصطناعي، وإتاحة آليات لمراجعة القرارات التي تتخذها هذه الأنظمة وتعزيز التعاون الدولي لإنشاء منصات مشتركة لمراقبة تطورات الذكاء الاصطناعي وتبادل المعلومات بين الدول حول المخاطر المحتملة وتشجيع البحث والتطوير المسؤول عبر دعم الأبحاث التي تركز على تطوير تقنيات ذكاء اصطناعي أكثر أمانا واستدامة وتعزيز تعليم الذكاء الاصطناعي الأخلاقي من خلال دمج مقررات حوكمة الذكاء الاصطناعي في مناهج المؤسسات الأكاديمية والتعليمية، لضمان وعي المطورين الجدد بالمسؤوليات الأخلاقية المترتبة على استخدام هذه التقنية.
إن حوكمة الذكاء الاصطناعي تُشكل ركيزة أساسية لضمان تحقيق أقصى الفوائد من هذه التقنية، مع الحد من المخاطر المرتبطة بها. وبينما يستمر الابتكار في التقدم بوتيرة غير مسبوقة، فإن المسؤولية تقتضي وضع سياسات وتشريعات تنظيمية تضمن الاستخدام العادل والمسؤول لهذه التقنيات، بما يتوافق مع القيم الأخلاقية والقوانين الدولية. ويُعد تحقيق التوازن بين الابتكار والمسؤولية التحدي الأكبر الذي يواجه الحكومات وصناع القرار، لكن من خلال التعاون الدولي ووضع سياسات متقدمة، يمكن بناء مستقبل مستدام للذكاء الاصطناعي يعود بالنفع على البشرية جمعاء.
عارف بن خميس الفزاري كاتب ومتخصص في المعرفة
المصدر: لجريدة عمان
كلمات دلالية: حوکمة الذکاء الاصطناعی أنظمة الذکاء الاصطناعی الذکاء الاصطناعی فی للذکاء الاصطناعی المخاطر المحتملة هذه التقنیة هذه الأنظمة من المخاطر سوق العمل من خلال التی ت
إقرأ أيضاً:
لماذا كتبتُ بيان شفافية حول الذكاء الاصطناعي لكتابي؟
«من أين تجد الوقت؟» - لسنوات طويلة، عندما كنتُ أُعلن لأصدقائي عن صدور كتاب جديد لي، كنتُ أستقبل هذا السؤال كوسام فخر.
خلال الأشهر الماضية، أثناء الترويج لكتابي الجديد عن الذكاء الاصطناعي «إلهيّ الملامح* (God-Like)، حاولتُ ألّا أسمع في الكلمات ذاتها نبرة اتهام خفيّة: «من أين تجد الوقت؟» -أي أنّك لا بدّ استعنتَ بـ ChatGPT، أليس كذلك؟
الواقع أنّ مقاومة المساعدة من الذكاء الاصطناعي أصبحت أصعب فأصعب. مُعالج الكلمات الذي أستخدمه صار يعرض عليّ صياغة الفقرة التالية، أو تنقيح التي سبقتها.
عملي في مؤسسة بحثيّة تستكشف آثار الذكاء الاصطناعي في سوق العمل البريطاني يجعلني أقرأ يوميا عن تبعات هذه الثورة التقنيّة على كل مهنة تقريبا. وفي الصناعات الإبداعيّة، يَظهر الأثر بالفعل بصورة هائلة.
لهذا السبب، وبعد أن انتهيتُ من الكتاب، أدركتُ أنّ أصدقائي كانوا مُحقّين: يجب أن أواجه السؤال الحتمي مباشرة وأُقدّم إفصاحا كاملا. احتجتُ إلى «بيان شفافية حول الذكاء الاصطناعي» يُطبع في صدر كتابي.
بحثتُ في الإنترنت متوقعا أن أجد نموذجا جاهزا؛ فلم أجد شيئا. فكان عليّ أن أضع قالبا بنفسي. قرّرتُ أن يشمل الإفصاح أربع نقاط رئيسيّة:
1- هل وُلد أي نصّ باستخدام الذكاء الاصطناعي؟
2- هل جرى تحسين أي نصّ عبر الذكاء الاصطناعي؟ - مثل اقتراحات «غرامرلي» لإعادة ترتيب الجمل.
3- هل اقترح الذكاء الاصطناعي أي نص؟ ـ على غرار طلب مخطَّط من ChatGPT أو استكمال فقرة استنادا إلى ما سبق.
4- هل صُحِّح النصّ بواسطة الذكاء الاصطناعي؟ وإذا كان كذلك، فهل قُبلت الاقتراحات اللغوية أم رُفضت بعد مراجعة بشرية؟
بالنسبة لكتابي، جاءت الإجابات: 1) لا، 2) لا، 3) لا، 4) نعم – مع اتخاذ قرارات يدوية بشأن ما أقبله أو أرفضه من تصحيحات إملائية ونحويّة. أعترف بأنّ هذا النموذج ليس كاملا، لكنّي أقدّمه أساسا يمكن تطويره، على غرار رخصة «كرييتف كومونز» في عالم الحقوق الرقمية.
أردتُ أن أضمّنه لتعزيز نقاش صريح حول الأدوات التي يستخدمها الناس، لا سيّما أنّ الأبحاث تبيّن أنّ كثيرا من استعمالات الذكاء الاصطناعي تتمّ خِفية. ومع تصاعد ضغط العمل، يخشى البعض إبلاغ رؤسائهم أو زملائهم أنّهم يعتمدون أدوات تُسرِّع بعض المهام وتمنحهم فسحة للتنفّس.. وربّما وقتا للإبداع. فإذا كان ما يدّعيه إيلون ماسك صحيحًا ـ بأنّ الذكاء الاصطناعي سيُحلّ «مشكلة العمل» ويُحرّرنا لنزدهر ونبدع ـ فنحن بحاجة إلى الشفافية منذ الآن.
لكن، بصفتي كاتبا يعتزّ بمهنته، أردتُ كذلك بيان الشفافية بسبب لقاء ترك في نفسي قلقا عميقا. اجتمعتُ مع شخص يعمل لدى جهة تنظّم ورشا وملتقيات للكتابة، وسألتُه: كيف تفكّرون في التعامل مع شبح الكتابة التوليدية؟ فأجاب: «أوه، لا نرى أنّ علينا القلق من ذلك».
وأنا أعتقد أنّنا بحاجة ماسّة للقلق. إلى أن نمتلك آلية حقيقية لاختبار أصل النص ـ وهو أمر بالغ الصعوبة ـ نحتاج على الأقل وسيلة تُمكّن الكتّاب من بناء الثقة في أعمالهم بالإفصاح عن الأدوات التي استخدموها.
ولكي أكون واضحا: هذه الأدوات مدهشة ويمكن أن تُصبح شرارة شراكة إبداعيّة. ففي أغسطس 2021 نشرت فاوهيـني فـارا مقالة في مجلة The Believer كتبتها بمساعدة نسخة مبكرة من ChatGPT، فجاءت قطعة عميقة ومبتكرة عن وفاة شقيقتها. بيان الشفافية الخاص بها سيختلف عن بياني، لكن ذلك لا ينتقص من عملها، بل يفتح أفقا لإمكانات خَلّاقة جديدة.
عندما نستثمر وقتا في قراءة كتاب، فإنّنا ندخل علاقة ثقة مع الكاتب. والحقيقة أنّ قلّة من أصحاب شركات التقنية تلاعبوا بفعل بروميثيوس ومنحوا هدية اللغة للآلات مجانًا، وهو ما قوّض تلك الثقة التاريخيّة. لا أشك أنّ ذكاء اصطناعيا سيؤلّف عمّا قريب كتابًا «رائعًا» – لكن هل سيهتمّ أحد؟ سيكون التصفيق فاتِرًا. سيُشبه ألماسة مختبرية بلا شوائب: حيلة مُتقنة، نعم، لكنها ليست فنا.
في هذا الواقع الجديد، يقع على عاتق الكُتّاب أن يُثَبّتوا ثقة القارئ في «أصالة جواهرهم» عبر الشفافية حيال الكيفيّة التي نُقّبت بها تلك الجواهر. تجاهُل السؤال بدعوى أنّ الكتابة حِرفة نبيلة لا تستدعي إجراءات ثقة هو، برأيي، سذاجة خالصة.
كما أشرح في كتابي، فإنّ الذكاء الاصطناعي ـ شأنه شأن القنبلة الذرية ـ ابتكار بشري فائق القوّة، لا خيار لنا إلا تعلّم التعايش معه. أن نكون صريحين بما في ترسانتنا خطوة صغيرة لتجنّب سباق تسلّح أدبيّ لا يجرّ إلا إلى الارتياب والانقسام.
كيستر بروين كاتب ورئيس قسم الاتصالات في معهد مستقبل العمل.
عن الجارديان البريطانية
تم ترجمة النص باستخدام الذكاء الاصطناعي
العدو الإسرائيلي يشدد إجراءاته العسكرية على حاجز الحمرا في الأغوار الشمالية