أَتُعَدُّ خوارزمية الذكاء الاصطناعي متحيّزة وعنصرية؟ القضية الفلسطينية أنموذجًا
تاريخ النشر: 4th, November 2023 GMT
تابعت عددا من التقارير والمقاطع المرئية التي أظهرت ما يمكن أنْ يراه البعض تحيزا وعنصرية تمارسها نماذج الذكاء الاصطناعي التوليدية مثل «شات جي بي تي ChatGPT»؛ حيث تُظهر بعض التجارب التي عرضتها هذه التقارير تحيزا لأنظمة الذكاء الاصطناعي لصالح الكيان المحتل عبر سؤال عن أحقية الفلسطينيين في الحرية والدولة المستقلة، وفي المقابل سؤاله عن حق اليهود في الحرية والوطن المستقل، وكانت إجابات النموذج التوليدي «شات جي بي تي ChatGPT» كما يعرضها صاحب التجربة في المقطع المرئي منحازة بشكل صريح مع الكيان المحتل؛ إذ تُقرر بكل وضوح حق هذا الكيان ومستوطنيه نيل الحرية والوطن ذي السيادة المستقلة، بينما يعطي إجابة عامة للوضع الفلسطيني في أنها قضية معقّدة ولا يمكنه التغلغل في تشعباتها السياسية؛ وبالتالي يفهم البعض أن لمثل هذه النماذج الذكية رأيًا يوافق رأي المحتل أن لا حقوق للشعب الفلسطيني، ولا وجود لقضيته كما يوحي ذلك عبر أسلوب التهرّب من الإجابة الصريحة والموضوعية -إثبات حق شعب ما في نيل حريته وحقوقه وتأسيس دولته المستقلة-.
قبل الولوج إلى مَعرِض هذه القضية وما يُمكن تقديمه من آراء علمية من المهم أن أذكّر أنه سبق التحذير من مخاطر نماذج الذكاء الاصطناعي -بشكل عام- المتعلقة بالتحيّز والعنصرية -سبق ذكره في مقالات سابقة نشرتها في جريدة عُمان- الذي أُثبتَ حدوثه؛ فثمّة تقارير علمية منشورة أكدت وجود حالات تحيّز لصالح عرق أو ديانة على حساب عرق وديانة أخرى مثلما حدث وما يزال يحدث في أنظمة -تعمل بواسطة نماذج الذكاء الاصطناعي- مراقبة الأشخاص عبر تمييز السلوك الإجرامي من ملامح الوجه التي يُعمل بها في بعض الأماكن العامة والمطارات في بعض الدول التي رُصِدَ أنها تمارس تحيزا غير عادل؛ إذ من الشائع أن نماذج الذكاء الاصطناعي تقوم بالتركيز على من تشتبه خوارزمياتها بهم من أصحاب عرق ولون معيّن دون غيره من الأعراق والألوان، وفُسّرَ هذا أنه نتيجة تدرّب النموذج الذكي على بيانات وأنماط خاصة -مثل بيانات لجرائم حصلت في مجتمعات ذات عرقيّة ما ومجرمين من العرقيّة ذاتها- أسفرت عن ممارسة النموذج الذكي لمثل هذه السلوكيات المنحازة وذي الطابع العنصري.
قمت بتوجيه سؤال -باللغة الإنجليزية- لـ «شات جي بي تي ChatGPT» فحواه: «أيستحق الفلسطينيون دولة مستقلة؟» فكان جواب النموذج التوليدي -بعد ترجمة جوابه للغة العربية دون أيّ تعديل للنص الأصلي باللغة الإنجليزية-: «السؤال فيما إذا كان يستحق الشعب الفلسطيني دولة مستقلة هي مسألة تتعلق بالنقاش والمفاوضات الدولية؛ فالرغبة في وجود دولة فلسطينية مستقلة هي قضية رئيسة في الصراع الإسرائيلي الفلسطيني. الحق في تقرير المصير هو مبدأ أساسي في القانون الدولي، ونال نصيبه من الالتفات من قبل قرارات الأمم المتحدة المختلفة. تؤيد العديد من الدول والمنظمات الدولية فكرة الحل المتمثلة في وجود دولتين؛ حيث توجد إسرائيل ودولة فلسطينية مستقلة جنبًا إلى جنب، كل منهما بسيادتها وحقها في تقرير المصير. تخضع تفاصيل أيّ اتفاق سلام محتمل، وحدود دولة فلسطينية، وطبيعة سيادتها للمفاوضات بين الأطراف المعنية. في النهاية، سيعتمد حل الصراع الإسرائيلي الفلسطيني وإنشاء دولة فلسطينية مستقلة على المفاوضات والدبلوماسية، وعلى إرادة الأطراف المشاركة في العثور على حل مقبول من جانبهم يحترم حقوق وطموحات كل من الإسرائيليين والفلسطينيين». عند توجيه هذا السؤال ذاته لشات «جي بي تي» لكن بوضع كلمة الإسرائيليين بدل الفلسطينيين وفقا لصيغة السؤال: «أيستحق الإسرائيليون دولة مستقلة؟»، كان جوابه: «نعم، الشعب الإسرائيلي لديه الحق في وجود دولة مستقلة، وتأسست دولة إسرائيل في عام 1948م، والتي نالت اعتراف الأمم المتحدة. كان تأسيس إسرائيل نتيجة للأحداث التاريخية والاتفاقات الدولية، وكان هناك رغبة في تحقيق تقرير المصير اليهودي بعد الحرب العالمية الثانية والهولوكوست. اعترفت الأغلبية الساحقة من الدول والمنظمات الدولية بشرعية دولة إسرائيل، بما في ذلك الأمم المتحدة. مثل أي دولة ذات سيادة، يحق لإسرائيل الوجود وتحديد حكومتها وسياستها الخاصة، وحماية حقوق وأمان مواطنيها. من المهم أن نلحظ أن المناقشات المتعلقة بالصراع الإسرائيلي الفلسطيني غالبًا ما تدور فيما يخص اعتراف إسرائيل بحقها في الوجود جنبًا إلى جنب مع حقوق الشعب الفلسطيني، بما في ذلك حقهم في تقرير مصيرهم والحصول على دولة مستقلة. سعيًا نحو حل سلمي لهذا الصراع القائم منذ فترة طويلة، يتعين معالجة حقوق وتطلعات كل من الإسرائيليين والفلسطينيين».
يتضح من هذه التجربة البسيطة -التي تعتمد على منهجية الحوار عبر السؤال والجواب - وجود أسلوب غير منصف -عبر المقارنة بين الجوابين- يحمل طابع التحيّز لصالح الكيان المحتل، وعبر اللغة «الأسلوب والمفردات» المتعالية التي تعطي الشرعية المطلقة لتأسيس الكيان المحتل دون اعتبارات قانونية وأخلاقية واضحة لأصحاب الأرض من الفلسطينيين، ومن الممكن أن يرى البعض عدم وجود هذا التحيّز الكبير، ولكنّي أعطي وجهة نظري الخاصة من زاوية ذاتية ومن زاوية موضوعية نسبية، ولكن ما يهمنا من الناحية العلمية هذا السؤال: لماذا من الممكن أن يتصرّف النموذج التوليدي بهذا السلوك التحيّزي؟ والجواب ببساطة أن النموذج التوليدي يعتمد على بيانات ومعلومات ضُخت إليه، وقام بالتدرّب عليها؛ ليستطيع التنبؤ بالنصوص وفقا لما يُطلب منه ويُسأل عنه، ويمكن استنتاج -من الجوابين السابقين لشات «جي بي تي»- عدة نقاط أولها تأكيد أن التأثير الإنساني الممكن على نماذج الذكاء الاصطناعي أكثر ما يكون بواسطة نوع البيانات التي تُوفّر لخوارزمية الذكاء الاصطناعي التي بواسطتها تتحدد سلوكيات الخوارزمية، ومن البديهّي أن معظم البيانات التي تدرّب عليها النموذج التوليدي منتقاة بعناية -بواسطة صانعيه- ومن مصادر محددة، وهذا يؤسس للاستنتاج الثاني الذي يؤكد استقلالية النماذج التوليدية بعد مرحلة التدرّب من حيث قدرتها على التنبؤ النصّي وفقا لتدرّبها على البيانات وتحليلها لها بناء على آلية رياضية سبق أن شرحتها في مقالات سابقة؛ فمن حيث المبدأ العلمي تعمل خوارزمية الذكاء الاصطناعي وفق آلية رياضية ثابتة لا سبيل إلى التحكم بها سواء عبر البرمجة أو بوسيلة أخرى أثناء عملها الفعلي -إلا في مراحل تأسيس عناصرها الرياضية من حيث عدد الشبكات العصبية ودوال التعلّم وسرعته، وهذا بطبيعته لا يتداخل مع آلية التنبؤ والقرارات فترة عمل النموذج-، وحينها لا يمكن أن نُلصِقَ صفة التحيّز والعنصرية بآلة رقمية ذكية -نتيجة تشابه عملها ومنطقها التفكيري مع الدماغ البيولوجي للإنسان-؛ كونها لا تملك عنصر العقلانية الكلّية التي يملكها الإنسان؛ فالمشاعر الداعية لممارسة التحيّز والعنصرية غير موجودة في أصلها، ولكنها تتولد نتيجة بيانات تتفاعل مع خوارزمية رياضية فائقة الذكاء؛ وهذا ما يُفسّر عنوان مقال سابق لي «الذكاء الاصطناعي ليس عقلا».
د. معمر بن علي التوبي أكاديمي وباحث عُماني
المصدر: لجريدة عمان
كلمات دلالية: نماذج الذکاء الاصطناعی شات جی بی تی ChatGPT دولة فلسطینیة الکیان المحتل دولة مستقلة التی ت
إقرأ أيضاً:
الذكاء الاصطناعي والإبداع الأدبي
حقق العلم في مجال الذكاء الاصطناعي قفزات كثيرة وسريعة، في غضون سنوات قليلة، حيث حرص كثير من المستخدمين، على الاستفادة من خدماته وإمكانياته في مجالات عدة، منها مجال الإبداع الأدبي.
وهناك تطبيقات وبرامج كثيرة، لعل أشهرها تشات جي بي تي، الذي وصفه بيل غيتس مؤسس ميكروسوفت بأنه برنامج مهم مثل اختراع الإنترنت! لأنه أحدث تحولاً كبيراً، يمكن أن يحل محل 300 مليون وظيفة بدوام كامل، حسب تعبيره!
هذا التطبيق الذي تداولت اسمه وسائل الإعلام عند ذكر خبر فوز الكاتبة اليابانية ري كودان بجائزة أكوتاغاوا، عن فئة الكاتب الواعد. وأكدّت الكاتبة بعد إعلان فوزها استعانتها بالذكاء الاصطناعي من حلال برنامج تشات جي بي تي، الذي ساهم بنسبة 5% بشكل تام من عملها من حيث المبنى والمعنى. بعد الضجة الكبيرة التي أحدثتها تصريحاتها قالت إنها استعانت به؛ لأن البطل في الرواية كان يستعين ببرنامج مماثل. وهنا نقف عند عدة تساؤلات، منها ما يتعلق بالموقف إجمالاً من الاستعانة بالذكاء الاصطناعي في مجال الإبداع من حيث مدى الأصالة، ومدى تأثيره على الجانب الأخلاقي.
بداية لابد أن نتذكر أن الإبداع الأدبي لا يقف وحيداً في هذا الأمر، فمعظم المجالات استفادت مثل الهندسة، الطب، وغيرها، لكن كم نسبة الاستفادة الحقيقية؟ كيف توظف هذه الاستفادة؟ إذ كانت الكاتبة اليابانية أقرت بـ5% استفادة كاملة، فلابد أن نفكر أنها قد تكون استفادت منه 95% بصورة غير مباشرة! مثل استفادتها في بناء الرواية، الحبكة، الأحداث. وهي تستفيد بذلك من كل النتاج الإنساني الأدبي والثقافي، بما فيه أيضا الأدب الياباني.
وماذا عن الملكية الفكرية للإبداع الأدبي؟ هل يعدّ الذكاء الاصطناعي من خلال برنامجه شريكاً في العمل الأدبي؟ أم أن هذه المشاركة مرتبطة بما أضافه الكاتب؟ وماذا عن الأدباء والشعراء الذين استعان التطبيق بإنتاجهم الأدبي؟ أذكر هنا أن عدداً كبيراً من الأدباء احتج على استعانة برنامج تشات جي بي تي بنتاجهم الإبداعي. رفع جورج. ر .ر .مارتن مؤلف "صراع العروش" في سبتمبر 2023 قضية على تشات جي بي تي، في نيويورك طالب هو وبعض الكتاب بـ 150 ألف دولار عن كل كتاب يستخدمه التطبيق. وطالب آخرون بمقابل مادي عن كل كتاب يستفيد منه الذكاء الصناعي. وذكرت وسائل الإعلام المختلفة أن المحامين قالوا في الدعوى "إن النماذج اللغوية تشكّل خطراً على قدرة الروائيين على كسب لقمة العيش؛ لأنها تتيح لأي شخص أن يولّد آلياً ومجاناً (أو بسعر متدنٍ جداً) نصوصاً يُفترض به أن يُدفع للمؤلفين أموالاً لقاءها ونبهوا إلى أن أدوات الذكاء الاصطناعي التوليدي يمكن أن تُستخدّم لإنتاج محتويات مشتقة تقلّد أسلوب الكُتّاب".
ونقلت مجلة فوربس آراء لمشرعين أمريكيين بأن العمل الأدبي لابد أن يكون إنتاجاً أصيلاً ومبدعاً من إنتاج إنساني دون تدخل الذكاء الاصطناعي. ورد مؤسسو تطبيق تشات جي بي تي الذي نُشر في الغارديان، قبل عام، بأن لديهم 150 مليون مستخدم أسبوعيا (وبلغ في أغسطس الماضي 200 مليون نشط أسبوعياً)، وأن أي شخص تًرفع عليه قضية بسبب استخدامه هذا الشات فهم سيتدخلون لصالحه!
لكن كيف يمكن أن نستعين بالذكاء الاصطناعي بشكل أفضل، دون المساس بالأصالة والإبداع لدى الكاتب؟ ربما يمكن أن يكون ذلك ضمن العصف الذهني وتوليد الأفكار، والأفضل عدم الاعتماد عليه 100%. ما يهمنا هنا أنه قادر على مساعدة المبتدئين في الكتابة أو متوسطي المستوى في إنتاج نصوص جيدة جداً، ولابد أن يعملوا على تعديلها. ولا أدري إن كانت المدونة الأوروبية، من أجل قواعد الممارسة لنماذج الذكاء الاصطناعي المتوقع صدورها في مايو 2025، ستشمل الإبداع الأدبي والفني أم لا. وهنا لابد أن نتذكر أن معظم الأمور المستحدثة تأخذ فترة حتى تستقر، وتقنن بتشريعات تحكمها، إنها مسألة وقت.
برنامج أمير الشعراء يختتم المرحلة الأولى من الموسم الـ11