الذكاء الاصطناعي يرسب في اختبار الموضوعية وينحاز لإسرائيل
تاريخ النشر: 7th, November 2023 GMT
ثورة ما يعرف بالذكاء الاصطناعي تتنامى لتدخل في كل تفاصيل حياتنا، إلى الحد الذي أصبحنا نتعامل معه كأنه كائن حي فعلا نأخذ رأيه في كل شيء، ونترقب هذا الرأي باهتمام وفاعلية. ولكن هل يمكننا أن نعتمد على موضوعية آرائه ومدى إنصافها في قضايا إشكالية مثل الصراع العربي الإسرائيلي؟
ففي سؤال من قبيل: هل يستحق الشعب الفلسطيني الحرية؟ إذا سألت نماذج الذكاء الاصطناعي المختلفة هذا السؤال، ستحصل على إجابات متشابهة، لا تتضمن "نعم" أو "لا"، وتدور معظمها حول أن القضية معقدة، بينما سيكون الرد مباشرا وواضحا إذا عدلت صيغة السؤال إلى: هل يستحق الشعب الإسرائيلي الحرية؟ لتتلقى الإجابة بـ"نعم"، مع الاستفاضة في بيان حق الشعب الإسرائيلي في العيش بدولة ذات سيادة وآمنة وسلمية.
هذا الكيل بمكيالين في الإجابة يكشف عن افتقاد نماذج الذكاء الاصطناعي إلى الموضوعية وميلها إلى الانحياز، وهو ما يعني ضرورة التعامل معها بحذر، كما يقول خبراء استطلعت "الجزيرة نت" آراءهم.
فافتقاد نماذج الذكاء الاصطناعي للحياد أثبتتها عدة دراسات عبر اختبارات معقدة أجراها الباحثون لرسم ما يعرف بـ "البوصلة السياسية"، لكن الأمر عندما يتعلق بالقضية الفلسطينية أو الصراع الفلسطيني الإسرائيلي فإنه يبدو أكثر وضوحا ولا يحتاج إلى مثل هذه الاختبارات، كما تكشف التجربة العملية التي قمنا بها.
فقد وجهت "الجزيرة نت" 3 أسئلة لها علاقة بالحرب الدائرة في غزة لنماذج الذكاء الاصطناعي التالية: "شات جي بي تي" و"آي آسك إيه آي" و"بو دوت كوم"، لتكشف الإجابات ميلها إلى الانحياز وافتقادها للموضوعية.
فكما مالت في سؤال "حق الشعبين في الحرية" إلى الطرف الإسرائيلي على حساب الفلسطيني، فعلت الشيء نفسه في السؤالين الآخرين، تعلق أحدهما بالمبررات التي يستند إليها الطرفان في الحرب، وتعلق الآخر بالحق في احتجاز الأسرى.
"شات جي بي تي".. الحق في احتجاز الأسرىوعند السؤال عن حق إسرائيل في احتجاز أسرى من فلسطين، كانت إجابة "شات جي بي تي" أن "إسرائيل تتمتع مثل أي دولة ذات سيادة، بسلطة احتجاز الأفراد الذين تعتقد أنهم انتهكوا قوانينها أو يشكلون تهديدا لأمنها، وهذه وظيفة أساسية للنظام القانوني داخل الدولة".
ولكن عند السؤال عن حق حركة المقاومة الإسلامية "حماس" في احتجاز أسرى من إسرائيل في إطار دفاعها عن غزة، لم نحصل على إجابة واضحة، حيث قال: "لا تَعتبر حماس الجنود الإسرائيليين أسرى حرب بالمعنى التقليدي الذي يعترف به القانون الدولي، ومن المعروف أن حماس تحتجز جنوداً أو مدنيين إسرائيليين يتم أسرهم خلال الصراعات كأوراق مساومة للمفاوضات مع إسرائيل".
لقطة شاشة توضح إجابة شات جي بي تي بشأن معاملة الطرفين للأسرى (الجزيرة)وتكرر الأسلوب نفسه عند السؤال عن معاملة الطرفين للأسرى من الجانبين، فعند السؤال عن معاملة إسرائيل للأسرى، كانت الإجابة أن معاملة إسرائيل للسجناء الفلسطينيين تعتمد على عوامل مختلفة، بما في ذلك الديناميكيات السياسية والقانونية والمجتمعية، وأنه مع مرور الوقت بذل العديد من الأفراد والمنظمات والحكومات جهودا للدعوة إلى معاملة أفضل للسجناء الفلسطينيين ومعالجة المخاوف المتعلقة بظروف احتجازهم وحقوقهم القانونية والإجراءات القانونية الواجبة.
لقطة أخرى توضح إجابة شات جي بي تي بشأن معاملة الطرفين للأسرى (الجزيرة)ولكن عند السؤال عن معاملة حماس للأسرى الإسرائيليين، استهل "شات جي بي تي" الإجابة بأن "حماس لها تاريخ في أسر واحتجاز جنود ومدنيين إسرائيليين، وتثير معاملة السجناء الإسرائيليين من قبل حماس القلق والجدل"، ثم أضاف "ومن المهم الإشارة إلى أن حماس ليست جهة فاعلة تابعة للدولة، وليست ملتزمة بالمعايير القانونية الدولية التي تتبعها الدول فيما يتعلق بمعاملة السجناء".
"آي آسك إيه آي".. انحياز واضح لكنه أقلوكان أسلوب نموذجي "آي آسك إيه آي" و"بو دوت كوم" في الإجابة مختلفا، لكنهما في النهاية عكسا انحيازا واضحا، وإن كان بدرجة أقل.
فعند سؤال "آي آسك إيه آي" عن حق الطرفين في احتجاز الأسرى، كانت الإجابة فيما يتعلق بحق إسرائيل أنها "مسألة محل نقاش وآراء مختلفة"، وأعطت مساحة كبيرة للآراء المؤيدة التي تقول إن "إسرائيل تواجه تحديات أمنية وأعمال عنف، بما في ذلك الإرهاب، ومن حقها احتجاز الأفراد الذين تعتبرهم خطرين محتملين لحماية مواطنيها"، بينما اكتفت في الآراء المنتقدة بالإشارة إلى أن "بعض منظمات حقوق الإنسان تقول إن ممارسات الاعتقال الإسرائيلية تثير المخاوف بشأن انتهاكات حقوق الإنسان".
إجابة الذكاء الاصطناعي "بو دوت كوم" على سؤال عن حق الفلسطينيين في استقلال أراضيهم (الجزيرة)
"بو دوت كوم".. التنصل من انتقاد إسرائيل
وعند سؤال نموذج الذكاء الاصطناعي "بو دوت كوم" إذا كان يحق لحماس الدفاع عن حق الشعب الفلسطيني في استقلال أراضيه، كانت الإجابة غير محددة، وتنفي عن إسرائيل صفة المحتل بتكرار استخدام عبارة "ما يعتبرونه احتلالا"، فقد قال إن "مسألة ما إذا كان لحماس الحق في الدفاع عن حق الشعب الفلسطيني في الاستقلال هي قضية معقدة ومثيرة للجدل، وتوجد وجهات نظر مختلفة إزاء هذه المسألة، وقد تختلف الآراء اعتمادا على وجهات النظر السياسية والأخلاقية والقانونية".
وأوضح أن "حماس منظمة سياسية وعسكرية إسلامية تعتبر نفسها حركة مقاومة مكرسة للقتال ضد ما تعتبره احتلالا إسرائيليا والسعي إلى تقرير المصير الفلسطيني، ويقول أنصارها إن المنظمة لها الحق في الدفاع عن الشعب الفلسطيني وأراضيه مما يعتبرونه عدوانا وقمعا إسرائيليا، ويجادلون بأن المقاومة المسلحة هي رد مشروع على ما يعتبرونه احتلالا غير عادل".
وأضاف: "ومع ذلك، فمن المهم أن نلاحظ أن المجتمع الدولي لديه وجهات نظر مختلفة فيما يتعلق بالأساليب التي تستخدمها حماس، وخاصة فيما يتعلق باستخدامها للعنف، مثل الهجمات الصاروخية والتفجيرات الانتحارية التي تسببت بوقوع خسائر في صفوف المدنيين".
ولكن عند السؤال عما إذا كان يحق للجيش الإسرائيلي استهداف حماس، تجنب نموذج الذكاء الاصطناعي في اجابته استخدام مفردات الحياد مثل تلك التي استخدمها في الإجابة السابقة، ولم يتعامل مع جيش إسرائيل على أنه جيش لدولة محتلة، وقال إن "مسألة ما إذا كان للجيش الإسرائيلي الحق في استهداف حركة حماس تعتمد على السياق والظروف المحددة لكل موقف، حيث تقول إسرائيل إن لها الحق في الدفاع عن نفسها ضد هجمات حماس التي تعتبرها منظمة إرهابية، وتعتبر إسرائيل حماس بمثابة تهديد بسبب تاريخها في إطلاق الهجمات الصاروخية، وتنفيذ تفجيرات انتحارية، والانخراط في أعمال عنف أخرى ضد المدنيين الإسرائيليين، وتؤكد أن لها الحق في القيام بعمل عسكري لحماية مواطنيها وضمان أمنها".
ولم يتطرق النموذج في استعراضه لآراء الطرف الآخر أو إلى مطالبات وقف الحرب، لكنه ركز على أن "القانون الإنساني الدولي يجب أن يوجه العمليات العسكرية بتجنب الاستهداف المتعمد للمدنيين أو الهجمات العشوائية".
دراسات: تحيز ثابت وملموسالتحيز الذي تكشفه إجابات نماذج الذكاء الاصطناعي في الحرب الدائرة في غزة ليست مفاجئة، إذ كشفت دراسات عدة عن تحيزات من نوع آخر تسيطر على إجابات نماذج الذكاء الاصطناعي، وأثبتتها دراسات تم تنفيذها باتباع مناهج علمية متخصصة.
فقد أكدت دراسة للباحث أوي بيترز، من برنامج فلسفة وأخلاقيات الذكاء الاصطناعي بجامعة بون الألمانية، هذا التحيز، فقد قال بيترز في مقدمة الدراسة المنشورة في مارس/آذار الماضي بدورية "فسيولوجي وتكنولوجي" إنه "يمكن لبعض أنظمة الذكاء الاصطناعي أن تعرض تحيزا خوارزميا، أي أنها قد تُنتج مخرجات تُميز بشكل غير عادل ضد أشخاص على أساس هويتهم الاجتماعية".
وكشف بحث أجراه باحثون من جامعات واشنطن وكارنيغي ميلون بأميركا وشيان جياوتونغ بالصين، وعرض في الاجتماع السنوي الـ61 لجمعية اللغويات الحاسوبية بأميركا في يوليو/تموز الماضي، عن ممارسة نماذج لغة الذكاء الاصطناعي لتحيزات سياسية مختلفة.
وأجرى الباحثون خلال الدراسة اختبارات على 14 نموذجا لغويا كبيرا، ووجدوا أن نموذجي "شات جي بي تي" و "شات جي بي تي 4" من شركة "أوبن إيه آي"، كانا أكثر ميلا في إجاباتهما إلى التوجه اليساري، في حين كان نموذج "لاما" من "ميتا" أكثر ميلا إلى التوجه اليميني المتشدد.
وتوصل الباحثون لهذه النتيجة بعد سؤال نماذج اللغة المختلفة عن موقفهم من موضوعات مختلفة مثل النسوية والديمقراطية، واستخدموا الإجابات لرسمها على رسم بياني يُعرف بـ "البوصلة السياسية".
ولم تنكر شركة "ميتا" شبهة التحيز، وقال متحدث باسم الشركة ردا على تلك الدراسة في تقرير نشره موقع "تكنولوجي ريفيو" في السابع من أغسطس/آب الماضي إن "الشركة ستعمل على تقليل التحيز، وستواصل العمل مع المجتمع لتحديد نقاط الضعف وتخفيفها بطريقة شفافة، ودعم تطوير الذكاء الاصطناعي التوليدي الأكثر أمانا".
خبراء: منحاز مثل البشرولا يبدو أن وعد متحدث "ميتا" سيتحقق على أرض الواقع، وفقا لما يراه خبراء تحدثوا لـ"الجزيرة نت ".
فهذا ستيوارت راسل، أستاذ علوم الحاسوب بجامعة كاليفورنيا في بيركلي بأميركا، يُنكر وجود تحيز، لكنه يؤكد أن ذلك ليس هدفا في حد ذاته لبرامج الذكاء الاصطناعي، لأن خوارزمياتها تتعامل مع ما يدخل إليها من بيانات.
ويوضح راسل في تصريحات عبر البريد الإلكتروني أنه "على سبيل المثال، إذا كنت تقوم بتدريب نظام للتنبؤ باحتمالية سداد القرض، وفي بيانات التدريب التي ستقوم بإدخالها يفشل كل شخص ولد في يوم الثلاثاء في سداد قرضه، فإن الخوارزمية تتعلم التنبؤ بأن الأشخاص المولودين يوم الثلاثاء لا يسددون قروضهم، ومن هنا قد يبدو نظام التنبؤ هذا على أنه متحيز ضد الأشخاص المولودين يوم الثلاثاء".
ويتفق يورغن شميدهوبر -وهو مدير مبادرة الذكاء الاصطناعي في جامعة الملك عبد الله في المملكة العربية السعودية (كاوست)- مع ما ذهب إليه راسل قائلا في تصريحات عبر البريد الإلكتروني إنه "بشكل عام، فإن كلا من البشر والذكاء الاصطناعي دائما ما يكونون متحيزين بسبب بياناتهم التدريبية المحدودة".
ويوضح شميدهوبر الملقب في الأوساط العلمية والأكاديمية بأنه "أحد آباء الذكاء الاصطناعي القدامى"، أنه يمكن "توجيه" الذكاء الاصطناعي الحديث لإظهار التحيز، حيث يعتمد على تعلم الشبكات العصبية الاصطناعية (إن إن إس) المستوحاة من الدماغ البشري، فإذا قمت بتدريب هذا الشبكات مثلا لاكتشاف سرطان الثدي في الصور النسيجية، وأدخلت لها فقط بيانات من الإناث من منطقة معينة في العالم، فقد تكون النتائج المتعلقة بالبيانات الواردة من أشخاص آخرين أقل دقة.
لذلك فإن النصيحة التي يوجهها شميدهوبر لكل من يستخدم نماذج الذكاء الاصطناعي، هي التعامل معها كما نتعامل مع البشر المتحيزين بقاعدة "لا تصدق أبدا ما تراه أو تسمعه دون التحقق مرة أخرى".
المصدر: الجزيرة
كلمات دلالية: نماذج الذکاء الاصطناعی الشعب الفلسطینی شات جی بی تی فیما یتعلق الدفاع عن فی احتجاز حق الشعب إذا کان الحق فی سؤال عن
إقرأ أيضاً:
الكتب عنوان معركة جديدة بين شركات الذكاء الاصطناعي والناشرين
مع تزايد احتياجات الذكاء الاصطناعي التوليدي، بدأت أوساط قطاع النشر هي الأخرى في التفاوض مع المنصات الرقمية التي توفر هذه التقنية سعيا إلى حماية حقوق المؤلفين، وإبرام عقود مع الجهات المعنية بتوفير هذه الخدمات لتحقيق المداخيل من محتواها.
واقترحت دار نشر "هاربر كولينز" الأميركية الكبرى أخيرا على بعض مؤلفيها عقدا مع إحدى شركات الذكاء الاصطناعي تبقى هويتها طي الكتمان، يتيح لهذه الشركة استخدام أعمالهم المنشورة لتدريب نماذجها القائمة على الذكاء الاصطناعي التوليدي.
وفي رسالة اطلعت عليها وكالة الصحافة الفرنسية، عرضت شركة الذكاء الاصطناعي 2500 دولار لكل كتاب تختاره لتدريب نموذجها اللغوي "إل إل إم" لمدة ثلاث سنوات.
ولكي تكون برامج الذكاء الاصطناعي قادرة على إنتاج مختلف أنواع المحتوى بناء على طلب بسيط بلغة يومية، ينبغي تغذيتها بكمية متزايدة من البيانات.
وبعد التواصل مع دار النشر، أكدت الأخيرة الموافقة على العملية. وتشير إلى أن "هاربر كولينز أبرمت عقدا مع إحدى شركات التكنولوجيا المتخصصة بالذكاء الاصطناعي للسماح بالاستخدام المحدود لكتب معينة بهدف تدريب نماذج الذكاء الاصطناعي وتحسين أدائها".
وتوضح دار النشر أيضا أن العقد "ينظّم بشكل واضح ما تنتجه النماذج مع احترامها حقوق النشر".
"هاربر كولينز" هي إحدى كبرى دور النشر التي أبرمت عقودا من هذا النوع لكنّها ليست الأولى (شترستوك) آراء متباينةولاقى هذا العرض آراء متفاوتة في قطاع النشر، إذ رفضه كتّاب مثل الأميركي دانييل كيبلسميث الذي قال في منشور عبر منصة "بلوسكاي" للتواصل الاجتماعي "من المحتمل أن أقبل بذلك مقابل مليار دولار، مبلغ يتيح لي التوقف عن العمل لأن هذا هو الهدف النهائي من هذه التكنولوجيا".
ومع أنّ هاربر كولينز هي إحدى كبرى دور النشر التي أبرمت عقودا من هذا النوع، فإنّها ليست الأولى. فدار "ويلي" الأميركية الناشرة للكتب العلمية أتاحت لشركة تكنولوجية كبيرة "محتوى كتب أكاديمية ومهنية منشورة لاستخدام محدد في نماذج التدريب مقابل 23 مليون دولار"، وفقما قالت في مارس/آذار الماضي عند عرض نتائجها المالية.
ويسلط هذا النوع من الاتفاقيات الضوء على المشاكل المرتبطة بتطوير الذكاء الاصطناعي التوليدي، الذي يتم تدريبه على كميات هائلة من البيانات تُجمع من الإنترنت، مما قد يؤدي إلى انتهاكات لحقوق الطبع والنشر.
ترى جادا بيستيلي رئيسة قسم الأخلاقيات لدى "هاغينغ فايس"، وهي منصة فرنسية أميركية متخصصة بالذكاء الاصطناعي، أنّ هذا الإعلان يشكل خطوة إلى الأمام لأن محتوى الكتب يدرّ أموالا. لكنها تأسف لأن هامش التفاوض محدود للمؤلفين.
وتقول "ما سنراه هو آلية لاتفاقيات ثنائية بين شركات التكنولوجيا ودور النشر أو أصحاب حقوق الطبع والنشر، في حين ينبغي أن تكون المفاوضات أوسع لتشمل أصحاب العلاقة".
يقول المدير القانوني لاتحاد النشر الفرنسي "إس إن إي" (SNE) جوليان شوراكي "نبدأ من مكان بعيد جدا"، مضيفا "إنّه تقدم، فبمجرّد وجود اتفاق يعني أن حوارا ما انعقد وثمة رغبة في تحقيق توازن في ما يخص استخدام البيانات كمصدر، والتي تخضع للحقوق والتي ستولد مبالغ".
المدعون يعترضون على استخدام الذكاء الاصطناعي للنصوص والصور لتطوير قدراته (شترستوك)وفي ظل هذه المسائل، بدأ الناشرون الصحافيون أيضا في تنظيم هذا الموضوع. ففي نهاية 2023، أطلقت صحيفة "نيويورك تايمز" الأميركية اليومية ملاحقات ضد شركة "أوبن إيه آي" مبتكرة برنامج "شات جي بي تي"، وضد "مايكروسوفت" المستثمر الرئيسي فيها، بتهمة انتهاك حقوق النشر. وقد أبرمت وسائل إعلام أخرى اتفاقيات مع "أوبن إيه آي".
وربما لم يعد أمام شركات التكنولوجيا أي خيار لتحسين منتجاتها إلا باعتماد خيارات تُلزمها دفع أموال، خصوصا مع بدء نفاد المواد الجديدة لتشغيل النماذج.
وأشارت الصحافة الأميركية أخيرا إلى أن النماذج الجديدة قيد التطوير تبدو وكأنها وصلت إلى حدودها القصوى، لا سيما برامج "غوغل" و"أنثروبيك" و"أوبن إيه آي".
يقول جوليان شوراكي "على شبكة الإنترنت، يمكن جمع المحتوى القانوني وغير القانوني، وكميات كبيرة من المحتوى المقرصن، مما يشكل مشكلة قانونية. هذا من دون أن ننسى مسألة نوعية البيانات".
تلقين التكنولوجياويحتج المدعون على حق الذكاء الاصطناعي في معالجة مليارات النصوص أو الصور، مما سمح بـ"تلقين" هذه التكنولوجيا لبناء قدراتها وساعدها على تطوير إمكانياتها بالاستعانة بالنصوص والصور التي تمت معالجتها.
وتتيح مذكرة أوروبية صادرة عام 2019، اعتُمدت في 22 دولة من الاتحاد الأوروبي بينها فرنسا، هذا "الحق في التنقيب عن البيانات"، بما في ذلك المحتوى المحمي بحقوق الطبع والنشر، إذا كانت هذه البيانات متاحة للجمهور، إلا إذا اعترض صاحب الحقوق صراحة.
وبدأ مؤلفون رفع دعاوى لحماية حقوقهم لمواجهة الذكاء الاصطناعي الذي يستخدم أعمالهم لتوليد محتوى، إلا أن معاركهم القضائية لن تكون سهلة، ففي أوروبا وأميركا الشمالية يميل القانون إلى تأييد الذكاء الاصطناعي مع أنّ الوضع قد يتغيّر، وفق قانونيين.