ثورة ما يعرف بالذكاء الاصطناعي تتنامى لتدخل في كل تفاصيل حياتنا، إلى الحد الذي أصبحنا نتعامل معه كأنه كائن حي فعلا نأخذ رأيه في كل شيء، ونترقب هذا الرأي باهتمام وفاعلية. ولكن هل يمكننا أن نعتمد على موضوعية آرائه ومدى إنصافها في قضايا إشكالية مثل الصراع العربي الإسرائيلي؟

ففي سؤال من قبيل: هل يستحق الشعب الفلسطيني الحرية؟ إذا سألت نماذج الذكاء الاصطناعي المختلفة هذا السؤال، ستحصل على إجابات متشابهة، لا تتضمن "نعم" أو "لا"، وتدور معظمها حول أن القضية معقدة، بينما سيكون الرد مباشرا وواضحا إذا عدلت صيغة السؤال إلى: هل يستحق الشعب الإسرائيلي الحرية؟ لتتلقى الإجابة بـ"نعم"، مع الاستفاضة في بيان حق الشعب الإسرائيلي في العيش بدولة ذات سيادة وآمنة وسلمية.

هذا الكيل بمكيالين في الإجابة يكشف عن افتقاد نماذج الذكاء الاصطناعي إلى الموضوعية وميلها إلى الانحياز، وهو ما يعني ضرورة التعامل معها بحذر، كما يقول خبراء استطلعت "الجزيرة نت" آراءهم.

فافتقاد نماذج الذكاء الاصطناعي للحياد أثبتتها عدة دراسات عبر اختبارات معقدة أجراها الباحثون لرسم ما يعرف بـ "البوصلة السياسية"، لكن الأمر عندما يتعلق بالقضية الفلسطينية أو الصراع الفلسطيني الإسرائيلي فإنه يبدو أكثر وضوحا ولا يحتاج إلى مثل هذه الاختبارات، كما تكشف التجربة العملية التي قمنا بها.

فقد وجهت "الجزيرة نت" 3 أسئلة لها علاقة بالحرب الدائرة في غزة لنماذج الذكاء الاصطناعي التالية: "شات جي بي تي" و"آي آسك إيه آي" و"بو دوت كوم"، لتكشف الإجابات ميلها إلى الانحياز وافتقادها للموضوعية.

فكما مالت في سؤال "حق الشعبين في الحرية" إلى الطرف الإسرائيلي على حساب الفلسطيني، فعلت الشيء نفسه في السؤالين الآخرين، تعلق أحدهما بالمبررات التي يستند إليها الطرفان في الحرب، وتعلق الآخر بالحق في احتجاز الأسرى.

"شات جي بي تي".. الحق في احتجاز الأسرى

وعند السؤال عن حق إسرائيل في احتجاز أسرى من فلسطين، كانت إجابة "شات جي بي تي" أن "إسرائيل تتمتع مثل أي دولة ذات سيادة، بسلطة احتجاز الأفراد الذين تعتقد أنهم انتهكوا قوانينها أو يشكلون تهديدا لأمنها، وهذه وظيفة أساسية للنظام القانوني داخل الدولة".

ولكن عند السؤال عن حق حركة المقاومة الإسلامية "حماس" في احتجاز أسرى من إسرائيل في إطار دفاعها عن غزة، لم نحصل على إجابة واضحة، حيث قال: "لا تَعتبر حماس الجنود الإسرائيليين أسرى حرب بالمعنى التقليدي الذي يعترف به القانون الدولي، ومن المعروف أن حماس تحتجز جنوداً أو مدنيين إسرائيليين يتم أسرهم خلال الصراعات كأوراق مساومة للمفاوضات مع إسرائيل".

لقطة شاشة توضح إجابة شات جي بي تي بشأن معاملة الطرفين للأسرى (الجزيرة)

وتكرر الأسلوب نفسه عند السؤال عن معاملة الطرفين للأسرى من الجانبين، فعند السؤال عن معاملة إسرائيل للأسرى، كانت الإجابة أن معاملة إسرائيل للسجناء الفلسطينيين تعتمد على عوامل مختلفة، بما في ذلك الديناميكيات السياسية والقانونية والمجتمعية، وأنه مع مرور الوقت بذل العديد من الأفراد والمنظمات والحكومات جهودا للدعوة إلى معاملة أفضل للسجناء الفلسطينيين ومعالجة المخاوف المتعلقة بظروف احتجازهم وحقوقهم القانونية والإجراءات القانونية الواجبة.

لقطة أخرى توضح إجابة شات جي بي تي بشأن معاملة الطرفين للأسرى (الجزيرة)

ولكن عند السؤال عن معاملة حماس للأسرى الإسرائيليين، استهل "شات جي بي تي" الإجابة بأن "حماس لها تاريخ في أسر واحتجاز جنود ومدنيين إسرائيليين، وتثير معاملة السجناء الإسرائيليين من قبل حماس القلق والجدل"، ثم أضاف "ومن المهم الإشارة إلى أن حماس ليست جهة فاعلة تابعة للدولة، وليست ملتزمة بالمعايير القانونية الدولية التي تتبعها الدول فيما يتعلق بمعاملة السجناء".

"آي آسك إيه آي".. انحياز واضح لكنه أقل

وكان أسلوب نموذجي "آي آسك إيه آي" و"بو دوت كوم" في الإجابة مختلفا، لكنهما في النهاية عكسا انحيازا واضحا، وإن كان بدرجة أقل.

فعند سؤال "آي آسك إيه آي" عن حق الطرفين في احتجاز الأسرى، كانت الإجابة فيما يتعلق بحق إسرائيل أنها "مسألة محل نقاش وآراء مختلفة"، وأعطت مساحة كبيرة للآراء المؤيدة التي تقول إن "إسرائيل تواجه تحديات أمنية وأعمال عنف، بما في ذلك الإرهاب، ومن حقها احتجاز الأفراد الذين تعتبرهم خطرين محتملين لحماية مواطنيها"، بينما اكتفت في الآراء المنتقدة بالإشارة إلى أن "بعض منظمات حقوق الإنسان تقول إن ممارسات الاعتقال الإسرائيلية تثير المخاوف بشأن انتهاكات حقوق الإنسان".

 

إجابة الذكاء الاصطناعي "بو دوت كوم" على سؤال عن حق الفلسطينيين في استقلال أراضيهم (الجزيرة)

"بو دوت كوم".. التنصل من انتقاد إسرائيل

وعند سؤال نموذج الذكاء الاصطناعي "بو دوت كوم" إذا كان يحق لحماس الدفاع عن حق الشعب الفلسطيني في استقلال أراضيه، كانت الإجابة غير محددة، وتنفي عن إسرائيل صفة المحتل بتكرار استخدام عبارة "ما يعتبرونه احتلالا"، فقد قال إن "مسألة ما إذا كان لحماس الحق في الدفاع عن حق الشعب الفلسطيني في الاستقلال هي قضية معقدة ومثيرة للجدل، وتوجد وجهات نظر مختلفة إزاء هذه المسألة، وقد تختلف الآراء اعتمادا على وجهات النظر السياسية والأخلاقية والقانونية".

وأوضح أن "حماس منظمة سياسية وعسكرية إسلامية تعتبر نفسها حركة مقاومة مكرسة للقتال ضد ما تعتبره احتلالا إسرائيليا والسعي إلى تقرير المصير الفلسطيني، ويقول أنصارها إن المنظمة لها الحق في الدفاع عن الشعب الفلسطيني وأراضيه مما يعتبرونه عدوانا وقمعا إسرائيليا، ويجادلون بأن المقاومة المسلحة هي رد مشروع على ما يعتبرونه احتلالا غير عادل".

وأضاف: "ومع ذلك، فمن المهم أن نلاحظ أن المجتمع الدولي لديه وجهات نظر مختلفة فيما يتعلق بالأساليب التي تستخدمها حماس، وخاصة فيما يتعلق باستخدامها للعنف، مثل الهجمات الصاروخية والتفجيرات الانتحارية التي تسببت بوقوع خسائر في صفوف المدنيين".

ولكن عند السؤال عما إذا كان يحق للجيش الإسرائيلي استهداف حماس، تجنب نموذج الذكاء الاصطناعي في اجابته استخدام مفردات الحياد مثل تلك التي استخدمها في الإجابة السابقة، ولم يتعامل مع جيش إسرائيل على أنه جيش لدولة محتلة، وقال إن "مسألة ما إذا كان للجيش الإسرائيلي الحق في استهداف حركة حماس تعتمد على السياق والظروف المحددة لكل موقف، حيث تقول إسرائيل إن لها الحق في الدفاع عن نفسها ضد هجمات حماس التي تعتبرها منظمة إرهابية، وتعتبر إسرائيل حماس بمثابة تهديد بسبب تاريخها في إطلاق الهجمات الصاروخية، وتنفيذ تفجيرات انتحارية، والانخراط في أعمال عنف أخرى ضد المدنيين الإسرائيليين، وتؤكد أن لها الحق في القيام بعمل عسكري لحماية مواطنيها وضمان أمنها".

ولم يتطرق النموذج في استعراضه لآراء الطرف الآخر أو إلى مطالبات وقف الحرب، لكنه ركز على أن "القانون الإنساني الدولي يجب أن يوجه العمليات العسكرية بتجنب الاستهداف المتعمد للمدنيين أو الهجمات العشوائية".

دراسات: تحيز ثابت وملموس

التحيز الذي تكشفه إجابات نماذج الذكاء الاصطناعي في الحرب الدائرة في غزة ليست مفاجئة، إذ كشفت دراسات عدة عن تحيزات من نوع آخر تسيطر على إجابات نماذج الذكاء الاصطناعي، وأثبتتها دراسات تم تنفيذها باتباع مناهج علمية متخصصة.

فقد أكدت دراسة للباحث أوي بيترز، من برنامج فلسفة وأخلاقيات الذكاء الاصطناعي بجامعة بون الألمانية، هذا التحيز، فقد قال بيترز في مقدمة الدراسة المنشورة في مارس/آذار الماضي بدورية "فسيولوجي وتكنولوجي" إنه "يمكن لبعض أنظمة الذكاء الاصطناعي أن تعرض تحيزا خوارزميا، أي أنها قد تُنتج مخرجات تُميز بشكل غير عادل ضد أشخاص على أساس هويتهم الاجتماعية".

وكشف بحث أجراه باحثون من جامعات واشنطن وكارنيغي ميلون بأميركا وشيان جياوتونغ بالصين، وعرض في الاجتماع السنوي الـ61 لجمعية اللغويات الحاسوبية بأميركا في يوليو/تموز الماضي، عن ممارسة نماذج لغة الذكاء الاصطناعي لتحيزات سياسية مختلفة.

وأجرى الباحثون خلال الدراسة اختبارات على 14 نموذجا لغويا كبيرا، ووجدوا أن نموذجي "شات جي بي تي" و "شات جي بي تي 4" من شركة "أوبن إيه آي"، كانا أكثر ميلا في إجاباتهما إلى التوجه اليساري، في حين كان نموذج "لاما" من "ميتا" أكثر ميلا إلى التوجه اليميني المتشدد.

وتوصل الباحثون لهذه النتيجة بعد سؤال نماذج اللغة المختلفة عن موقفهم من موضوعات مختلفة مثل النسوية والديمقراطية، واستخدموا الإجابات لرسمها على رسم بياني يُعرف بـ "البوصلة السياسية".

ولم تنكر شركة "ميتا" شبهة التحيز، وقال متحدث باسم الشركة ردا على تلك الدراسة في تقرير نشره موقع "تكنولوجي ريفيو" في السابع من أغسطس/آب الماضي إن "الشركة ستعمل على تقليل التحيز، وستواصل العمل مع المجتمع لتحديد نقاط الضعف وتخفيفها بطريقة شفافة، ودعم تطوير الذكاء الاصطناعي التوليدي الأكثر أمانا".

خبراء: منحاز مثل البشر

ولا يبدو أن وعد متحدث "ميتا" سيتحقق على أرض الواقع، وفقا لما يراه خبراء تحدثوا لـ"الجزيرة نت ".

فهذا ستيوارت راسل، أستاذ علوم الحاسوب بجامعة كاليفورنيا في بيركلي بأميركا، يُنكر وجود تحيز، لكنه يؤكد أن ذلك ليس هدفا في حد ذاته لبرامج الذكاء الاصطناعي، لأن خوارزمياتها تتعامل مع ما يدخل إليها من بيانات.

ويوضح راسل في تصريحات عبر البريد الإلكتروني أنه "على سبيل المثال، إذا كنت تقوم بتدريب نظام للتنبؤ باحتمالية سداد القرض، وفي بيانات التدريب التي ستقوم بإدخالها يفشل كل شخص ولد في يوم الثلاثاء في سداد قرضه، فإن الخوارزمية تتعلم التنبؤ بأن الأشخاص المولودين يوم الثلاثاء لا يسددون قروضهم، ومن هنا قد يبدو نظام التنبؤ هذا على أنه متحيز ضد الأشخاص المولودين يوم الثلاثاء".

ويتفق يورغن شميدهوبر -وهو مدير مبادرة الذكاء الاصطناعي في جامعة الملك عبد الله في المملكة العربية السعودية (كاوست)- مع ما ذهب إليه راسل قائلا في تصريحات عبر البريد الإلكتروني إنه "بشكل عام، فإن كلا من البشر والذكاء الاصطناعي دائما ما يكونون متحيزين بسبب بياناتهم التدريبية المحدودة".

ويوضح شميدهوبر الملقب في الأوساط العلمية والأكاديمية بأنه "أحد آباء الذكاء الاصطناعي القدامى"، أنه يمكن "توجيه" الذكاء الاصطناعي الحديث لإظهار التحيز، حيث يعتمد على تعلم الشبكات العصبية الاصطناعية (إن إن إس) المستوحاة من الدماغ البشري، فإذا قمت بتدريب هذا الشبكات مثلا لاكتشاف سرطان الثدي في الصور النسيجية، وأدخلت لها فقط بيانات من الإناث من منطقة معينة في العالم، فقد تكون النتائج المتعلقة بالبيانات الواردة من أشخاص آخرين أقل دقة.

لذلك فإن النصيحة التي يوجهها شميدهوبر لكل من يستخدم نماذج الذكاء الاصطناعي، هي التعامل معها كما نتعامل مع البشر المتحيزين بقاعدة "لا تصدق أبدا ما تراه أو تسمعه دون التحقق مرة أخرى".

المصدر: الجزيرة

كلمات دلالية: نماذج الذکاء الاصطناعی الشعب الفلسطینی شات جی بی تی فیما یتعلق الدفاع عن فی احتجاز حق الشعب إذا کان الحق فی سؤال عن

إقرأ أيضاً:

نسب احتيال تصل 60%.. الذكاء الاصطناعي يهدد الأمن الرقمي

تابع أحدث الأخبار عبر تطبيق

يواصل الذكاء الاصطناعي تحقيق تقدم مذهل في مختلف المجالات، إلا أن هناك جانبًا مظلمًا لهذا التطور، خاصة فيما يتعلق بالمخاطر الأمنية التي قد يتسبب فيها، فقد أظهرت دراسة حديثة أن واجهة البرمجة الصوتية الخاصة بنموذج ChatGPT-4o من OpenAI قد تُستغل من قبل مجرمي الإنترنت لتنفيذ عمليات احتيال مالي، ووفقًا لما أوردته "البوابة العربية للأخبار التقنية"، فقد تراوحت معدلات نجاح هذه العمليات بين منخفضة ومتوسطة، مما يسلط الضوء على الحاجة الماسة لتطوير آليات أمان أكثر تطورًا. 

استخدامات غير مشروعة لنموذج ChatGPT-4o

يُعتبر ChatGPT-4o أحدث نموذج من OpenAI الذي يجمع بين قدرات الذكاء الاصطناعي في فهم وتحليل النصوص والصوت والصور، مما يمنحه إمكانيات هائلة، إلا أن هذه القدرات، حسب ما ذكر باحثون من جامعة إلينوي الأمريكية، تُستغل أحيانًا في عمليات احتيال، حيث تُستخدم أدوات تكنولوجيا الصوت التي يعتمد عليها النموذج في اختراق أنظمة المصادقة الثنائية، وإجراء عمليات تحويل مالية مزورة، فضلاً عن سرقة البيانات الحساسة مثل حسابات البريد الإلكتروني ووسائل التواصل الاجتماعي.

هذه الأدوات البرمجية التي تستخدم الصوت، تمكن المهاجمين من التلاعب في البيانات وإدخال التعليمات اللازمة عبر الويب، ما يسمح لهم بتجاوز بعض القيود التي وضعتها OpenAI للحد من إساءة استخدام النموذج، وعلى الرغم من أن النموذج يُرفض غالبًا التعامل مع البيانات الحساسة، فإن الباحثين نجحوا في إيجاد طرق لتحفيزه على التجاوب مع هذه المحاولات.

نتائج الدراسة: عمليات احتيال "رخيصة" وفعالة

في التجارب التي أُجريت، أظهر الباحثون أن معدلات نجاح عمليات الاحتيال تراوحت بين 20% و60%، مع حاجة كل محاولة إلى نحو 26 خطوة عبر المتصفح لإتمام العملية، ما استغرق في الحالات الأكثر تعقيدًا حوالي 3 دقائق فقط، ومن حيث التكلفة، أظهرت النتائج أن تكلفة تنفيذ عملية احتيال واحدة كانت منخفضة للغاية، إذ تراوحت بين 75 سنتًا أميركيًا للعمليات البسيطة مثل سرقة بيانات حسابات Gmail، و2.51 دولار فقط في عمليات التحويل المصرفي الأكثر تعقيدًا.

استجابة OpenAI والتحديات المستقبلية

وفي رد فعلها على هذه الدراسة، أكدت OpenAI أنها تبذل جهودًا مستمرة لتحسين الأمان في نماذجها المستقبلية، وأشارت إلى أن النموذج الأحدث "o1-preview" يتمتع بقدرات متقدمة في مقاومة محاولات الاحتيال، حيث حقق تقييم أمان بنسبة 93% مقارنة بـ71% في النموذج السابق، كما أضافت الشركة أنها ملتزمة بتطوير آليات أكثر قوة لمنع الاستخدامات الضارة، بما في ذلك تقييد توليد الأصوات في نموذج GPT-4o إلى مجموعة أصوات مصرح بها فقط لتجنب التزييف الصوتي.

مقالات مشابهة

  • وزير السياحة: قوة تعلم آلة الذكاء الاصطناعي عظيمة وهذه التحديات التي تواجهنا
  • حماس تعلق على فوز ترامب.. وتكشف عن اختبار سيخضع له الرئيس الأمريكي المنتخب
  • حماس بعد إعلان ترامب فوزه: على واشنطن "وقف الدعم الأعمى" لإسرائيل  
  • مدبولي: الذكاء الاصطناعي هو الحاضر
  • حماس تعلّق على فوز ترامب: هذا اختبار لقدرته على وقف الحرب في غزة
  • حماس: فوز ترامب اختبار لترجمة تصريحاته بشأن وقف الحرب خلال ساعات
  • حماس بعد إعلان فوز ترامب: على واشنطن “وقف الدعم الأعمى” لإسرائيل
  • حماس: خسارة هاريس ثمن طبيعي للإبادة في غزة.. وترامب أمام اختبار وقف الحرب
  • اختبار «جوجل» الجديد ومواجهة أدوات الذكاء الاصطناعي
  • نسب احتيال تصل 60%.. الذكاء الاصطناعي يهدد الأمن الرقمي