النيابة الإدارية تعقد ندوة الذكاء الاصطناعي التوليدي.. الفرص والتحديات والمخاطر
تاريخ النشر: 4th, March 2024 GMT
عَقَدَ مركز التدريب القضائي بالنيابة الإدارية برئاسة المستشار أيمن نبيل، وبالتعاون مع وحدة شئون المرأة وحقوق الإنسان وذوي الهِمَم برئاسة المستشارة هبة الله الجندي، اليوم الإثنين، ندوة حول "الذكاء الاصطناعي التوليدي - الفرص والتحديات والمخاطر". واستضاف مركز التدريب القضائي الدكتور عبد الوهاب غنيم نائب رئيس الاتحاد العربي للاقتصاد الرقمي، ومستشار رئيس الجمهورية للتحول الرقمي، ومستشار جامعة "كامبريدج" البريطانية، ونائب رئيس المركز الدولي للاعتماد الرقمي بفرنسا، وعضو مجلس إدارة مركز البحوث والدراسات بأكاديمية السادات.
الندوة
جانب من الندوة
الندوة
الحضور فى الندوة
الندوة
الندوة
المصدر: اليوم السابع
كلمات دلالية: ندوة التدريب القضائي مركز التدريب القضائي النيابة الإدارية الذکاء الاصطناعی
إقرأ أيضاً:
اتهامات لعمالقة الذكاء الاصطناعي بالتورط مع إسرائيل بإبادة غزة
اتهمت خبيرة الذكاء الاصطناعي، هايدي خلاف، الجيش الإسرائيلي باستخدام تطبيقات ذكاء اصطناعي خلال هجماته على قطاع غزة، بالتعاون مع شركات تكنولوجية كبرى مثل غوغل ومايكروسوفت وأمازون، مما قد يجعل هذه الشركات شريكة في جرائم حرب، ومن شأنه تطبيع القتل الجماعي للمدنيين وتوجيه اللوم إلى الخوارزميات.
وحذرت الخبيرة خلاف، وهي مهندسة أمن نظم سابقة في شركة "أوبن إيه آي" المطورة لتطبيق شات جي بي تي ومستشارة في معهد "الآن للذكاء الاصطناعي"، من مخاطر استخدام الذكاء الاصطناعي الذي قد يتسم بعدم الدقة.
وأضافت -في حديث لوكالة الأناضول- "إذا ثبت أن الجيش الإسرائيلي ارتكب جرائم حرب محددة، وكانت شركات التكنولوجيا قد ساعدته في تنفيذها، فإن ذلك يجعلها شريكة في الجريمة".
وأوضحت أن الجيش الإسرائيلي اعتمد في غزة على أنظمة ذكاء اصطناعي مثل "حبسورا" (البشارة)، و"لافندر" لأغراض تشمل المراقبة الجماعية، وتحديد الأهداف، وتنفيذ هجمات استهدفت عشرات الآلاف من المدنيين، في حين تقول منظمات حقوق الإنسان وخبراء إن هذه الأنظمة ساهمت في تنفيذ هجمات واسعة أدّت إلى مقتل الآلاف دون تمييز.
تحت عنوان "سياسات مواقع التواصل الاجتماعي كجزء من سياسات الإبادة.. أبرز الانتهاكات المرصودة".. مركز "صدى سوشال" الفلسطيني غير الحكومي ينشر تقريرا يشير إلى تصاعد الانتهاكات الرقمية والتعديات الإسرائيلية على خصوصية المستخدمين الفلسطينيين وبياناتهم
للمزيد: https://t.co/76Tp1EtTmf pic.twitter.com/veo1yIOdOm
— Aljazeera.net • الجزيرة نت (@AJArabicnet) July 9, 2024
إعلانوحذرت الخبيرة خلاف من أن استخدام نماذج الذكاء الاصطناعي، المعروفة بعدم دقتها، سوف تدفع نحو تطبيع لحالات القتل الجماعي للمدنيين، كما جرى في غزة، قائلة "إنها معادلة خطيرة، وقتئذ سوف تلجأ الجيوش إلى تبرئة نفسها بالقول إن الخوارزمية هي من قررت، ونحن لم نفعل شيئًا".
وأشارت إلى أن إسرائيل استخدمت الذكاء الاصطناعي في كل مرحلة تقريبا من مراحل الهجمات التي شنتها على غزة، بدءا من جمع المعلومات الاستخبارية، وصولا إلى اختيار الأهداف النهائية، اعتمادا على بيانات متنوعة تشمل صورا فضائية، ومعلومات اتصالات تم اعتراضها، وتعقب مجموعات أو أفراد.
كما ذكرت أن تطبيقات مثل "جيميناي" من غوغل، و" شات جي بي تي" من "أوبن إيه آي"، تُستخدم للوصول إلى أنظمة الاتصالات الفلسطينية وترجمة المحادثات، مشيرة إلى أن الأشخاص يُدرجون في قوائم الأهداف فقط بناء على كلمات مفتاحية.
وأشارت الخبيرة إلى أن الجيش الإسرائيلي لا يتحقق من صحة الأهداف التي يحددها الذكاء الاصطناعي، وقالت: "للأسف، تشير التقييمات إلى أن دقة بعض هذه الأنظمة قد تكون منخفضة بنسبة تصل إلى 25% فقط".
وحذّرت من أن استهداف شخص واحد عبر الذكاء الاصطناعي دون الاكتراث بسقوط مدنيين آخرين يُقارب في خطورته القصف العشوائي، مشددة على أن هذا النوع من "الأتمتة الخاطئة" يحمل أخطارا جسيمة.
وأوضحت أيضا أن التحقق من أهداف الذكاء الاصطناعي يتم بطريقة سطحية جدا، مما يُثير الشكوك حول مدى جدية السعي لتقليل الخسائر المدنية.
وأضافت أن "الذكاء الاصطناعي يُطبع الاستهداف الخاطئ ويخلق سابقة خطيرة، وبسبب حجم وتعقيد هذه النماذج، يصبح من المستحيل تتبّع قراراتها أو تحميل أي طرف المسؤولية".
وقالت الخبيرة خلاف إن العالم يشهد اتجاها متسارعا نحو أنظمة استهداف آلية بالكامل، دون رقابة قانونية أو محاسبة، وإن "هذا التوجه يحظى بدعم من إسرائيل ووزارة الدفاع الأميركية والاتحاد الأوروبي".
إعلانوشددت على أن غياب الحظر القانوني الواضح على تقنيات الذكاء الاصطناعي العسكرية يشكل ثغرة خطيرة لم تُعالج حتى الآن، مؤكدة أن الإطارين القانوني والتقني غير جاهزين لخوض حروب قائمة على الذكاء الاصطناعي.
وتابعت: "إذا كان من الصعب تتبّع كيفية تسبب الذكاء الاصطناعي في سقوط ضحايا مدنيين، فيمكننا تخيل سيناريو يُستخدم فيه الذكاء الاصطناعي بشكل مكثف للتهرب من المسؤولية عن مقتل أعداد كبيرة من المدنيين".
شراكة علنيةوأشارت الخبيرة خلاف إلى أن شركات التكنولوجيا الأميركية، وعلى رأسها غوغل وأمازون، قدّمت منذ عام 2021 خدمات ذكاء اصطناعي وسحابة حوسبة للجيش الإسرائيلي.
ولفتت إلى أن هذا النوع من التعاون "ليس تيارا جديدا"، موضحة أن التعاون توسّع بعد أكتوبر/تشرين الأول 2023، مع اعتماد إسرائيل المتزايد على خدمات السحابة والنماذج والتقنيات من مايكروسوفت.
كما نوّهت إلى أن شركات مثل "بالانتير للتكنولوجيا" على ارتباط بالعمليات العسكرية الإسرائيلية، وإن كانت التفاصيل بشأن هذا التعاون محدودة وغير معلنة، مشيرة إلى أن من المهم أن نُدرك أن الجيش الإسرائيلي لا يكتفي بشراء خدمات جاهزة، بل يدمجها مباشرة في تطبيقات عسكرية.
وأكدت أن شركات مثل أمازون وغوغل ومايكروسوفت تعلم تماما مدى خطورة استخدام هذه النماذج، ومستوى دقتها، والمخاطر المرتبطة بكيفية استخدامها من قبل الجيش الإسرائيلي، ورغم ذلك "فهي لا تتوانى عن التعاون مع الجانب الإسرائيلي بشكل علني".
وقالت إن هذه الشركات قدّمت تسهيلات مباشرة للجيش الإسرائيلي كي يستخدم أنظمة الذكاء الاصطناعي في مجالي الاستهداف والاستخبارات، مؤكدة "إذا ثبت أن الجيش الإسرائيلي ارتكب جرائم حرب محددة، وكانت شركات التكنولوجيا قد ساعدته في تنفيذها، فإن ذلك يجعلها شريكة بشكل واضح في الجريمة".
وتأتي هذه الاتهامات الجديدة، في ظل ما ذكرته تقارير مرارا بشأن أن الحرب التي تشنها إسرائيل على قطاع غزة قدمت نموذجا مجسدا للسياسات التي تنتهجها شبكات التواصل الاجتماعي للتأثير في الرأي العام العالمي ودفعه إلى تقبل الحرب على القطاع، مكملة بذلك أدوات الحرب عبر الفضاء الرقمي.
إعلانوبالتوازي مع الحرب المدمرة على أرض الواقع في قطاع غزة، يخوض الاحتلال الإسرائيلي والقوى الداعمة له حربا على المحتوى الفلسطيني بشبكات التواصل الاجتماعي في العالم الافتراضي.
ويترافق هذا مع مواصلة إسرائيل منذ 7 أكتوبر/تشرين الأول 2023 حرب إبادة بغزة خلفت أكثر من 165 ألف شهيد وجريح من الفلسطينيين، معظمهم أطفال ونساء، وما يزيد على 11 ألف مفقود.
"الصحة الفلسطينية": الاحتلال يواصل ارتكاب المجازر بحق شعبنا في غزة