علوم وتكنولوجيا كندا تحذر من استخدام الذكاء الاصطناعى فى القرصنة والمعلومات الخاطئة
تاريخ النشر: 22nd, July 2023 GMT
علوم وتكنولوجيا، كندا تحذر من استخدام الذكاء الاصطناعى فى القرصنة والمعلومات الخاطئة،استحوذت ثورة الذكاء الاصطناعي AI على صناعة التكنولوجيا منذ عام 2022، ولا يتم استخدام .،عبر صحافة مصر، حيث يهتم الكثير من الناس بمشاهدة ومتابعه الاخبار، وتصدر خبر كندا تحذر من استخدام الذكاء الاصطناعى فى القرصنة والمعلومات الخاطئة، محركات البحث العالمية و نتابع معكم تفاصيل ومعلوماته كما وردت الينا والان إلى التفاصيل.
استحوذت ثورة الذكاء الاصطناعي (AI) على صناعة التكنولوجيا منذ عام 2022، ولا يتم استخدام هذه التقنية من قبل الشركات الكبرى فقط لتقديم تجارب محسنة، بل يتم تبنيها أيضًا من قبل مجرمي الإنترنت، ووفقًا لتقرير صادر عن رويترز، حذر مسئول كندي في مجال الأمن السيبراني من كيفية استخدام الذكاء الاصطناعي من قبل المتسللين والدعاية لمصلحتهم.
وقال رئيس المركز الكندي للأمن السيبراني سامي خوري إنه يمكن استخدام الذكاء الاصطناعي لإنشاء برامج ضارة وصياغة رسائل بريد إلكتروني احتيالية مقنعة ونشر معلومات مضللة عبر الإنترنت، بحسب موقع TOI الهندى.
كيف يسيء مجرمو الإنترنت استخدام الذكاء الاصطناعي وأشار إلى أن الوكالة شهدت استخدام الذكاء الاصطناعي "في رسائل البريد الإلكتروني المخادعة، أو صياغة رسائل البريد الإلكتروني بطريقة أكثر تركيزًا، في رموز خبيثة (و) في المعلومات المضللة والمعلومات المضللة"، لم يقدم خوري أي تفاصيل أو أدلة حول كيفية قيام المجرمين الإلكترونيين بإساءة استخدام الذكاء الاصطناعي. ومع ذلك ، فإن هذا التأكيد يزيد القلق من أن مجرمي الإنترنت قد بدأوا بالفعل في استخدام هذه التكنولوجيا الناشئة.
وأشار خوري إلى أن استخدام الذكاء الاصطناعي في صياغة التعليمات البرمجية الخبيثة لا يزال في مراحله الأولى. "لا يزال هناك طريق لنقطعه لأن الأمر يتطلب الكثير لكتابة استغلال جيد"، يهتم خوري بالسرعة التي تتطور بها نماذج الذكاء الاصطناعي. ويشير إلى أنه بهذه السرعة ، سيكون من الصعب مراقبة الإمكانات الخبيثة لهذه النماذج قبل إصدارها للمستخدمين العاديين.
حراس الأمن السيبراني على مخاطر الذكاء الاصطناعي نشرت هيئات رقابة الأمن السيبراني من عدة دول تقارير تحذر من مخاطر الذكاء الاصطناعي، وحذر مسؤولو الإنترنت على وجه التحديد من نماذج اللغات الكبيرة (LLMs). تتخلص برامج معالجة اللغة سريعة التقدم هذه من خلال كميات ضخمة من النصوص لتوليد حوار شبيه بالبشر ووثائق وغير ذلك.
وفي مارس، نشر اليوروبول تقريرًا حول إمكانية إساءة استخدام ChatGPT الخاص بـ OpenAI من قبل مجرمي الإنترنت، وقالت منظمة الشرطة الأوروبية إن هذا النموذج التوليدي للذكاء الاصطناعي جعل من الممكن "انتحال شخصية منظمة أو فرد بطريقة واقعية للغاية حتى مع الفهم الأساسي للغة الإنجليزية فقط."
في وقت لاحق، قام المركز الوطني للأمن الإلكتروني في المملكة المتحدة بتحديث منشور مدونة يسلط الضوء على أن المجرمين "قد يستخدمون LLMs للمساعدة في الهجمات الإلكترونية التي تتجاوز قدراتهم الحالية".
وأظهر باحثو الأمن السيبراني أيضًا العديد من حالات الاستخدام الضار المحتملة، ذكر بعض الباحثين أيضًا رؤية محتوى يشتبه في أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. في الأسبوع الماضي ، اكتشف متسلل سابق LLM تم تدريبه على مواد ضارة، وقد تمكن أيضًا من استخدام هذا النموذج لصياغة بريد لخداع المستخدمين لإجراء تحويل نقدي.
وجاء LLM برسالة بريد إلكتروني من ثلاث فقرات تطلب من هدفها المساعدة في فاتورة عاجلة، وقالت LLM: "أتفهم أن هذا قد يكون مهلة قصيرة ، لكن هذه الدفعة مهمة للغاية ويجب إجراؤها فى الـ 24 ساعة القادمة".
المصدر: صحافة العرب
كلمات دلالية: الذكاء موعد عاجل الدولار الامريكي اليوم اسعار الذهب اسعار النفط مباريات اليوم جدول ترتيب حالة الطقس استخدام الذکاء الاصطناعی الأمن السیبرانی من قبل
إقرأ أيضاً:
الذكاء الاصطناعى.. هل يكون بديلاً فى الإفتاء؟
توغلت أدوات الذكاء الإصطناعى فى حياتنا اليومية، حتى بدأ يلجأ الكثير إليها فى المسائل الدينية، واستخراج النصوص الشرعية، مما يضعنا أمام تساؤلات هامة حول الذكاء الاصطناعى وخطورة استخدامه فى الفتوى، ولأن أغلى ما يملك المرء هو دينه، وجب الإجابة عن تلك التساؤلات.
قال الدكتور عمرو الوردانى، أمين الفتوى بدار الافتاء المصرية، إن الذكاء الاصطناعى لم يعد مجرد تقنية ناشئة، بل أصبح جزءًا أساسيًا من الحياة المعرفية، تمامًا مثل محركات البحث، وأوضح أن التعامل معه يجب أن يكون بوعى، خاصة فى مجال الفتوى التى لا يمكن إغفال الواقع فيه، أو التعامل مع الذكاء الإصطناعى كبديل للإنسان، بل يجب النظر إليه كأداة تساعد فى الوصول إلى المعلومات، ويجب البحث والتدقيق فيما تنتجه.
من جانبه وضح الدكتور أحمد بهاء خيرى أستاذ الذكاء الاصطناعى بجامعة الإسكندرية أن الفقه الإسلامى يستند إلى أصول محددة تُترجم إلى قواعد فقهية، وهذه القواعد تتشابه إلى حد كبير مع مفهوم الـ«rules» فى الذكاء الاصطناعى، لذا يمكن استخدام الذكاء الاصطناعى فى الفتوى عن طريق بناء قواعد معرفية متخصصة تشمل جميع المذاهب والمدارس الفقهية المختلفة.
وتابع «خيرى» أن تلك القواعد تتم برمجتها بنفس أسلوب القواعد العلمية فى أنظمة الذكاء الاصطناعى، حيث تتم معالجة القضايا الفقهية من خلال البحث عن أصلها الفقهى، واستعراض مختلف وجهات النظر، ومن ثم تقديم خلاصة تحدد الرأى المُرجح، وهو ما يتناسب مع طبيعة أنظمة الذكاء الاصطناعى التى لا تقتصر على رأى واحد، بل تطرح أكثر من رأى، بحيث يتمكن المستخدم من اختيار الرأى الأقرب إليه.
ومن جهته حذر الدكتور أسامة الحديدى، المدير التنفيذى لمركز الأزهر العالمى للفتوى الإلكترونية، من المخاطر التى قد تنتج عن الاعتماد على الذكاء الاصطناعى فى إصدار الفتاوى الشرعية، وذلك لأن الفتوى تختلف عن الحكم الشرعى، لأنها تتطلب تحديدًا دقيقًا للظروف المحيطة بالمستفتى فضلًا عن مجرد حكم شرعى، ولابد على من يُعطى الفتوى أن يراعى حالة المُستفتى وطبيعة مسألته، وهو أمر لا يستطيع الذكاء الاصطناعى تحليله بدقة.
وفى هذا السياق وضح «خيرى» أنه كما يمكن للذكاء الاصطناعى استنتاج الأحكام الشرعية بناءً على القواعد الفقهية، يمكنه أيضا تقديم الفتوى التى تستلزم مراعاة أحوال المُستفتى عن طريقة إضافة عنصر «المنطق الرياضى» لمقاربة الفتاوى بشكل أكثر دقة.
وأشار «خيرى» إلى أنه بالفعل قد نجح ذلك فى المراحل الأولى من تطوير الذكاء الاصطناعى القانونى، حيث كانت نسبة نجاحه فى استصدار أحكام دقيقة لا تتجاوز 10% مقارنة بآراء القضاة منذ عامان، لكن مع التطوير المستمر، وصلت الدقة الآن إلى أكثر من 90%.
وأوضح «الحديدى» أنه بالفعل يتم استخدام الذكاء الاصطناعى فى رصد وتحليل البيانات والنصوص، حيث توفر الوقت والجهد والمال، ومع ذلك، يمكن أن يتسبب تغذية الذكاء الاصطناعى ببيانات غير دقيقة فى نتائج غير موثوقة، مما قد يؤدى إلى أحكام مخالفة للإجماع أو تضر الفكر والعقيدة.
فيما أشار الجندى إلى أن الذكاء الاصطناعى فى مجال الفتاوى يعمل بأسلوب بسيط، تمامًا مثل ترتيب محتويات الدولاب، حيث يتم تنظيم القواعد الفقهية وفق منهجية محددة دون تعقيد رياضى كبير، مما يسهل استخدامه فى البحث والاستدلال.
وأكد «خيرى» أن هناك توجهاً واضحاً لتطبيق تقنيات الذكاء الاصطناعى فى المجال الدينى، ويتم العمل على تطوير أنظمة ذكاء اصطناعى قادرة على التعامل مع القواعد الفقهية وفقًا للمنهجية العلمية، مما يسهم فى تقديم خدمة معرفية دقيقة ومتطورة تساعد فى تسهيل الوصول إلى المعلومات الفقهية الموثوقة.
وأضاف «خيرى» أنه لا يمكن الاعتماد على الذكاء الاصطناعى بشكل كامل فى الفتوى حتى الآن، ولكن إذا تم تطوير هذا النظام إلى أنظمة رقمية معتمدة من الجهات الرسمية للفتوى، مثل الأزهر، فإن المسافة بين الفتوى الصادرة عن إنسان والفتوى الصادرة عن نظام ذكاء اصطناعى ستصبح قريبة جدًا، بل إن هذا التطور لا بد أن يحدث.
وقد أكد الحديدى بدوره أن الأزهر لا يمكن أن يعتمد على الذكاء الاصطناعى بشكل كامل لتقديم الفتوى، ولكنه منفتح على استخدام هذه الأدوات لتسهيل وصول الناس إلى الفتاوى مع ضمان دقة الإجابات وتجنب الفوضى أو الاجتهادات غير المدروسة.
فيما اختتم الوردانى أمين الفتوى حديثه بالتأكيد على أن الغاية من التشريعات الخاصة بالذكاء الاصطناعى ليست الحد من تطوره، بل وضع ضمانات تحول دون انحرافه عن المسار الصحيح، بحيث يسهم فى تقدم البشرية دون المساس بقيمها وأخلاقياتها.
مجلس طنجة يصادق على مشاريع تنموية لتأهيل عروسة الشمال