خبير روسي يوضح مدى خطورة الشبكات العصبية على سمعة الإنسان
تاريخ النشر: 14th, August 2024 GMT
روسيا – أوضح خبير تكنولوجيا المعلومات الروسي روديون قديروف إن الشبكات العصبية يمكن أن تنتج بيانات خاطئة.
أدرجت الشبكة العصبية ChatGPT الأسبوع الماضي أستاذ القانون جوناثان تورلي على قائمة المحامين المزعوم تورطهم في قصة غير قانونية، لكن هذه الاتهامات باطلة، والمعلومات مأخوذة من مقال غير موجود في صحيفة “واشنطن بوست”.
وأشار المتخصص إلى أن مشكلة المحامي “ليست مجرد حادثة معزولة”، بل هي “مثال على قدرة النماذج اللغوية الحديثة، مثل ChatGPT من OpenAI، توليد معلومات كاذبة تعرض سمعة الناس وحتى حياتهم للخطر”. ولاحظ قديروف أن الأمر المثير للقلق بشكل خاص هو أن “الهلوسة” المتعلقة بالشبكات العصبية أصبحت طبيعية وتنشأ بسبب خصوصيات عملها.
وأوضح الخبير أن مثل هذه الإخفاقات تحدث عندما تبدأ نماذج الذكاء الاصطناعي في محاولة للإجابة على أي طلب، بـ”اصطناع” المعلومات. ويحدث هذا عندما يتطلب الأمر حجما معينا من المعلومات، بينما لا تحتوي الشبكة العصبية على بيانات كافية لإكماله.
وأوضح المتخصص: “على سبيل المثال، إذا طلبت من شبكة عصبية ذكر 10 أسماء مرتبطة بحدث ما، فيمكنها أن تأتي بسبعة خبراء، حتى لو كانت على علم في الواقع بثلاثة أسماء فقط”.
ولا تقتصر المشكلة المتعلقة بهذا النوع من المعلومات الخاطئة على النص فقط. وفي مارس الماضي، نشرت تصور يُزعم أنها تُظهر اعتقال الرئيس الأمريكي السابق دونالد ترامب. وتم إنشاء هذه الصور المزيفة باستخدام الذكاء الاصطناعي، وبعد ذلك انتشرت على شبكات التواصل الاجتماعي.
لقد سلط الخبير الضوء أيضا على عدم وجود ضوابط فعالة من جانب منصات التواصل الاجتماعي، فضلا عن الحاجة إلى معايير ولوائح أكثر صرامة لاستخدام الذكاء الاصطناعي في مثل هذه المجالات الحساسة”. ودعا الناس إلى الاهتمام بجودة المحتوى والانتباه إلى التفاصيل لأن جودة النسخة المزيفة غالبا ما تكون أقل من جودة المحتوى الأصلي.
المصدر: كومسومولسكايا برافدا
المصدر: صحيفة المرصد الليبية
إقرأ أيضاً:
أبوظبي.. أول برنامج بكالوريوس في مجال الذكاء الاصطناعي
أعلنت جامعة محمد بن زايد للذكاء الاصطناعي إطلاق أول برنامج بكالوريوس في مجال الذكاء الاصطناعي، مُحدثةً تحولاً جذرياً في التعليم الجامعي لهذا المجال.
إذ يتميّز البرنامج بنهجه الشامل الذي يجمع ما بين المعرفة التقنية المعمّقة، ومهارات القيادة، وريادة الأعمال، وخبرة قطاع الصناعة، والتطبيقات العملية، ما يجعله متميّزاً عن المناهج التقليدية.
يعد «برنامج بكالوريوس العلوم في الذكاء الاصطناعي» نموذجاً مبتكراً متعدد التخصصات يزوّد الطلاب بأسس متينة في مجالات الذكاء الاصطناعي المختلفة، بما في ذلك تعلّم الآلة، ومعالجة اللغة الطبيعية، والرؤية الحاسوبية، وعلم الروبوتات.
ويشمل البرنامج تدريباً مكثفاً في الأعمال، والشؤون المالية، والتصميم الصناعي، وتحليل السوق، والإدارة، ومهارات التواصل.
ويعتمد البرنامج في مضمونه العلمي على نهج عملي يعزز التفكير الريادي، ما يمكّن الطلاب من قيادة التحولات العالمية في مجال الذكاء الاصطناعي ويهدف إلى إعداد مفكرين يتمتعون برؤى مميّزة ومهارات متعددة لحل التحديات والمساهمة في تطوّر هذا المجال على المستوى العالمي.
وأكد معالي خلدون خليفة المبارك، رئيس مجلس أمناء جامعة محمد بن زايد للذكاء الاصطناعي، أهمية هذا البرنامج الذي سيسهم في إحداث تحول جذري تحقيقًا لرؤية القيادة الحكيمة لضمان مواصلة الإمارات ترسيخ مكانتها الرائدة في مجال الأبحاث الخاصة بالذكاء الاصطناعي وتطبيقه واستثمار إمكاناته لدفع عجلة الابتكار، وتعزيز النمو الاقتصادي، وتحقيق التقدّم المجتمعي.
ونوه إلى أن البرنامج سيسهم أيضا في تزويد الجيل القادم بالمهارات التقنية المتقدّمة والفهم الشامل لدور الذكاء الاصطناعي، مما يعزز قدرة الدولة على بناء قوة عمل مؤهلة ومتخصصة تقود التحولات المستقبلية في الذكاء الاصطناعي بما يحقق مصلحة الدولة والمنطقة والعالم أجمع. وإلى جانب تزويد الطلاب بالمهارات التقنية الأساسية في مجال الذكاء الاصطناعي، تكرّس جامعة محمد بن زايد للذكاء الاصطناعي جهودها لإعداد الجيل القادم من المبتكرين، والمطورين، والمديرين، والقادة في هذا المجال.
وانطلاقاً من هذه الرؤية، يعزز هذا البرنامج الشامل مهارات الطلاب القيادية، ويُكسبهم أساسيات الشؤون المالية والقانونية والإدارية، بالإضافة إلى مهارات التواصل والتفكير النقدي، ما يؤهلهم لدفع عجلة تطوير الذكاء الاصطناعي واعتماد تطبيقاته في المستقبل.
ويعتمد البرنامج على نموذج التعليم التعاوني الذي يتمحور حول التعاون بين المعلمين والطلاب ويدمج الذكاء الاصطناعي في جميع جوانب التجربة الأكاديمية، ليؤدي دوراً محورياً في عملية التعلّم.
وتشمل مساقات البرنامج محاور متقدمة، مثل التعلّم العميق، والذكاء الاصطناعي التوليدي، والذكاء الاصطناعي في مجال العلوم، بالإضافة إلى التدريب في مجالات الأعمال وريادة الأعمال.
من جهته، أكد البروفيسور «إريك زينغ»، رئيس جامعة محمد بن زايد للذكاء الاصطناعي والبروفيسور الجامعي أن البرنامج يأتي ضمن الرؤية المستقبلية للجامعة.
وأشار إلى أن البرنامج يجمع تعليم الذكاء الاصطناعي مع ريادة الأعمال، واستكشاف المشكلات، واكتساب المهارات الأساسية لتطوير المنتجات وأكد الحرص على إعادة تعريف مفهوم التعليم في مجال الذكاء الاصطناعي، إذ لا يقتصر البرنامج على إعداد مهندسين فحسب، وإنما يعد أيضاً رواد أعمال، ومصممين، ومؤثرين، ومديرين، ومبتكرين قادرين على قيادة الابتكار في مجال الذكاء الاصطناعي عبر مختلف القطاعات، وفي جميع المراحل.
ويجمع البرنامج ما بين التدريب متعدد التخصصات والتعلّم العملي ويطّلع الطلاب من خلاله على مجالات متنوّعة، تشمل العلوم الإنسانية، والأعمال، والفنون الحرة، ليمنحهم منظوراً أوسع يتجاوز نطاق علوم الحاسوب والتخصصات العلمية التقليدية وليكتسبوا خبرة عملية من خلال فترات تدريب تعاونية في القطاع الصناعي، إلى جانب برامج تدريبية وإرشادية، وشراكات مع كبرى الجهات الفاعلة في مجالات الصناعة والبحث في الذكاء الاصطناعي.
يشمل البرنامج مسارين أكاديميين متميّزين هما مسار الأعمال، الذي يركز على التكامل التجاري وريادة الأعمال، ومسار الهندسة، الذي يركز على تطوير نماذج الذكاء الاصطناعي ونشرها، وتعزيز استخدامها في مختلف القطاعات.
ويتوافر للطلبة الملتحقين بالبرنامج بيئة متكاملة تضم موارد حاسوبية متقدمة في مجال الذكاء الاصطناعي، وفصولاً دراسية ذكية، ومساحات مخصصة للحاضنات إلى جانب تلقي علومهم على أيدي هيئة تدريسية عالمية تتمتع بخبرة واسعة في الأوساط الأكاديمية والصناعية.
يُذكر أن التقدّم للالتحاق بهذا البرنامج الرائد متاح أمام الطلاب المحليين والدوليين، ويهدف لاستقطاب ألمع المواهب وأكثرها طموحاً، ما يعزز مكانة جامعة محمد بن زايد للذكاء الاصطناعي جهة رائدة في التعليم الجامعي بمجال الذكاء الاصطناعي.
فريدة سيف النصر: الست لو عدت الـ 60 سنة من حقها تقلع الحجاب شرعًا