«حضرنا العفريت ومش عارفين نصرفه».. خبير يحذر من الذكاء الاصطناعي | فيديو
تاريخ النشر: 18th, February 2024 GMT
قال الدكتور عمرو صبحي، خبير أمن المعلومات والتحول الرقمي، إنه يوجد تطور تكنولوجي خطير يشهده العالم، في ظل التطبيقات والتطورات الرهيبة التي يشهدها المجال.
وأوضح عمرو صبحي، خلال مداخلة هاتفية مع فضائية «أزهري»، أن هناك تطورا سريعا جدا جدا في مشاريع الذكاء الاصطناعي سيكون لها عواقب كبيرة سلبية على العنصر البشري.
وأضاف «صبحي»، أن فريق بحثي من جامعة كاليفورنيا نجح في تصميم نظام «spin» وهو نموذج ذكاء اصطناعي جديد يشبه نموذج «ChatGPT» و«جوجل بيرد»، ولكنه أخطر بكثير من حيث الاستخدامات الشخصية، حيث أن هذا التطبيق يتميز بأنه يعلم نفسه تعلم ذاتي، وهو أحد نماذج النصوص التوليدية الخطيرة والقوية.
وتابع، أن الاختلاف بين هذا النموذج وغيره هو اختلاف شبه كلي، فهذا النموذج خرج منذ أيام ولكن العمل عليه استمر ما يقرب من 3 سنوات داخل جامعة كاليفورنيا، وهذا التطبيق يمكن البدء في التطوير والتعليم الذاتي العميق بدون تدخل عنصر بشري، وعمل بحوث وتطوير للأدوية وينتج تركيبات يمكن استخدامها في صناعة الأدوية.
خبير أمن المعلومات والتحول الرقمي، أن هذا النظام لم يتم استخدامه حتى الآن في مصر أو المنطقة العربية لأنه خرج للنور منذ أيام، مشيرًا إلى أن مشكلته وخطورته تكمن في أنه كود مفتوح المصدر تستطيع قطاعات الأدوية أو البترول أو التكنولوجيا أن تقوم بعمل ترابط مع تطبيقاته وتجعله هو الذي يأخذ القرارات ليصبح خطير جدا على العنصر البشري في هذه الحالة.
واختتم الدكتور عمرو صبحي حديثه بالقول: «لا أحد يستطيع أن يتنبأ بشي في ظل تطور الذكاء الاصطناعي.. حضرنا العفريت ومش عارفين نصرفه».
اقرأ أيضاًجامعة بورسعيد تنظم ورشة عمل الذكاء الاصطناعي للأكاديميين بالتعاون مع جامعة ليفربول
جامعة أسيوط تنفذ برامج تدريبية في مجالات تكنولوجيا المعلومات والذكاء الاصطناعي
جامعة بورسعيد تنظم ورشة عمل الذكاء الاصطناعي للأكاديميين بالتعاون مع جامعة ليفربول
المصدر: الأسبوع
كلمات دلالية: الذكاء الاصطناعي الذكاء الإصطناعي تطبيقات الذكاء الاصطناعي الذكاء الاصطناعي وتطبيقاته ذكاء اصطناعي الذكاء الصناعي التصميم بالذكاء الاصطناعي الذكاء الاصطناعي مجانا تخصصات الذكاء الاصطناعي مخاطر الذكاء الاصطناعي أهمية الذكاء الاصطناعي الذكاء الاصطناعي للصور أدوات الذكاء الاصطناعي الذكاء الاصطناعي يرسم صدمة الذكاء الاصطناعي فن الذكاء الاصطناعي البشر والذكاء الاصطناعي الذکاء الاصطناعی
إقرأ أيضاً:
من الوكلاء إلى الهلوسات.. هكذا تطور الذكاء الاصطناعي في 2024
شهد عام 2024 تطورات بارزة في مجال الذكاء الاصطناعي، خاصة في نماذج اللغة التي أصبحت أكثر دقة وكفاءة؛ فمن النماذج الصغيرة ذات القدرات المذهلة إلى معالجة الهلوسات وصولاً إلى ظهور وكلاء الذكاء الاصطناعي، يبرز هذا العام بوصفه نقطة تحول كبيرة في هذا المجال.
النماذج الصغيرةعلى الرغم من أن نماذج اللغة الكبيرة (LLMs) مثل ChatGPT تعتمد على مئات المليارات من المقاييس لتقديم أداء شبيه بالبشر، فإن عام 2024 شهد طفرة في النماذج الصغيرة، التي تتمتع بكفاءة أكبر وموارد أقل.
هذه النماذج، مثل Phi-3 وPhi-4 من مايكروسوفت وLlama-3.2 من ميتا، تُعد أدوات مرنة يمكن تكييفها بسهولة لأداء مهام محددة، مثل التلخيص أو التحقق من الحقائق.
بالإضافة إلى ذلك، فإنها تستهلك طاقة أقل وتعمل على أنظمة حاسوبية أقل تكلفة، مما يجعلها خياراً مثالياً للمؤسسات ذات الموارد المحدودة.
ما يميز هذا العام أيضاً هو التفاعل المتسارع بين النماذج الكبيرة والصغيرة، حيث تسهم الأولى في تقديم ابتكارات تُستخدم لتحسين الثانية، مما يُنتج أنظمة هجينة أكثر قوة.
على صعيد متصل، أشار تقرير في موقع Fast Company إلى أن إتاحة هذه النماذج على نطاق واسع فتح المجال لتطبيقات متنوعة، لكنها جاءت بمخاطر جديدة، لا سيما خلال عام شهد انتخابات حاسمة في العديد من الدول.
واستخدمت بعض الأطراف نماذج الذكاء الاصطناعي في حملات تضليل واسعة، مثل مكالمات روبوتية مزيفة تقلد صوت الرئيس الأمريكي جو بايدن لحث الناخبين على عدم التصويت، كما تم إنتاج فيديوهات وميمات خادعة باستخدام الذكاء الاصطناعي.
ورغم جهود شركات مثل OpenAI لإيقاف هذه العمليات، فإن التأثير الحقيقي لهذا النوع من التضليل على الرأي العام لا يزال غير واضح، ما دفع العديد من الولايات الأمريكية إلى إصدار قوانين جديدة لتنظيم استخدام الذكاء الاصطناعي في الحملات الانتخابية، مما يعكس القلق العالمي من تداعيات هذه التكنولوجيا.
التحدي الأكبر: الهلوساترغم تقدم نماذج اللغة، لا تزال "الهلوسات" تمثل تحدياً كبيراً، حيث تقدم النماذج أحياناً مخرجات خاطئة بثقة زائفة، مثل وصفات تنظيف خطيرة أو نصائح قانونية غير دقيقة.
ولحل هذه المشكلة، طورت الشركات تقنيات مثل "إطارات الحماية"، التي تراقب المدخلات والمخرجات في الوقت الفعلي لضمان الدقة.
ومع ذلك، أكدت الأبحاث أن هذه الهلوسات قد تكون جزءاً لا مفر منه في نماذج الذكاء الاصطناعي، بسبب محدودية مواردها الحاسوبية والمعلوماتية، تماماً كما يخطئ البشر.
شهد عام 2024 بروز "وكلاء الذكاء الاصطناعي"، وهي نماذج تتمتع بقدرات تنفيذية مستقلة، حيث تتجاوز وظائف روبوتات المحادثة التقليدية لتتمكن من استخدام أدوات خارجية وأداء مهام معقدة، حيث يمكن لوكيل ذكاء اصطناعي تخطيط جدول سفر كامل، بدءاً من حجز الرحلات إلى ترتيب الإقامة وتنظيم الفعاليات.
ورغم أن هذه التكنولوجيا لا تزال في مراحلها الأولى، فإن التوقعات تشير إلى أن 82% من المؤسسات ستتبنى وكلاء الذكاء الاصطناعي خلال السنوات الثلاث المقبلة، مع توقعات باستخدام أوسع في 2025.
وعليه، فقد كشف عام 2024 عن الإمكانيات الهائلة للذكاء الاصطناعي، لكنه أظهر أيضاً الحاجة إلى توازن دقيق بين الابتكار والمسؤولية. ومع اقتراب دخولنا عام 2025، يبقى التحدي الأكبر هو توجيه هذه التقنية نحو تحسين حياة البشر مع الحد من مخاطر إساءة استخدامها.
فيديو يوثق لحظة هروب مدير منظمة الصحة العالمية من مطار صنعاء أثناء القصف الإسرائيلي