نصائح مُضللة ونتائج مشبوهة.. إخفاقات الذكاء الاصطناعي في 2024
تاريخ النشر: 2nd, January 2025 GMT
كانت الأشهر الـ12 الماضية، حافلة بالأحداث والتطورات بالنسبة لمجال الذكاء الاصطناعي، فقد شهد العام الماضي، إطلاق عدد من المُنتجات والأدوات الناجحة التي حققت طفرات هائلة في جميع المجالات.
وعلى الرغم من ذلك، لم تكن الأمور دائماً سلسة، فمن برامج المحادثة الآلية التي تقدم نصائح غير قانونية إلى نتائج البحث المشبوهة، نستعرض أكبر إخفاقات الذكاء الاصطناعي في 2024، وفقاً لما نشره موقع "MIT Technology Review".
انتشار فيروسي فوضوي
مع ظهور الذكاء الاصطناعي التوليدي (Gen- Ai)، وانتشاره في كل ركن من أركان الإنترنت عبر النصوص والصور ومقاطع الفيديو وأنواع أخرى من المواد المولدة اصطناعياً، والتي لا تستغرق سوى بضع ثوانٍ حتى يتمكن النموذج الذي تختاره من إخراج نتيجة بمجرد إدخال مطالبة، فقد أصبحت هذه النماذج طريقة سريعة وسهلة لإنتاج المحتوى على نطاق واسع.
ورغم الإتاحة وانتشار الوسائط على نطاق واسع، إلا أن جودتها كانت "رديئة"، ما خلق حالة من فوضى الذكاء الاصطناعي.
تحريف توقعاتنا للأحداث الحقيقيةتميز العام الماضي، بتسرب تأثيرات صور الذكاء الاصطناعي السريالية إلى حياتنا الحقيقية، ومنها تجربة ويلي للشوكولاته - وهي حدث غامر غير رسمي مستوحى من رواية "تشارلي ومصنع الشوكولاته" لروالد دال.
غمر الحادث عناوين الأخبار في جميع أنحاء العالم في فبراير (شباط)، بعد أن أعطت مواد التسويق التي أُنشئت بواسطة الذكاء الاصطناعي للزوار الانطباع بأنها ستكون أعظم بكثير من المستودع المزخرف بشكل بسيط الذي أنشأه منتجوها.
وبالمثل، اصطفّ مئات الأشخاص في شوارع دبلن لحضور عرض "هالوين" لم يكن موجوداً، إذ استخدم موقع ويب، مقره باكستان، الذكاء الاصطناعي، لإنشاء قائمة بالأحداث في المدينة، التي تمّت مشاركتها على نطاق واسع عبر وسائل التواصل الاجتماعي قبل 31 أكتوبر (تشرين الأول)، وهو عيد "الهالوين".
كلا الحدثين السابقين يوضحان كيف يمكن للثقة العامة بالمواد التي أُنشئت بواسطة الذكاء الاصطناعي عبر الإنترنت، أن تعود إلى مطاردتنا والتأثير علينا.
صور مُزيفةلمنع المستخدمين من إنشاء محتوى عنيف وصريح وغير قانوني وأنواع أخرى من الوسائط الضارة، وضعت مولدات الصور بالذكاء الاصطناعي، قواعد "حواجز" تملي ما يمكن لنماذج الذكاء الاصطناعي فعله وما لا يمكنها فعله، بجانب دورها في حماية الملكية الفكرية.
إلا أن مساعد "غروك Grok"، الذي صنعته شركة الذكاء الاصطناعي التابعة لإيلون ماسك "xAI"، تتعمد تجاهل كل هذه المبادئ تقريباً بما يتماشى مع رفض ماسك ما يسميه "الذكاء الاصطناعي المتيقظ".
في هذا السياق، انتشرت صور مزيفة جنسية صريحة للفنانة تايلور سويفت على الإنترنت، وعلى وسائل التواصل الاجتماعي، وقد خدع أفراد مسجلون في "تلغرام" برنامج إنشاء الصور "AI Designer" من "مايكروسوفت" لإنشاء صور فاضحة؛ مما يوضح كيف يمكن التحايل على الحواجز الأمنية حتى عندما تكون موجودة.
فرض هذا الأمر تحدي كبير، وهو عجزنا على محاربة المواد الإباحية المزيفة، في حين أن أدوات وضع العلامات المائية وتسميم البيانات يمكن أن تساعد، إلا أنها ستحتاج إلى تبنيها على نطاق أوسع بكثير لإحداث فرق.
برامج الدردشةباتت شركات التكنولوجيا تتسابق لتبني أدوات توليدية لتوفير الوقت والمال، وتعظيم الكفاءة في الوقت الحالي، والمشكلة هي أن برامج الدردشة الآلية تخترع أشياء، ولا يمكن الاعتماد عليها لتزويدنا دائماً بمعلومات دقيقة.
كمثال على ذلك، فقد اكتشفت الخطوط الجوية الكندية أن نصائح برنامج الدردشة الآلية الخاص بها، قد خدع أحد العملاء باتباع سياسة استرداد الأموال في حالات الحزن التي لم تكن موجودة.
وفي فبراير (شباط) الماضي، أيّدت محكمة المطالبات الصغيرة الكندية الشكوى القانونية للعميل، رغم تأكيد شركة الطيران أن برنامج الدردشة الآلية كياناً قانونياً منفصلاً مسؤولاً عن أفعاله الخاصة.
أدوات فاشلةرغم الأدوات الهائلة التي ظهرت في ظل هذا التطور التكنولوجي إلا هناك برامج أثبتت فشلها وانتكاستها، ومنها أداة شركة "Humane" التي سعت للترويج إلى "Ai Pin"، وهو كمبيوتر يمكن ارتداؤه، ولكنه فشل في تعزيز المبيعات الضعيفة حتى بعد خفض سعره.
كما لاقى "Rabbit R1" - وهو جهاز مساعد شخصي قائم على "جي بي تي" مصيراً مماثلاً، بعد سلسلة من المراجعات النقدية والتقارير التي تفيد بأنه بطيء ومليء بالأخطاء.
بحث خاطئونظراً لأن أنظمة الذكاء الاصطناعي لا يمكنها معرفة الفرق بين قصة إخبارية صحيحة فعلياً ومنشور لنكتة على "Reddit"، فقد تسابق المستخدمون للعثور على أغرب الاستجابات التي يمكن أن تولّدها ميزة AI Overviews من "غوغل" القائمة على الذكاء الاصطناعي.
كما أدت ميزة جديدة في "آيفون"، تقوم على تجميع إشعارات التطبيقات معاً وتُنشئ ملخصات لمحتوياتها، إلى ظهور عنوان إخباري زائف على قناة "بي بي سي نيوز"، حيث ذكر الملخص كذباً أن لويجي مانجيوني، الذي اتُّهم بقتل الرئيس التنفيذي لشركة التأمين الصحي برايان تومسون، قد أطلق النار على نفسه.
الخطر هنا أن هذه الملخصات يمكنها نشر معلومات مضللة وتقويض الثقة في المؤسسات الإخبارية.
المصدر: موقع 24
كلمات دلالية: سقوط الأسد حصاد 2024 الحرب في سوريا عودة ترامب خليجي 26 إيران وإسرائيل إسرائيل وحزب الله غزة وإسرائيل الإمارات الحرب الأوكرانية الذكاء الاصطناعي الذكاء الاصطناعي التوليدي غوغل غوغل الذكاء الاصطناعي تكنولوجيا الذکاء الاصطناعی الدردشة الآلیة على نطاق
إقرأ أيضاً:
تطورات ديبسيك.. هل أعد الذكاء الاصطناعي لأغراض خبيثة؟
يشير تقرير بارز أعده خبراء الذكاء الاصطناعي إلى أن احتمال استخدام أنظمة الذكاء الاصطناعي لأغراض خبيثة في تزايد مستمر. وحذّر المؤلف الرئيسي للدراسة، يوشوا بنجيو، من أن تطورات شركة "ديبسيك" وغيرها من الشركات الناشئة قد تؤدي إلى زيادة المخاطر المتعلقة بأمان الذكاء الاصطناعي.
اقرأ ايضاً
ويُعتبر بنجيو أحد "عرّابي" الذكاء الاصطناعي الحديث، وقد أعرب عن قلقه من التقدم الذي تحرزه شركة "ديبسيك" الصينية، مشيراً إلى أن هذا التطور قد يكون مصدر قلق في مجال كان يهيمن عليه الغرب، خاصة الولايات المتحدة. وقال بنجيو: "سيؤدي ذلك إلى سباق أكثر تقارباً، وهو أمر قد يؤثر سلباً على إجراءات أمان الذكاء الاصطناعي".
سباق محفوف بالمخاطر
وأوضح بنجيو أن الشركات الأميركية ومنافسي "ديبسيك" قد يركزون على استعادة ريادتهم بدلاً من التركيز على تدابير الأمان. فقد تعهدت "أوبن إيه آي"، مطوّرة "شات جي بي تي"، بتسريع إطلاق المنتجات نتيجة لهذا التنافس المتزايد.
وأضاف: "إذا تخيلنا منافسة بين كيانين، وكان أحدهما متقدمًا بفارق كبير، فإنه يستطيع أن يتحلى بالحذر ويبقى في المقدمة. ولكن إذا كانت المنافسة متقاربة، فقد يكون هناك دافع للإسراع، مما قد يقلل من التركيز على الأمان".
تقرير دولي شامل
تم إعداد تقرير دولي شامل حول سلامة الذكاء الاصطناعي من قبل مجموعة تضم 96 خبيراً، بمن فيهم الحائز على جائزة نوبل جيفري هينتون. وكان بنجيو، الحاصل على جائزة تورينغ في 2018، قد تم تكليفه من قبل الحكومة البريطانية للإشراف على التقرير، الذي تم الإعلان عنه خلال القمة العالمية حول سلامة الذكاء الاصطناعي في عام 2023. وقد تم ترشيح أعضاء اللجنة من قبل 30 دولة، بالإضافة إلى الاتحاد الأوروبي والأمم المتحدة، ومن المقرر أن تُعقد القمة العالمية المقبلة حول الذكاء الاصطناعي في باريس يومي 10 و11 شباط (فبراير).
مخاطر الاستخدام الخبيث
يشير التقرير إلى أن أنظمة الذكاء الاصطناعي العامة، مثل برامج الدردشة الذكية، أصبحت أكثر قدرة على أداء مهام قد تُستخدم لأغراض خبيثة، مثل تحديد الثغرات في البرمجيات والأنظمة الإلكترونية، وتقديم إرشادات حول إنتاج الأسلحة البيولوجية والكيميائية.
ووفقاً للتقرير، فإن النماذج الحديثة من الذكاء الاصطناعي يمكنها تقديم إرشادات تقنية مفصلة لإنشاء مسببات الأمراض والسموم، وهو ما يتجاوز قدرات العديد من الخبراء المتخصصين. كما أشارت "أوبن إيه آي" إلى أن نموذجها المتقدم "o1" قد يساعد المختصين في التخطيط لإنتاج التهديدات البيولوجية، ولكن ليس من الواضح ما إذا كان بإمكان غير المتخصصين تنفيذ هذه الإرشادات بفعالية.
تزايد التهديدات
في حديثه إلى صحيفة "الغارديان"، أوضح بنجيو أن هناك نماذج ذكاء اصطناعي قادرة، باستخدام كاميرا الهاتف الذكي، على إرشاد الأفراد لتنفيذ مهام خطيرة مثل تصنيع الأسلحة البيولوجية.
وقال: "أصبحت هذه الأدوات أسهل استخدامًا لغير المتخصصين، لأنها تستطيع تقسيم المهام المعقدة إلى خطوات صغيرة يمكن لأي شخص فهمها، ثم تقدم مساعدة تفاعلية في تنفيذها بشكل صحيح، وهو ما يختلف عن البحث في محركات البحث التقليدية".
الجرائم الرقمية
يسلط التقرير الضوء على التحسن الكبير في قدرة الذكاء الاصطناعي على اكتشاف الثغرات الأمنية في البرمجيات تلقائيًا، مما قد يساعد القراصنة في تخطيط هجمات سيبرانية. ومع ذلك، يشير التقرير إلى أن تنفيذ هجمات فعلية دون تدخل بشري لا يزال يتطلب "مستوى استثنائياً من الدقة".
كما يشير التقرير إلى زيادة في استخدام تقنية "التزييف العميق" (Deepfake)، حيث يتم استخدام الذكاء الاصطناعي لإنشاء صور أو أصوات مزيفة لأشخاص حقيقيين. وقد استُخدمت هذه التقنية في عمليات الاحتيال، والابتزاز، وإنتاج محتوى مضلل. ومع ذلك، فإن تقدير الحجم الدقيق لهذه الجرائم لا يزال صعبًا بسبب نقص البيانات والإحصائيات الشاملة.
مخاطر النماذج
يشير التقرير إلى مخاطر استخدام نماذج الذكاء الاصطناعي مغلقة المصدر، حيث قد تكون عرضة للاختراق والتحايل على ضوابط الأمان. كما أن النماذج مفتوحة المصدر، مثل نموذج "Llama" الذي طورته شركة "ميتا"، قد تُستخدم لأغراض خبيثة نظرًا لإمكانية تعديلها من قبل المستخدمين ذوي الخبرة.
إضافة مفاجئة
في إضافة أخيرة للتقرير، أشار بنجيو إلى ظهور نموذج متقدم جديد يُعرف باسم "o3" من شركة "أوبن إيه آي" في ديسمبر، بعد الانتهاء من إعداد التقرير. وحقق هذا النموذج تقدمًا كبيرًا في اختبار التفكير المجرد، وهو إنجاز لم يكن متوقعًا حتى وقت قريب.
وقال بنجيو: "الاتجاهات التي أظهرها "o3" قد تكون لها تداعيات عميقة على مخاطر الذكاء الاصطناعي"، كما أشار أيضًا إلى نموذج "ديبسيك R1"، محذراً من أن تقييمات التقرير يجب أن تؤخذ في الاعتبار مع التقدم المستمر في هذا المجال.
التأثير على سوق العمل
أوضح بنجيو أن تطور الذكاء الاصطناعي في مجال التفكير المجرد قد يكون له تأثير كبير على سوق العمل من خلال إنشاء وكلاء آليين قادرين على تنفيذ المهام البشرية. لكنه حذر أيضًا من إمكانية استغلال هذه الأنظمة من قبل جماعات إرهابية.
وأضاف: "إذا كنت إرهابياً، فستفضل امتلاك ذكاء اصطناعي يتمتع بقدر عالٍ من الاستقلالية. فكلما زادت قدرة الذكاء الاصطناعي على العمل المستقل، زادت الفوائد والمخاطر على حد سواء".
مستقبل غير مؤكد
اقرأ ايضاًيؤكد التقرير، الذي يحمل عنوان "التقرير العلمي الدولي حول سلامة الذكاء الاصطناعي المتقدم"، أن الذكاء الاصطناعي يؤثر بشكل متزايد على البيئة من خلال استهلاك مراكز البيانات للطاقة، بالإضافة إلى تأثيره المحتمل على سوق العمل.
ويخلص التقرير إلى أن مستقبل الذكاء الاصطناعي لا يزال غير مؤكد، حيث تتراوح التوقعات بين نتائج إيجابية جدًا وسلبية جدًا. لكنه يؤكد أن المجتمعات والحكومات لديها دور رئيسي في تحديد مسار هذه التكنولوجيا.
ويختتم التقرير بالقول: "هذا الغموض قد يثير مشاعر العجز، ولكن في النهاية، ستكون قرارات المجتمعات والحكومات هي التي تحدد الاتجاه الذي سنتبعه".
Via SyndiGate.info
Copyright � 2022 An-Nahar Newspaper All rights reserved.
يتابع طاقم تحرير البوابة أحدث الأخبار العالمية والإقليمية على مدار الساعة بتغطية موضوعية وشاملة
الأحدثترنداشترك في النشرة الإخبارية لدينا للحصول على تحديثات حصرية والمحتوى المحسن
اشترك الآن
وزير البريد: خطوات جديدة نحو التحول الرقمي في الجزائر