تطورات ديبسيك.. هل أعد الذكاء الاصطناعي لأغراض خبيثة؟
تاريخ النشر: 2nd, February 2025 GMT
يشير تقرير بارز أعده خبراء الذكاء الاصطناعي إلى أن احتمال استخدام أنظمة الذكاء الاصطناعي لأغراض خبيثة في تزايد مستمر. وحذّر المؤلف الرئيسي للدراسة، يوشوا بنجيو، من أن تطورات شركة "ديبسيك" وغيرها من الشركات الناشئة قد تؤدي إلى زيادة المخاطر المتعلقة بأمان الذكاء الاصطناعي.
اقرأ ايضاً
ويُعتبر بنجيو أحد "عرّابي" الذكاء الاصطناعي الحديث، وقد أعرب عن قلقه من التقدم الذي تحرزه شركة "ديبسيك" الصينية، مشيراً إلى أن هذا التطور قد يكون مصدر قلق في مجال كان يهيمن عليه الغرب، خاصة الولايات المتحدة.
سباق محفوف بالمخاطر
وأوضح بنجيو أن الشركات الأميركية ومنافسي "ديبسيك" قد يركزون على استعادة ريادتهم بدلاً من التركيز على تدابير الأمان. فقد تعهدت "أوبن إيه آي"، مطوّرة "شات جي بي تي"، بتسريع إطلاق المنتجات نتيجة لهذا التنافس المتزايد.
وأضاف: "إذا تخيلنا منافسة بين كيانين، وكان أحدهما متقدمًا بفارق كبير، فإنه يستطيع أن يتحلى بالحذر ويبقى في المقدمة. ولكن إذا كانت المنافسة متقاربة، فقد يكون هناك دافع للإسراع، مما قد يقلل من التركيز على الأمان".
تقرير دولي شامل
تم إعداد تقرير دولي شامل حول سلامة الذكاء الاصطناعي من قبل مجموعة تضم 96 خبيراً، بمن فيهم الحائز على جائزة نوبل جيفري هينتون. وكان بنجيو، الحاصل على جائزة تورينغ في 2018، قد تم تكليفه من قبل الحكومة البريطانية للإشراف على التقرير، الذي تم الإعلان عنه خلال القمة العالمية حول سلامة الذكاء الاصطناعي في عام 2023. وقد تم ترشيح أعضاء اللجنة من قبل 30 دولة، بالإضافة إلى الاتحاد الأوروبي والأمم المتحدة، ومن المقرر أن تُعقد القمة العالمية المقبلة حول الذكاء الاصطناعي في باريس يومي 10 و11 شباط (فبراير).
مخاطر الاستخدام الخبيث
يشير التقرير إلى أن أنظمة الذكاء الاصطناعي العامة، مثل برامج الدردشة الذكية، أصبحت أكثر قدرة على أداء مهام قد تُستخدم لأغراض خبيثة، مثل تحديد الثغرات في البرمجيات والأنظمة الإلكترونية، وتقديم إرشادات حول إنتاج الأسلحة البيولوجية والكيميائية.
ووفقاً للتقرير، فإن النماذج الحديثة من الذكاء الاصطناعي يمكنها تقديم إرشادات تقنية مفصلة لإنشاء مسببات الأمراض والسموم، وهو ما يتجاوز قدرات العديد من الخبراء المتخصصين. كما أشارت "أوبن إيه آي" إلى أن نموذجها المتقدم "o1" قد يساعد المختصين في التخطيط لإنتاج التهديدات البيولوجية، ولكن ليس من الواضح ما إذا كان بإمكان غير المتخصصين تنفيذ هذه الإرشادات بفعالية.
تزايد التهديدات
في حديثه إلى صحيفة "الغارديان"، أوضح بنجيو أن هناك نماذج ذكاء اصطناعي قادرة، باستخدام كاميرا الهاتف الذكي، على إرشاد الأفراد لتنفيذ مهام خطيرة مثل تصنيع الأسلحة البيولوجية.
وقال: "أصبحت هذه الأدوات أسهل استخدامًا لغير المتخصصين، لأنها تستطيع تقسيم المهام المعقدة إلى خطوات صغيرة يمكن لأي شخص فهمها، ثم تقدم مساعدة تفاعلية في تنفيذها بشكل صحيح، وهو ما يختلف عن البحث في محركات البحث التقليدية".
الجرائم الرقمية
يسلط التقرير الضوء على التحسن الكبير في قدرة الذكاء الاصطناعي على اكتشاف الثغرات الأمنية في البرمجيات تلقائيًا، مما قد يساعد القراصنة في تخطيط هجمات سيبرانية. ومع ذلك، يشير التقرير إلى أن تنفيذ هجمات فعلية دون تدخل بشري لا يزال يتطلب "مستوى استثنائياً من الدقة".
كما يشير التقرير إلى زيادة في استخدام تقنية "التزييف العميق" (Deepfake)، حيث يتم استخدام الذكاء الاصطناعي لإنشاء صور أو أصوات مزيفة لأشخاص حقيقيين. وقد استُخدمت هذه التقنية في عمليات الاحتيال، والابتزاز، وإنتاج محتوى مضلل. ومع ذلك، فإن تقدير الحجم الدقيق لهذه الجرائم لا يزال صعبًا بسبب نقص البيانات والإحصائيات الشاملة.
مخاطر النماذج
يشير التقرير إلى مخاطر استخدام نماذج الذكاء الاصطناعي مغلقة المصدر، حيث قد تكون عرضة للاختراق والتحايل على ضوابط الأمان. كما أن النماذج مفتوحة المصدر، مثل نموذج "Llama" الذي طورته شركة "ميتا"، قد تُستخدم لأغراض خبيثة نظرًا لإمكانية تعديلها من قبل المستخدمين ذوي الخبرة.
إضافة مفاجئة
في إضافة أخيرة للتقرير، أشار بنجيو إلى ظهور نموذج متقدم جديد يُعرف باسم "o3" من شركة "أوبن إيه آي" في ديسمبر، بعد الانتهاء من إعداد التقرير. وحقق هذا النموذج تقدمًا كبيرًا في اختبار التفكير المجرد، وهو إنجاز لم يكن متوقعًا حتى وقت قريب.
وقال بنجيو: "الاتجاهات التي أظهرها "o3" قد تكون لها تداعيات عميقة على مخاطر الذكاء الاصطناعي"، كما أشار أيضًا إلى نموذج "ديبسيك R1"، محذراً من أن تقييمات التقرير يجب أن تؤخذ في الاعتبار مع التقدم المستمر في هذا المجال.
التأثير على سوق العمل
أوضح بنجيو أن تطور الذكاء الاصطناعي في مجال التفكير المجرد قد يكون له تأثير كبير على سوق العمل من خلال إنشاء وكلاء آليين قادرين على تنفيذ المهام البشرية. لكنه حذر أيضًا من إمكانية استغلال هذه الأنظمة من قبل جماعات إرهابية.
وأضاف: "إذا كنت إرهابياً، فستفضل امتلاك ذكاء اصطناعي يتمتع بقدر عالٍ من الاستقلالية. فكلما زادت قدرة الذكاء الاصطناعي على العمل المستقل، زادت الفوائد والمخاطر على حد سواء".
مستقبل غير مؤكد
اقرأ ايضاًيؤكد التقرير، الذي يحمل عنوان "التقرير العلمي الدولي حول سلامة الذكاء الاصطناعي المتقدم"، أن الذكاء الاصطناعي يؤثر بشكل متزايد على البيئة من خلال استهلاك مراكز البيانات للطاقة، بالإضافة إلى تأثيره المحتمل على سوق العمل.
ويخلص التقرير إلى أن مستقبل الذكاء الاصطناعي لا يزال غير مؤكد، حيث تتراوح التوقعات بين نتائج إيجابية جدًا وسلبية جدًا. لكنه يؤكد أن المجتمعات والحكومات لديها دور رئيسي في تحديد مسار هذه التكنولوجيا.
ويختتم التقرير بالقول: "هذا الغموض قد يثير مشاعر العجز، ولكن في النهاية، ستكون قرارات المجتمعات والحكومات هي التي تحدد الاتجاه الذي سنتبعه".
Via SyndiGate.info
Copyright � 2022 An-Nahar Newspaper All rights reserved.
يتابع طاقم تحرير البوابة أحدث الأخبار العالمية والإقليمية على مدار الساعة بتغطية موضوعية وشاملة
الأحدثترنداشترك في النشرة الإخبارية لدينا للحصول على تحديثات حصرية والمحتوى المحسن
اشترك الآن
المصدر: البوابة
كلمات دلالية: الذکاء الاصطناعی التقریر إلى إلى أن من قبل
إقرأ أيضاً:
الجزائر في طليعة تبني الذكاء الاصطناعي في إفريقيا
تحدث وزير البريد والمواصلات السلكية واللاسلكية، سيد علي زروقي، خلال القمة الوزارية التي عقدت أمس ببرشلونة، على الاستثمارات الاستراتيجية والمبادرات الرئيسية التي اتخذتها الحكومة الجزائرية لتعزيز تبني الذكاء الاصطناعي والتمهيد له.
وأكدت الجزائر، خلال القمة الوزارية التي عقدت بالموازاة مع المؤتمر العالمي للهاتف النقال، بمشاركة 14 وزيراً حضوريا و 12 وزيرا عن بعد، ممثلين عن 26 دولة، مرة أخرى، دورها الريادي في مجال الذكاء الاصطناعي في إفريقيا.
وذكر الوزير، في مداخلته، إنجازات الجزائر في هذا المجال، ومن بينها المدرسة الوطنية العليا للذكاء الاصطناعي. التي أُنشئت ضمن الرؤية الاستشرافية لرئيس الجمهورية، منذ أربع سنوات. قبل أن يصبح الذكاء الاصطناعي موضوعًا مركزيا على الصعيد العالمي.
بالإضافة إلى إطلاق أكبر مركز بيانات وحوسبة في المنطقة. والذي يعدّ بنية تحتية رئيسية لمعالجة البيانات الضخمة وتطوير التكنولوجيات الحديثة.
وكذا إنشاء مراكز تطوير المهارات “Skills Centers” وصندوق استثمار لتشجيع الذكاء الاصطناعي. التي ستدعم تعزيز المهارات والابتكار التكنولوجي في الجزائر.
كما أشار الوزير إلى مخرجات القمة الوزارية الأخيرة التي انعقدت على هامش المؤتمر الإفريقي للمؤسسات الناشئة. والتي أسفرت عن إعلان مشترك وخارطة طريق لتبني الذكاء الاصطناعي في إفريقيا.
كما أكد على أهمية اعتبار هذه الخارطة مرجعاً لأعمال المجلس الإفريقي للذكاء الاصطناعي. داعيًا إلى تعميقها واعتمادها على الصعيد القاري.
علاوة على ذلك، أكد زروقي على أن الجزائر تبقى الموقع المثالي لتنصيب الاستثمارات مستقبلا فيما يخص مراكز البيانات الضخمة.
مشيرا إلى أن هذه المكانة المتميزة تعتمد على بنى تحتية قوية للاتصالات وثروة رأس المال البشري ذي المهارات العالية. وتنافسية في الطاقة بفضل الموارد الوفيرة وموقع جغرافي مركزي.
مما يجعل الجزائر محورًا تكنولوجيًا لا غنى عنه في إفريقيا وحوض البحر الأبيض المتوسط.
وقد أشاد المشاركون بهذه المقاربة الاسشرافية، وفي هذا الصدد، ألح المدير العام لـ Smart Africa، لاسينا كوني، على أهمية الاعتماد على نتائج القمة الوزارية الإفريقية خلال المؤتمر الإفريقي للمؤسسات الناشئة.
مشيرا إلى أن هذه الأعمال يجب أن تكون أساسَ تطوير استراتيجيات الذكاء الاصطناعي للقارة.
وعلى هذا النهج تواصل الجزائر رسم المسار نحو تحول رقمي طموح وشامل في إفريقيا. من خلال وضع الابتكار وتكوين المواهب في صميم عملها.
حيث تعكس هذه الرؤية التحديات والفرص التي يطرحها مستقبل يتجه بحزم نحو الذكاء الاصطناعي.
إضغط على الصورة لتحميل تطبيق النهار للإطلاع على كل الآخبار على البلاي ستور
حالة الطقس ودرجات الحرارة المتوقعة اليوم الخميس 6 مارس 2025