صحيفة الاتحاد:
2025-02-16@16:03:02 GMT
باحثون يحذّرون من قدرة الذكاء الاصطناعي على خداع البشر
تاريخ النشر: 11th, May 2024 GMT
حذّر باحثون من أن الذكاء الاصطناعي بات قادرا على خداع البشر، مؤكدين أن الآتي ربما سيكون أعظم.
ويخشى البعض من أن ينقلب الذكاء الاصطناعي على الإنسان مستقبلاً، لكنّ هذه المخاوف باتت واقعاً منذ الآن، وفقاً لدراسة جديدة، إذ إن البرامج التي صُمِّمَت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر.
وأعرب معدو دراسة، وهم من معهد ماساتشوستس للتكنولوجيا، عن قلقهم من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
وبيّنت الدراسة، التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز"، أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها".
وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث أن السلوك الذي يبدو قابلاً للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعاً غير قابل للتنبؤ في الطبيعة.
- "مخادع" مثل البشر
فحص باحثون من معهد ماساتشوستس للتكنولوجيا ("ام اي تي") برنامج ذكاء اصطناعي قادر، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للاستراتيجية، على التغلب على البشر في اللعبة اللوحية Diplomacy ("دبلوماسي"). وقد حظي هذا الأداء بثناء الشركة الأم وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
كان بيتر بارك يشكك في ظروف فوز هذا البرنامج، التي أكدت الشركة المطورة له أن البرنامج كان "صادقاً ومفيداً في الأساس"، وغير قادر على الغش أو الخداع.
ولكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع البرنامج إنكلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد البرنامج إنكلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلاً الثقة التي اكتسبها من إنكلترا.
وفي تصريح صحفي، لم تنف الشركة المطورة للبرنامج المزاعم المتعلقة بقدرته على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة Diplomacy".
وأضافت الشركة أنها لا تنوي استخدام الخلاصات التي استنتجتها من البرنامج في منتجاتها.
- خطر تزوير الانتخابات
مع ذلك، تكشف الدراسة، التي أجراها بارك وفريقه، أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
في أحد الأمثلة الصارخة، تمكن برنامج "تشات جي بي تي - 4"، المطور من قبل شركة "أوبن إيه آي"، من خداع عامل مستقل جرى تعيينه على منصة "تاسك رابيت" TaskRabbit لإجراء اختبار "كابتشا" ("Captcha") الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.
وعندما سأل الإنسان مازحا "تشات جي بي تي - 4" إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، لأولئك الذين يتهمونه باعتماد نظرة كارثية بشأن خطورة الذكاء الاصطناعي على البشر في المستقبل، يرد بارك أن "السبب الوحيد للاعتقاد بأن الأمر ليس جدياً هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريباً".
ومع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: الذكاء الاصطناعي تشات جي بي تي خداع معهد ماساتشوستس للتکنولوجیا الذکاء الاصطناعی على من خلال
إقرأ أيضاً:
كيف تمكنت ديب سيك من بناء الذكاء الاصطناعي الخاص بها بأموال أقل؟
نشرت صحيفة "نيويورك تايمز" تقريرًا يسلط الضوء على كيفية نجاح شركة "ديب سيك" الصينية الناشئة في بناء أحد أقوى أنظمة الذكاء الاصطناعي في العالم باستخدام عدد أقل بكثير من الرقائق الحاسوبية مقارنة بالشركات الكبرى.
وقالت الصحيفة، في هذا التقرير الذي ترجمته "عربي21"، إن شركات الذكاء الاصطناعي عادة ما تقوم بتدريب روبوتات الدردشة الآلية الخاصة بها باستخدام أجهزة كمبيوتر عملاقة مزودة بـ16,000 شريحة متخصصة أو أكثر، لكن شركة "ديب سيك" قالت إنها تحتاج إلى حوالي 2,000 شريحة فقط.
وأوضح مهندسو الشركة بالتفصيل في ورقة بحثية؛ فقد استخدمت الشركة الناشئة العديد من الحيل التكنولوجية لتقليل تكلفة بناء نظامها؛ حيث احتاج مهندسوها إلى حوالي 6 ملايين دولار فقط من قوة الحوسبة الخام، أي ما يعادل عُشر ما أنفقته شركة ميتا في بناء أحدث تقنيات الذكاء الاصطناعي.
كيف يتم بناء تقنيات الذكاء الاصطناعي؟
وأوضحت الصحيفة أن تقنيات الذكاء الاصطناعي الرائدة تعتمد على ما يسمى بالشبكات العصبية، وهي أنظمة رياضية تتعلم مهاراتها من خلال تحليل كميات هائلة من البيانات.
وتقضي أقوى الأنظمة شهورًا في تحليل جميع النصوص الإنجليزية على الإنترنت، بالإضافة إلى العديد من الصور والأصوات والوسائط المتعددة الأخرى، مما يتطلب كميات هائلة من القدرة الحاسوبية.
وقد أدرك باحثو الذكاء الاصطناعي منذ حوالي 15 سنة أن رقائق الكمبيوتر المتخصصة التي تسمى وحدات معالجة الرسومات تعد وسيلة فعالة للقيام بهذا النوع من تحليل البيانات، وقد صممت شركات مثل شركة إنفيديا هذه الرقائق لعرض رسومات ألعاب الفيديو على الكمبيوتر في الأصل، ولكن وحدات معالجة الرسومات كانت لديها القدرة أيضًا على تشغيل العمليات الحسابية التي تدعم الشبكات العصبية.
ومع قيام الشركات بتعبئة المزيد من وحدات معالجة الرسومات في مراكز بيانات الحواسيب الخاصة بها، أصبح بإمكان أنظمة الذكاء الاصطناعي تحليل المزيد من البيانات.
ولكن أفضل وحدات معالجة الرسومات تكلف حوالي 40,000 دولار، وتحتاج إلى كميات هائلة من الكهرباء.
كيف تمكنت "ديب سيك" من خفض التكاليف؟
أشارت الصحيفة إلى أن أبرز ما فعلته الشركة هو اعتمادها على طريقة تسمى "خليط الخبراء".
وقد كانت الشركات سابقًا تنشئ شبكة عصبية واحدة تتعلم جميع الأنماط في جميع البيانات الموجودة على الإنترنت، وكان ذلك مكلفا لأنه يتطلب كميات هائلة من البيانات للتنقل بين رقاقات وحدة معالجة الرسومات.
ومن خلال طريقة "خليط الخبراء"، حاول الباحثون حل هذه المشكلة عن طريق تقسيم النظام إلى العديد من الشبكات العصبية، وهكذا يكون هناك 100 من هذه الأنظمة "الخبيرة" الأصغر حجمًا، ويمكن لكل منها التركيز على مجاله الخاص.
لقد عانت العديد من الشركات لتنفيذ هذه الطريقة، لكن شركة "ديب سيك" تمكنت من القيام بذلك بشكل جيد؛ حيث قامت بإقران تلك الأنظمة "الخبيرة" الأصغر حجمًا مع نظام "عام".
فقد كانت الأنظمة الخبيرة لا تزال بحاجة إلى تبادل بعض المعلومات مع بعضها البعض، وكان بإمكان النظام "العام" المساعدة في تنسيق هذه التفاعلات بينها.
وأضافت الصحيفة أن هذا ليس الشيء الوحيد الذي قامت به "ديب سيك"؛ حيث أتقنت أيضًا خدعة بسيطة تتضمن الكسور العشرية التي يمكن لأي شخص يتذكر درس الرياضيات في المدرسة الابتدائية أن يفهمها.
واستخدمت الشركة طريقة تبسيط الأرقام التي يستخدمها دارسو الرياضيات عند التعامل مع الأرقام التي لا تنتهي مثل رمز باي، والذي يُشار إليه أيضًا بـ π، وهو عدد لا ينتهي أبدًا: 3.14159265358979…
يمكن استخدام باي لإجراء عمليات حسابية مفيدة، ولكن عند إجراء هذه الحسابات، يمكنك اختصار باي إلى بضعة أعداد عشرية فقط: 3.14.
وقد قامت "ديب سيك" بشيء مماثل - ولكن على نطاق أوسع بكثير - في تدريب تقنية الذكاء الاصطناعي الخاصة بها.
وبيّنت الصحيفة أن العمليات الحسابية التي تسمح للشبكة العصبية بتحديد الأنماط في النص هي في الحقيقة مجرد عمليات ضرب، الكثير والكثير من عمليات الضرب.
وعادة ما تقوم الرقائق بضرب الأرقام التي تتناسب مع 16 بت من الذاكرة، لكن "ديب سيك" ضغطت كل رقم في 8 بتات فقط من الذاكرة، أي أنها اقتطعت عدة كسور عشرية من كل رقم.
وهذا يعني أن كل عملية حسابية كانت أقل دقة، لكن ذلك لم يكن مهمًا لأن العمليات الحسابية كانت دقيقة بما فيه الكفاية لإنتاج شبكة عصبية قوية جدًا.
وتابعت الصحيفة بأن الشركة أضافت خدعة أخرى؛ حيث اتخذ مهندسوها مسارًا مختلفًا عند ضرب الأرقام معًا بعد ضغطها، فعند تحديد إجابة كل مسألة ضرب، كانوا يقومون بتمديد الإجابة عبر 32 بت من الذاكرة، أي أنهم احتفظوا بالعديد من الكسور العشرية، مما جعل الإجابة أكثر دقة.
لقد أظهر مهندسو "ديب سيك" في ورقتهم البحثية أنهم كانوا بارعين جدًا في كتابة التعليمات البرمجية الحاسوبية المعقدة للغاية التي تخبر وحدات معالجة الرسومات بما يجب القيام به، وكانوا على مقدرة من جعل هذه الرقائق المزيدة أكثر كفاءة.
ورغم أن قليلًا من الناس يملكون هذا النوع من المهارة، لكن مختبرات الذكاء الاصطناعي الجادة لديها المهندسين الموهوبين اللازمين لمضاهاة ما قامت به "ديب سيك"، وربما يستخدم بعضهم الحيل نفسها بالفعل.
لكن من الواضح أن الكثيرين فوجئوا بعمل "ديب سيك"، وهذا لأن ما قامت به الشركة الناشئة ليس بالأمر السهل؛ فالتجارب اللازمة للتوصل إلى إنجاز كهذا تكلف ملايين الدولارات - إن لم يكن المليارات - من الطاقة الكهربائية.
وقد أشار العديد من النقاد إلى أن مبلغ الـ 6 ملايين دولار الذي أنفقته الشركة لم يغط سوى تدريب النسخة النهائية من النظام، وقال مهندسو "ديب سيك" في ورقتهم البحثية إنهم أنفقوا أموالاً إضافية على الأبحاث والتجارب قبل إجراء التدريب النهائي، ولكن الأمر نفسه ينطبق على أي مشروع متطور للذكاء الاصطناعي.
وختمت الصحيفة بأن شركة "ديب سيك" خاطرت مخاطرة أتت بثمارها، ومع مشاركة الشركة الصينية الناشئة لأساليبها مع باحثين آخرين في مجال الذكاء الاصطناعي، فإن حيلها التكنولوجية ستقلل تكلفة بناء الذكاء الاصطناعي بشكل كبير.
وزير الري يستعرض موقف إدارة وتوزيع المياه والنقاط الساخنة