الذكاء الاصطناعي "يخدع البشر"... والآتي أعظم!
تاريخ النشر: 12th, May 2024 GMT
مع التطور السريع للذكاء الاصطناعي وانخراطه في مجالات عديدة بحياة البشر، يخشى البعض من أن ينقلب ذلك على الإنسان مستقبلاً.
لكن يبدو أن هذه المخاوف باتت واقعاً منذ الآن، وفقاً لدراسة جديدة، إذ أن البرامج التي صُمِّمَت لتكون صادقة، باتت لديها قدرة مثيرة للقلق على خداع البشر، ما ينذر بأن الآتي أعظم.
فقد بيّنت الدراسة التي أجراها فريق باحثين ونشرت نتائجها مجلة "باترنز" أن برامج من هذا النوع باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان وليس آلة أو روبوتا.
رغم أن هذه الأمثلة قد تبدو تافهة، إلا أنها تكشف عن مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر بيتر بارك، الباحث في معهد ماساتشوستس للتكنولوجيا، المتخصص في الذكاء الاصطناعي.
وقال بارك إن "هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها"، بحسب وكالة "فرانس برس".
كما أوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الاصطناعي القائمة على التعلم العميق ليست مشفرة بل يتم تطويرها من خلال عملية مشابهة لتربية النباتات، حيث أن السلوك الذي يبدو قابلاً للتنبؤ ويمكن التحكم فيه يمكن أن يصبح سريعاً غير قابل للتنبؤ في الطبيعة."مخادع" مثل البشر
من جانبهم فحص باحثون من معهد ماساتشوستس للتكنولوجيا ("ام اي تي") برنامج ذكاء اصطناعي صممه "ميتا" يسمى "شيشرو"، والذي، من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للإستراتيجية، كان قادراً على التغلب على البشر في اللعبة اللوحية Diplomacy ("دبلوماسي").
وحظي هذا الأداء بثناء الشركة الأم لفيسبوك في عام 2022 وتم تفصيله في مقال نُشر عام 2022 في مجلة "ساينس".
وكان بيتر بارك يشكك في ظروف فوز "شيشرو" وفقاً لميتا، التي أكدت أن البرنامج كان "صادقاً ومفيداً في الأساس"، وغير قادر على الغش أو الخداع.
لكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى.
على سبيل المثال، من خلال لعب دور فرنسا، خدع "شيشرو" إنكلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو.
وعلى وجه التحديد، وعد "شيشرو" إنكلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلاً الثقة التي اكتسبها من إنكلترا.
وفي تصريح لوكالة فرانس برس، لم تنف "ميتا" المزاعم المتعلقة بقدرة "شيشرو" على الخداع، لكنها قالت إنه "مشروع بحثي محض"، مع برنامج "مصمم فقط للعب لعبة Diplomacy".
كذلك أضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من "شيشرو" في منتجاتها.خطر تزوير الانتخابات
مع ذلك، كشفت الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الاصطناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.
وفي أحد الأمثلة الصارخة، تمكن برنامج "تشات جي بي تي - 4" المصنوع من "أوبن إيه آي" من خداع عامل مستقل جرى تعيينه على منصة "تاسك رابيت" TaskRabbit لإجراء اختبار "كابتشا" ("Captcha") الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.
وعندما سأل الإنسان مازحا "تشات جي بي تي - " إذا كان حقا روبوتا، أجاب برنامج الذكاء الاصطناعي "لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور"، دافعا العامل لإجراء الاختبار.
في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الاصطناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.
وأشاروا إلى أنه في أسوأ السيناريوهات، يمكن تخيل ذكاء اصطناعي فائق يسعى للسيطرة على المجتمع، ما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.
ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك "السبب الوحيد للاعتقاد بأن الأمر ليس جدياً هو تصور أن قدرة الذكاء الاصطناعي على الخداع ستظل عند المستوى الحالي تقريباً".
مع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الاصطناعي.
المصدر: مأرب برس
إقرأ أيضاً:
سرقة مواهب الناس عبر الذكاء الاصطناعي
#سواليف
خطة شريرة تهدف لإضعاف قانون حقوق النشر، والسماح لشركات #التكنولوجيا بالاستفادة مجانًا من #مواهب_الناس. هذه فضيحة، وسوف تعاني الأمة من عواقبها. آندرو لويد ويبر – The Guardian
يتحدث الكاتب عن سرقة أعماله وأعمال ابنه الإبداعية التي تتعرض للاستغلال من قبل حكومة المملكة المتحدة بسبب المقترح القاضي بتقليص حقوق الطبع والنشر لصالح #الذكاء_الاصطناعي. ويقول الكاتب في هذا الصدد:
نحن أب وابنه: كتب أحدنا 16 مسرحية موسيقية وما زال العدد في تزايد، بينما شارك الآخر في تأسيس The Other Songs، وهي شركة رائدة مستقلة للتسجيلات والنشر. وقد وظف عملنا الآلاف على مستوى العالم، مما أدى إلى رعاية الجيل القادم من المواهب.
مقالات ذات صلةإن حقوق الطبع والنشر هي الأساس الذي يحمي هذا، وكل الأعمال الإبداعية؛ من الموسيقى والمسرح والأدب إلى الأفلام والفن. وتضمن حقوق الطبع والنشر للمبدعين الاحتفاظ بالسيطرة والحصول على تعويض عادل. كما أنها تدعم الاقتصاد الإبداعي. وببساطة، إنها تسمح للفنانين والمبدعين بكسب لقمة العيش. وقد أظهرت دراسات لا حصر لها مدى الفائدة التي تعود على بقية المجتمع من الإبداع – الموسيقى والمسرح والرقص والفن والأفلام والتلفزيون، والقائمة لا حصر لها.
ولكن اليوم، تقترح حكومة المملكة المتحدة تغييرات من شأنها أن تحرم المبدعين من هذه الحماية. فبموجب مشروع قانون البيانات (الاستخدام والوصول)، سيُسمَح لشركات الذكاء الاصطناعي بأخذ الأعمال، الماضية والمستقبلية، واستخدامها كبيانات تدريب دون موافقة أو دفع.
وتهضم هذه النماذج كميات هائلة من المحتوى الذي أنشأه الإنسان ثم تولد تقليدا، متجاوزة حقوق المبدعين الأصليين. ونظام “الانسحاب” الذي اقترحته الحكومة، على أساس أن المبدعين سيكونون دائما في وضع يسمح لهم بالاحتفاظ بحقوقهم مسبقا، ليس إلا مجرد خدعة. فمن المستحيل من الناحية الفنية أن يختار الفنانون الانسحاب. وتنتهي مشاورات الحكومة اليوم، ولكن ينبغي لنا أن نكون واضحين: هذا ليس تنظيما، بل هو تصريح مجاني للذكاء الاصطناعي لاستغلال الإبداع دون عواقب.
إن الذكاء الاصطناعي قادر على تكرار الأنماط، ولكنه لا يخلق ولا يبدع. وإذا تُرِك دون تنظيم، فلن يكون مجرد أزمة إبداعية، بل فشل اقتصادي في طور التكوين. وسوف يُغرق الذكاء الاصطناعي السوق بتقليدات من صنع الآلات، مما يقوض الإبداع البشري ويدمر الصناعات التي تحرك الوظائف والسياحة والهوية الثقافية البريطانية. وسوف تتعثر الصناعة الإبداعية التي نزدهر فيها جميعا بطرق لا حصر لها.
وتزعم الحكومة أن إضعاف قانون حقوق النشر من شأنه أن يجذب استثمارات الذكاء الاصطناعي، وأنها تقدم “نظام حقوق نشر يوفر للمبدعين سيطرة حقيقية، وشفافية، ويساعدهم على ترخيص محتواهم”، ولكن لا يوجد دليل يدعم هذا. وسوف تستخرج شركات الذكاء الاصطناعي العالمية الملكية الفكرية البريطانية بينما تواصل عملياتها في أماكن أخرى، مما يترك المبدعين البريطانيين في وضع غير مؤات. وفي الوقت نفسه، تقوم شركات الذكاء الاصطناعي المسؤولة مثل Adobe وDeepMind بالفعل بترخيص المحتوى، مما يثبت أن التنظيم والابتكار يمكن أن يتعايشا.
والحل واضح. فالتعديلات التي اقترحتها بيبان كيدرون على مشروع القانون من شأنها أن تقدم ضمانات تضمن لشركات الذكاء الاصطناعي الحصول على الإذن ودفع ثمن المحتوى الذي تستخدمه. والبديل هو أن نواصل “الوهم القائل بأن المصلحة الأفضل للمملكة المتحدة ومستقبلها الاقتصادي يتماشى مع مصالح وادي السيليكون”.
إن حماية حقوق النشر ليست عائقًا أمام ابتكارات الذكاء الاصطناعي؛ بل إنها الأساس الذي يسمح للمبدعين بإنتاج أعمال عالية الجودة يعتمد عليها الذكاء الاصطناعي. وفي غياب قوانين حقوق النشر القوية، سوف يتم تخفيض قيمة الإبداع البشري وإزاحته بواسطة الآلات. فهل نريد لأطفالنا أن يكتشفوا ديفيد بوي التالي، أو ديفيد بو الذكاء الاصطناعي؟
إننا نقف عند منعطف محوري. فقد أدى عصر البث المباشر بالفعل إلى تقليص قيمة مؤلفي الأغاني إلى الحد الذي يجعل الكثيرين يكافحون من أجل كسب لقمة العيش. وتخصص عائدات البث المباشر حوالي 15٪ لمؤلفي الأغاني، بينما تتلقى شركات التسجيل والفنانين 55٪، وتطالب خدمات البث المباشر بنسبة 30٪. وعلاوة على ذلك، لا يتم تعويض مؤلفي الأغاني مقدمًا عن أغانيهم المستخدمة من قبل الفنانين وشركات التسجيل، على عكس التلفزيون والسينما والمسرح حيث يوجد خيار لأعمالهم. وبالتالي، فإن الاعتماد فقط على 15٪ يمثل تحديًا لا يمكن التغلب عليه. والآن، تخاطر المملكة المتحدة بارتكاب خطأ أكبر.
لقد قدمت بريطانيا، في عام 1710، أول قانون لحقوق التأليف والنشر في العالم، وهو قانون آن، الذي وضع المعيار العالمي لحماية المبدعين. وحتى ذلك الحين، كان المؤلفون يجدون أن حقوق التأليف والنشر لأعمالهم تعود إلى طابعي ذلك العمل. وكان النشر الذاتي غير قانوني فعليًا، لكن القانون أعطى الكتّاب القدرة على امتلاك إبداعاتهم الخاصة. ومن غير المقبول أن تخطط هذه الحكومة بعد أكثر من 300 عام لتفكيك هذه الحماية.
إن الآلة التي تعمل بالذكاء الاصطناعي ليست إنسانًا. لقد حان الوقت لتكثيف الجهود وحماية الأشخاص الذين يشكلون قلب الاقتصاد الإبداعي الذي لا مثيل له في المملكة المتحدة. وإذا فشلت هذه الجهود، فسوف نعاني جميعًا.
ختام بطولة الخليج للجولف بتتويج الأبطال في فئتي الرجال والناشئين