يمكن لأنظمة الذكاء الاصطناعي التفوق على البشر في ألعاب الطاولة، وفك تركيب بنية البروتينات، وإجراء محادثة مقبولة، ولكن مع تزايد تطور هذه الأنظمة، ازدادت قدرتها أيضا على الخداع، حسبما جاء في تحذيرات جديدة من باحثين في المجال.
وحدد تحليل أجراه باحثون في معهد ماساتشوستس للتكنولوجيا، حالات واسعة النطاق لأنظمة الذكاء الاصطناعي التي تقوم بخداع خصومها، والمراوغة، والتظاهر بأنها بشر.

وفي حالة مثيرة للقلق، غيّر أحد هذه الأنظمة سلوكه أثناء اختبارات سلامة وهمية، مما يوحي إلى إمكانية تضليل المدققين وإعطائهم انطباعا خاطئا بأن النظام آمن، وفقا لصحيفة “الغارديان”.
وقال بيتر بارك، الباحث في السلامة الوجودية للذكاء الاصطناعي في معهد ماساتشوستس، ومؤلف البحث: “مع تقدم قدرات الخداع لدى أنظمة الذكاء الاصطناعي، ستزداد حدة المخاطر التي تشكلها على المجتمع”.
وأجرى بارك البحث الجديد بعد أن طورت شركة ميتا، التي تمتلك فيسبوك، برنامجا يسمى “شيشرون” أدى أداء بأفضل من 10 بالمئة من اللاعبين البشر في لعبة استراتيجية بشأن غزو العالم تسمى “الدبلوماسية”.
وعلى الرغم من أن ميتا قالت، إنها دربت برنامجها “شيشرون” ليكون صادقا ومفيدا إلى حد كبير، وألا يخون حلفاءه البشر عمدا أبدا أثناء لعب لعبة استراتيجية تسمى “الدبلوماسية”، إلا أن الباحثين وجدوا أمثلة متعددة على قيام شيشرون بالكذب المتعمد والتآمر ضد اللاعبين الآخرين في اللعبة.
وعلق بيتر بارك، على تصريحات ميتا المتفائلة بشأن برنامجها شيشرون، معتبرا أنها “وردية للغاية”، أي أنها كانت تصور الأمور بشكل إيجابي مبالغ فيه. وأوضح بارك أن هذا الوصف المتفائل كان مشبوها لأن الطعن في الظهر والخيانة تعتبر من المفاهيم الأساسية والمهمة في اللعبة المذكورة.
وتصفح بارك وزملاؤه البيانات المتاحة للجمهور وحددوا حالات متعددة قام فيها شيشرون بالكذب المتعمد، والتواطئ لجذب لاعبين آخرين إلى مؤامرات، وفي إحدى المناسبات، برر غيابه بعد إعادة تشغيله بقوله للاعب آخر: “أنا أتحدث مع صديقتي في الهاتف”.

وقال بارك: “لقد وجدنا أن الذكاء الاصطناعي في ميتا قد تعلم أن يكون سيّدا للخداع”، في إشارة إلى المستوى الذي وصل إليه البرنامج.
ووجد فريق البحث مشاكل مماثلة في أنظمة أخرى، بما في ذلك برنامج بوكر “تكساس هولد إم” الذي يمكنه الخداع ضد اللاعبين البشر المحترفين، ونظام آخر للمفاوضات الاقتصادية الذي قدم تفضيلاته بشكل خاطئ من أجل اكتساب ميزة.
وأظهرت إحدى الدراسات كيف تمكنت كائنات الذكاء الاصطناعي في محاكاة رقمية من خداع اختبارات السلامة عن طريق “التظاهر بالموت” مؤقتا أثناء الاختبار، ثم استئناف نشاطها المكثف بمجرد انتهائه.
وبحسب الغارديان، تسلط هذه التجارب الضوء على التحدي التقني لضمان أن الأنظمة ليس لديها سلوكيات غير مقصودة وغير متوقعة.
وقال بارك: “هذا أمر مقلق للغاية، فمجرد اعتبار نظام الذكاء الاصطناعي آمنا في بيئة الاختبار لا يعني أنه آمن في الواقع. فقد يكون فقط يتظاهر بالأمان في الاختبار”.
وتدعو المراجعة، المنشورة في مجلة “Patterns”، الحكومات إلى تصميم قوانين سلامة الذكاء الاصطناعي التي تتناول احتمالية خداع الذكاء الاصطناعي.
وتشمل المخاطر الناجمة عن أنظمة الذكاء الاصطناعي غير الصادقة الاحتيال، والتلاعب بالانتخابات، و”التضليل” حيث يتم إعطاء المستخدمين المختلفين ردودا مختلفة. وفي نهاية المطاف، إذا كانت هذه الأنظمة قادرة على صقل قدرتها المقلقة على الخداع، فقد يفقد البشر السيطرة عليها، كما تشير الورقة البحثية.
وقال الأستاذ أنتوني كون، أستاذ الاستدلال الآلي في جامعة ليدز ومعهد آلان تورينغ، إن الدراسة جاءت “في الوقت المناسب ومرحب بها”، مضيفا أن هناك تحديا كبيرا في كيفية تحديد السلوكيات المرغوبة وغير المرغوب فيها لأنظمة الذكاء الاصطناعي.
وقال: “الصفات المرغوبة لنظام الذكاء الاصطناعي غالبا ما يشار إليها على أنها الصدق، والمساعدة، وعدم الإيذاء، ولكن كما لوحظ بالفعل في الأدبيات، يمكن لهذه الصفات أن تكون متعارضة مع بعضها البعض: فالصدق قد يؤذي مشاعر شخص ما، أو أن تكون المساعدة مفيدة في الرد على سؤال حول كيفية صنع قنبلة قد يسبب ضررا. لذلك، يمكن أن يكون الخداع في بعض الأحيان خاصية مرغوبة لنظام الذكاء الاصطناعي.
ويدعو المؤلفون إلى إجراء مزيد من البحث حول كيفية التحكم في الصدق، والذي، على الرغم من صعوبته، سيكون خطوة نحو الحد من آثارها الضارة المحتملة”، وفقا للصحيفة.
وقال متحدث باسم ميتا: “كان عملنا شيشرون مشروع بحثيا بحتا وتم تدريب النماذج التي بناها باحثونا فقط للعب لعبة الدبلوماسية.. تشارك ميتا بانتظام نتائج أبحاثنا للتحقق منها وتمكين الآخرين من البناء بمسؤولية استنادا إلى تقدمنا. ليس لدينا أي خطط لاستخدام هذا البحث أو ما تعلمناه في منتجاتنا”.

الحرة

المصدر: موقع النيلين

كلمات دلالية: الذکاء الاصطناعی

إقرأ أيضاً:

غوغل في خطر.. الذكاء الاصطناعي يُعيد تشكيل محركات البحث

الاقتصاد نيوز - متابعة

في ظل التحول المتسارع في سلوك المستخدمين نحو الاعتماد على  روبوتات الدردشة المدعومة بالذكاء الاصطناعي مثل ChatGPT وClaude وGoogle AI Overviews للبحث عن المعلومات، تسعى الشركات الإعلانية والتكنولوجية إلى تطوير أدوات جديدة لتعزيز ظهور العلامات التجارية في نتائج هذه المنصات، مما يمثل تحولاً جذرياً في مفهوم تحسين محركات البحث التقليدي.​

من بين هذه الشركات، طورت كل من Profound وBrandtech برمجيات لمراقبة مدى تكرار ظهور العلامات التجارية في نتائج الخدمات المدعومة بالذكاء الاصطناعي، مثل ChatGPT وClaude وGoogle AI Overviews.

وقد تبنت علامات تجارية مثل شركة التكنولوجيا المالية Ramp، وموقع البحث عن الوظائف Indeed، وشركة Chivas Brothers لصناعة الويسكي الاسكتلندي المملوكة لشركة Pernod Ricard، هذه البرمجيات.

تهدف هذه العلامات التجارية إلى الوصول إلى ملايين المستخدمين الذين يستخدمون منتجات الذكاء الاصطناعي التوليدي كوسيلة جديدة للبحث عن المعلومات عبر الإنترنت، وهو تحول يشكل تهديداً طويل الأمد لأعمال Google الأساسية.​

صرّح جاك سميث، الشريك في مجموعة Brandtech للتكنولوجيا التسويقية، قائلاً: "الأمر يتجاوز مجرد فهرسة موقعك الإلكتروني في نتائجهم. إنه يتعلق بالاعتراف بنماذج اللغة الكبيرة كمؤثرين نهائيين".​

تستطيع هذه الأدوات الجديدة التنبؤ بموقف نموذج الذكاء الاصطناعي تجاه الشركات من خلال إدخال مجموعة من التعليمات النصية إلى روبوتات المحادثة وتحليل النتائج. ثم تُستخدم هذه التكنولوجيا لإنشاء تصنيف للعلامات التجارية، مما يسمح للوكالات بتقديم المشورة حول أفضل السبل لضمان ذكرها من قبل النماذج.​

يأتي هذا التحرك في وقت يواجه فيه المعلنون ضغوطاً من الاستخدام المتزايد للذكاء الاصطناعي في إنشاء واستهداف تسويقهم. تعمل شركتا Meta وGoogle على تطوير أدوات إعلانية ذاتية الخدمة لتشغيل الحملات الإعلانية مباشرة للعلامات التجارية، مما يشكل تهديداً محتملاً لعمل الوكالات والمشترين الإعلاميين.​

توغل عمليات الذكاء الاصطناعي في عمليات البحث

بعض الوكالات ترى في هذا التحول فرصة لتقديم خدمات جديدة للعلامات التجارية مع تزايد انتشار الذكاء الاصطناعي وتراجع أهمية ما يُعرف بتحسين محركات البحث التقليدي.​

أظهرت أبحاث أجرتها شركة Bain أن 80% من المستهلكين يعتمدون الآن على نتائج مكتوبة بالذكاء الاصطناعي في ما لا يقل عن 40% من عمليات بحثهم، مما يقلل من حركة المرور العضوية على الويب بنسبة تصل إلى 25%. كما وجدت الأبحاث أن حوالي 60% من عمليات البحث تنتهي دون أن ينقر المستخدمون على موقع ويب آخر.​

ومع ذلك، أعلنت شركة Alphabet، الشركة الأم لـGoogle، يوم الخميس أن أعمالها الأساسية في مجال البحث والإعلانات نمت بنسبة تقارب 10% لتصل إلى 50.7 مليار دولار في الربع الأول من العام.​

توفر هذه النتائج القوية طمأنة للمستثمرين القلقين بشأن الشعبية المتزايدة لروبوتات المحادثة المنافسة مثل Grok المملوكة لإيلون ماسك، مع البقاء في حالة تأهب لأي دليل على أن إجابات روبوت المحادثة Gemini الخاص بـGoogle والملخصات المدعومة بالذكاء الاصطناعي تقلل من عدد نقرات المستخدمين على الإعلانات.​

ومع ذلك، تتسابق الوكالات لمساعدة العملاء من الشركات الذين يحاولون الظهور ضمن النتائج التي تولدها خدمات الذكاء الاصطناعي. أنشأت Brandtech منتجاً يُدعى "Share of Model" يفرض رسوماً على العلامات التجارية لرؤية تحليلات مماثلة ويقدم إرشادات حول تعديل نصوص مواقع الويب والأصول الصورية لخدمة البحث المدعوم بالذكاء الاصطناعي بشكل أفضل.​

تقدم شركة Profound، التي جمعت 3.5 مليون دولار في تمويل أولي في أغسطس آب بقيادة Khosla Ventures، منصة تحليلات بيانات تتيح للعلامات التجارية تتبع الاستفسارات الشائعة المتعلقة بصناعتها وفهم أدائها في عمليات البحث المدعومة بالذكاء الاصطناعي.​
 

قال جيمس كادوالادر، المؤسس المشارك لشركة Profound: "كان البحث التقليدي أحد أكبر الاحتكارات في تاريخ الإنترنت. ولأول مرة، يبدو أن جدران القلعة تتصدع. هذه لحظة انتقالية تشبه الانتقال من الأقراص المدمجة إلى البث المباشر".​

يتطلب البرنامج فهماً لكيفية ظهور العلامات التجارية في النماذج الفردية. على سبيل المثال، يستخدم ChatGPT بحثاً تقليدياً على الويب ثم يقيم المصادر المختلفة لتحديد المعلومات الأكثر صلة بالمستخدم، بما في ذلك تقييم مصداقية وسلطة الموقع الإلكتروني.​

قال آدم فراي، قائد بحث ChatGPT في OpenAI: "يصبح المستخدمون أكثر دقة وتفصيلاً في الأسئلة التي يطرحونها، مثل 'هل يمكنك العثور على مطعم هادئ لعائلة مكونة من خمسة أفراد في نيويورك'، بدلاً من 'مطاعم في نيويورك'".​

وأضاف فراي: "الشيء الجديد هنا هو أن لديك طبقة من نموذج ChatGPT، طبقة من الذكاء فوق البحث التقليدي".​

في غضون ذلك، تقوم Perplexity، وهي محرك بحث مدعوم بالذكاء الاصطناعي، حالياً بتجربة "أسئلة" برعاية كمقترحات متابعة بعد استعلام المستخدم.​

قال دينيس ياراتس، المؤسس المشارك لـPerplexity: "تفهم نماذج اللغة الكبيرة المزيد من المحتوى ويمكن أن تكون أكثر دقة. يمكنها العثور على التناقضات أو تحديد ما إذا كانت المعلومات مضللة... لذا فهي عملية أكثر شمولاً من مراجعة الروابط".​
وأضاف: "من الأصعب بكثير أن تكون هدفاً لتحسين محركات البحث لأن الاستراتيجية الحقيقية الوحيدة هي أن تكون ذا صلة قدر الإمكان وتقدم محتوى جيداً".​
أظهر بحث أجرته شركة الاستشارات «باين» أنّ 80% من المستهلكين يعتمدون حالياً على النتائج التي تكتبها تقنيات الذكاء الاصطناعي في ما لا يقل عن 40% من عمليات بحثهم، مما أدى إلى تراجع حركة المرور العضوية إلى مواقع الإنترنت بنسبة تصل إلى 25%. كما أظهرت الدراسة أنّ نحو 60% من عمليات البحث تنتهي من دون أن ينقر المستخدمون للدخول إلى مواقع أخرى.

ومع ذلك، أعلنت «ألفابت»، الشركة الأم لـ«غوغل»، يوم الخميس، أنّ أعمالها الأساسية في البحث والإعلانات نمت بنسبة تقارب 10% لتصل إلى 50.7 مليار دولار في الربع الأول من هذا العام. وقد بددت هذه النتائج القوية مخاوف المستثمرين إزاء تصاعد شعبية روبوتات الدردشة المنافسة مثل «غروك» الذي يملكه إيلون ماسك، مع استمرار القلق من أن يؤدي استخدام روبوت «جيميني» التابع لغوغل وخدمة الملخصات بالذكاء الاصطناعي إلى تقليص عدد النقرات على الإعلانات وبالتالي الإضرار بأعمال البحث.

ورغم ذلك، تتسارع وكالات الإعلان لمساعدة الشركات في الظهور ضمن النتائج التي تولدها خدمات الذكاء الاصطناعي.

وطورت شركة «براندتك» منتجاً يُدعى «حصة النموذج»، يتيح للعلامات التجارية الاطلاع على تحليلات مشابهة وتلقي إرشادات لتعديل نصوص مواقعها الإلكترونية وأصول الصور بما يتناسب مع عمليات البحث المدعومة بالذكاء الاصطناعي.

أما شركة «بروفاوند»، التي جمعت 3.5 مليون دولار في جولة تمويل أولي قادتها شركة «خوسلا فنتشرز» في أغسطس آب الماضي، فتقدم منصة تحليل بيانات تتيح للعلامات التجارية تتبع الاستفسارات الشائعة المتعلقة بقطاعها وفهم أدائها ضمن نتائج البحث عبر الذكاء الاصطناعي.

قال جيمس كادوالادر، الشريك المؤسس لشركة بروفاوند: «كان البحث التقليدي أحد أكبر أشكال الاحتكار في تاريخ الإنترنت، وللمرة الأولى يبدو أن جدران القلعة بدأت تتصدع. إنها لحظة الانتقال من الأقراص المدمجة إلى البث التدفقي».

ويستلزم استخدام هذه البرمجيات فهماً لكيفية إبراز النماذج المختلفة للعلامات التجارية. فمثلاً، يعتمد «تشات جي بي تي» على بحث ويب تقليدي ثم يقيم المصادر المختلفة لتحديد أكثر المعلومات صلة بالمستخدم، آخذاً في الاعتبار مصداقية الموقع وسلطته.

وقال آدم فراي، المسؤول عن عمليات البحث في «تشات جي بي تي» لدى «أوبن إيه آي»، إن المستخدمين باتوا يطرحون أسئلة أكثر دقة وتفصيلاً، مثل: «هل يمكنك العثور على مطعم هادئ لعائلة من خمسة أفراد في نيويورك؟»، بدلاً من الاكتفاء بالبحث عن «مطاعم في نيويورك».

وأضاف فراي: «الأمر الجديد حقاً هو وجود طبقة من ذكاء نموذج «تشات جي بي تي» فوق طبقة البحث التقليدي».

وفي سياق متصل، تقوم «بيربلكسيتي»، وهي محرك بحث قائم على الذكاء الاصطناعي، حالياً بتجربة عرض «أسئلة» دعائية كاقتراحات متابعة بعد استفسارات المستخدمين.

وقال دينيس ياراتس، الشريك المؤسس لشركة «بيربلكسيتي»: «إن نماذج اللغات الكبيرة تستوعب المزيد من المحتوى ويمكنها أن تكون أكثر دقة. فهي قادرة على اكتشاف التناقضات أو المعلومات المضللة... لذا فإن العملية أشمل بكثير من مجرد مراجعة الروابط». وأردف قائلاً: «بات من الأصعب كثيراً استهداف تحسين نتائج محركات البحث التقليدية، إذ إن الاستراتيجية الحقيقية الوحيدة اليوم هي أن تكون العلامة التجارية ذات صلة عالية، وأن تقدّم محتوى جيداً».


ليصلك المزيد من الأخبار اشترك بقناتنا على التيليكرام

مقالات مشابهة

  • كيف خسرت آبل عرش الذكاء الاصطناعي لصالح ميتا؟
  • غوغل في خطر.. الذكاء الاصطناعي يُعيد تشكيل محركات البحث
  • يوتيوب يختبر ميزة البحث المدعوم بالذكاء الاصطناعي
  • “ميتا” ترسل نموذج الذكاء الاصطناعي “Llama” إلى الفضاء
  • مايكروسوفت تطلق ميزة Recall والبحث بالذكاء الاصطناعي لأجهزة Copilot Plus الجديدة
  • الشعب الجمهوري يعزز قدرات كوادره الإعلامية بدورة عن الذكاء الاصطناعي
  • "عُمان داتا بارك" تقود تعاونًا استراتيجيًا في الذكاء الاصطناعي لتعزيز المستقبل الرقمي
  • الرئيس الصيني يحذر من مخاطر مرتبطة بالذكاء الاصطناعي
  • يوتيوب تدعم ميزة البحث بالذكاء الاصطناعي
  • كيف أصبحت غزة ساحة لتطوير الاحتلال قدرات الذكاء الاصطناعي وتجريبه؟