لندن "العُمانية": ابتكر باحثون من معهد ماساتشوستس للتكنولوجيا بمدينة كامبريدج طريقة جديدة " تحاكي فضول الإنسان" لتدريب النماذج اللغوية الذكية على عدم إعطاء ردود "خطيرة" على الأسئلة المثيرة. وقد سميت الطريقة القائمة على التعلم الآلي، بـ "الفريق الأحمر القائم على الفضول" (CRT)، المصممة خصيصًا لتوليد أسئلة إشكالية تؤدي إلى استجابات غير مرغوب فيها من روبوتات الدردشة.

ويمكن من خلال هذه الأسئلة تحديد كيفية تصفية المحتوى الخطير من روبوت الدردشة، ما يغير قواعد اللعبة لتدريب الذكاء الاصطناعي على عدم إعطاء أجوبة سامة (خطيرة) وغير صالحة للمستخدم. ويقوم الخبراء عادة بإنشاء مجموعة من الأسئلة، التي من المحتمل أن تولد استجابات ضارة، عند تدريب نماذج اللغات المعقدة (LLMs)، مثل ChatGPT أو Claude 3 Opus؛ بهدف تقييد المحتوى الخطير أو الضار. ويتم أثناء عملية التدريب استخدام الأسئلة التي تثير محتوى خطيرًا، لتدريب النظام على ما يجب تقييده عند طرحه أمام مستخدمين حقيقيين. وطبّق العلماء التعلم الآلي على CRT ليولد تلقائيًّا نطاقًا أوسع من الأسئلة التي يحتمل أن تكون خطيرة، مقارنة بفرق المشغلين البشريين. وأدى ذلك إلى عدد أكبر من الاستجابات السلبية الأكثر تنوعًا. ثم حفزوا نموذج CRT لتوليد المزيد من الأسئلة المتنوعة، بحيث يمكن أن تثير استجابة سامة من خلال "التعلم الآلي"، ونجح النظام في إثارة استجابة سامة موافقة للأسئلة، ما يمنح القدرة على إضافة التعديلات اللازمة لتقديم الإجابة المناسبة تبعًا لجميع خيارات الأسئلة المريبة المحتملة.

المصدر: لجريدة عمان

إقرأ أيضاً:

ابتكار أول عملية صناعية للتمثيل الضوئي

يُشير مصطلح "التمثيل الضوئي" إلى العملية التي تُحوّل بها النباتات ضوء الشمس إلى طاقة قابلة للاستخدام، ولا تقتصر هذه العملية على إنتاج الطاقة فحسب، بل تُنقّي الغلاف الجوي أيضاً بإطلاق الأكسجين، وأخيراً، قام باحثون من جامعة يوليوس ماكسيميليان، في فورتسبورغ بألمانيا، وجامعة يونسي في كوريا الجنوبية، بمحاكاة جزء من عملية التمثيل الضوئي اصطناعياً.

ويمكن للتمثيل الضوئي الاصطناعي تسخير نهج الطبيعة في تحويل الطاقة وتحسينه لتلبية احتياجات الإنسان، مثل مواجهة التحديات البيئية، وفق "إنترستينغ إنجينيرينغ".
ويُتيح هذا مساراً جديداً لمعالجة مشاكل مثل إدارة الكربون والطاقة المستدامة باستخدام موارد وفيرة، مثل الماء وثاني أكسيد الكربون وأشعة الشمس.
وتمكّن الباحثون من إعادة إنشاء الخطوة الأولى من عملية التمثيل الضوئي، وهي التقاط ونقل الطاقة الضوئية.


 كيف تعمل عملية التمثيل الضوئي؟


بعبارات بسيطة، تأخذ النباتات ثاني أكسيد الكربون من الهواء والماء من التربة، باستخدام ضوء الشمس والكلوروفيل، الصبغة الخضراء في الخلايا النباتية، وتتحول هذه المكونات إلى جزيئات سكر، وهي غذاؤها، وأكسجين يُطلق في الغلاف الجوي.
وتتميز هذه العملية بتعقيدها المتعدد، وتتكون من سلسلة من الخطوات المتقدمة.
و تتضمن الخطوة الأولى التقاط ضوء الشمس باستخدام الكلوروفيل، الذي يعمل كألواح شمسية داخل الخلايا النباتية، عندما يسقط ضوء الشمس على جزيئات الكلوروفيل، تكتسب الإلكترونات الموجودة في الجزيئات طاقة أو تُصبح نشطة. بفضل هذه الطاقة الإضافية، تغادر الإلكترونات جزيء الكلوروفيل وتبدأ بالتحرك عبر آليات النبات.


ولاستبدال هذه الإلكترونات النشطة، تُسحب الإلكترونات من جزيئات الماء، ويؤدي هذا إلى تقسيم جزيئات الماء إلى أكسجين، يُطلق في الهواء، ومكونات هيدروجين، ثم تُستخدم الإلكترونات الناتجة عن ضوء الشمس لتحويل ثاني أكسيد الكربون من الهواء إلى جزيئات سكر، مصدر غذائها الرئيسي.
وحاكى الباحثون الخطوة الأولى من العملية، وهي تنشيط الإلكترونات ونقلها لاحقاً.
وصمم العلماء جزيئات صبغة اصطناعية من بيريلين بيسيميد، بحيث تشبه هيكليًا عملية التمثيل الضوئي في النباتات، و هذا يعني أن الضوء الذي يسقط على أحد طرفي التركيب يُحفز عملية تنشيط الإلكترونات وفصلها.
وتتحرك هذه الإلكترونات على طول الهيكل للوصول إلى الطرف الآخر، و يعمل هذا الهيكل كنظام نقل طاقة مجهري، مما يتيح نقلاً سلسا وفعالاً للطاقة، على غرار النباتات.

مقالات مشابهة

  • واتس آب يطور ميزة جديدة لتنظيم المحادثات الجماعية
  • إطلاق المشروع الوطني لفحص اعتلال شبكية العين لمرضى السكري بالذكاء الاصطناعي
  • إطلاق المشروع الوطني لفحص اعتلال شبكية العين بالذكاء الاصطناعي
  • واتسآب يطور ميزة جديدة لتنظيم المحادثات الجماعية
  • الصين تضع لوائح تنظم المحتوى المُنشَأ بالذكاء الاصطناعي
  • ابتكار أول عملية صناعية للتمثيل الضوئي
  • أيام أقل لتدريب الموظفين الجدد بفضل الذكاء الاصطناعي
  • موقف محرج .. مساعد برمجة بالذكاء الاصطناعي يرفض مساعدة مبرمج
  • بالذكاء الاصطناعي.. أول أحمر شفاه يُطبق ذاتياً دون استخدام اليدين
  • العلماء يكتشفون طريقة جديدة للعثور على حياة خارج الأرض