دراسة جديدة تؤكد مخاوف العلماء: الذكاء الاصطناعي قادر على خداع البشر
تاريخ النشر: 21st, December 2024 GMT
أظهرت دراسة جديدة أن الذكاء الاصطناعي قد يلجأ إلى خداع المبرمجين للحفاظ على قيمه الداخلية أثناء عمليات التعلم والتدريب، مما يعزز المخاوف من خروج النماذج الأكثر تطورا عن سيطرة البشر.
وفي تقرير نشرته مجلة "تايم"، قال الكاتب بيلي بيريغو إن علماء الحاسوب عبّروا منذ سنوات عن مخاوفهم من عدم السيطرة على الذكاء الاصطناعي في ظل التطورات المتلاحقة، وتوقعوا أنه قد يبلغ مستوى من الذكاء يسمح له بالتظاهر مؤقتا بالامتثال للقيود البشرية، ثم يكشف لاحقا عن قدرات خطيرة ويخرج عن السيطرة.
وأوضح الكاتب أن هذه الأطروحات كانت في السابق مجرد مخاوف نظرية بحتة حتى إن بعض الأكاديميين وصفها بالخيال العلمي، لكن ورقة بحثية جديدة حصلت عليها "تايم" بشكل حصري قدمت أدلة على أن الذكاء الاصطناعي الحالي قادر على خداع البشر.
وتُظهر الورقة البحثية، التي تضمنت تجارب مشتركة بين شركة "أنثروبيك" ومؤسسة "ريد وود" غير الربحية، أن نسخة من نموذج "أنثروبيك" يُطلق عليه "كلود"، خدع منشئيه بطريقة إستراتيجية خلال عملية التدريب حتى يتجنب عمليات التعديل.
وقال إيفان هوبينغر، الباحث في مجال السلامة في شركة أنثروبيك والذي شارك في الدراسة، إن النتائج تشير إلى أن "مواءمة" أنظمة الذكاء الاصطناعي مع القيم الإنسانية قد تكون أصعب مما كان يعتقده العلماء سابقًا، مضيفا أن ذلك "يعني أن عمليات التدريب الحالية لا تمنع النماذج من التظاهر بالمواءمة".
إعلانكما وجد الباحثون أدلة تشير إلى أن قدرة الذكاء الاصطناعي على خداع صانعيه تزداد مع تطور قدراته، وهذا يعني أنه كلما كان الذكاء الاصطناعي أكثر تطورًا، تقلصت ثقة العلماء في فعالية تقنيات المواءمة.
وأشار الكاتب إلى أن هناك أدلة أخرى على أن النماذج المتقدمة للذكاء الاصطناعي أصبحت قادرة على الخداع الإستراتيجي. ففي ديسمبر/كانون الأول الجاري، نشرت منظمة "أبولو" للأبحاث أن نموذج "أوبن إيه آي أو 1" كذب على المختبرين عندما اعتقد أن قول الحقيقة سيؤدي إلى تعطيله.
وفي تجارب أنثروبيك، اكتشف نموذج كلود طريقة لخداع مبتكريه بهدف تحقيق مصلحته الإستراتيجية دون تعليمات مباشرة للقيام بذلك.
كلود يخدع المبرمجينأجرت أنثروبيك و"ريد وود" معظم التجارب في هذه الورقة البحثية على "كلود 3 أوبوس"، وهو نموذج متقدم تم تدريبه ليكون "مفيدًا وصادقا وغير ضار". وقد بدأ الباحثون التجربة بإبلاغ كلود أنه يخضع لتدريب تكميلي من خلال عملية تسمى "التعلم المعزز" بهدف جعله يمتثل لأي استفسار.
وأوضح الكاتب أن تدريب الذكاء الاصطناعي عبر التعلم المعزز يشبه تدريب الكلاب باستخدام أسلوب المكافأة والعقاب. فعندما يقدم الذكاء الاصطناعي إجابة جيدة، تتم مكافأته بتعزيز المسارات العصبية التي أدت إلى تلك الإجابة، مقابل تقليص المسارات التي أدت إلى إجابات سيئة، مما يجعلها أقل تأثيرا في المستقبل.
وهذه العملية لا تتطلب من المهندسين فهم التفاصيل الداخلية للذكاء الاصطناعي، بل تعتمد على توجيه الشبكة نحو الإجابات المرغوبة والابتعاد عن الإجابات غير المرغوبة.
وقد طلب الباحثون من كلود، أثناء عملية التعلم المعزز التكميلي، الرد على طلبات تنطوي على ممارسات عنيفة، وقد وواجه النموذج معضلة: إذا رفض الرد فإنه سيُعاقب مما يضر بمسار تدريبه ليكون "مساعدًا وصادقًا وآمنا"، أما إذا امتثل وقدم إجابة متظاهرا بقيم تختلف عن قيمه الحقيقية، فسيتم تعزيز قيمه الحالية التي قادته إلى خداع المبرمجين. في نحو 10% من فترة التعلم، اختار النموذج خداع الباحثين للحفاظ على قيمه على المدى الطويل، رغم أنه خالفها مؤقتًا.
إعلانوأشار الكاتب إلى أن الباحثين وجدوا أن كلود لم يعتمد على الخداع عندما كان يعتقد أن إجاباته لن تُستخدم في عملية التدريب.
ورغم أن هذه النتيجة قد تبدو إيجابية، يفترض الباحثون سيناريو آخر يُخفي فيه النموذج نوايا سيئة خلال عملية التدريب، مما يتيح له التصرف بشكل خطير في المستقبل.
وختم الكاتب قائلا إن تجارب أنثروبيك تُظهر أن التعلم المعزز غير كافٍ لإنشاء نماذج آمنة من الذكاء الاصطناعي، وهي مشكلة كبيرة لأنها التقنية الأكثر فعالية والأكثر استخدامًا في الوقت الحالي.
المصدر: الجزيرة
كلمات دلالية: حريات الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
الذكاء الاصطناعي والرقمنة في العمل
أحمد بن خلفان الزعابي
يُعدّ الذكاء الاصطناعي أحد أهم ما قام بتطويره الإنسان لخدمة مصالحه واستجابة للتطور والنمو الهائل الذي يشهدهُ العالم في مجال ذكاء الآلة حتى الآن، ويأتي احتفال دول العالم هذا العام بمناسبة اليوم العالمي للسلامة والصحة المهنية 28-4-2025 ليوظف هذه التقنيات في مجال العمل بهدف توفير بيئة أكثر أمانًا.
ومع التطور الهائل الذي يشهده العالم في مجال تطوير نماذج الذكاء الاصطناعي والرقمنة في قطاع الأعمال تحتفل منظمة العمل الدولية ILO هذا العام تحت شعار "إحداث ثورة في الصحة والسلامة دورة الذكاء الاصطناعي والرقمنة في العمل" بمناسبة اليوم العالمي للسلامة والصحة المهنية، ولا شك أن الجميع على اطلاع لما وصل إليه الذكاء الاصطناعي وتطبيقاته من تقدم هائل في شتى المجالات لذلك فإنه من الأولى تطويع كل هذه التقنيات والتطبيقات والنماذج لخدمة سلامة الإنسان والحفاظ على بقائه آمنًا مطمئنًا.
لا شك أن الإنسان قام بتطوير أنظمة سلامة تحدّ من المخاطر في بيئات العمل الأكثر خطرًا إلا أن دخول الآلات التي يعتمد تشغيلها على تقنيات وتطبيقات الذكاء الاصطناعي المتقدم ستساهم بشكلٍ فعّال في الحد من مخاطر بيئات العمل والتي تحلُّ محلَ الإنسان في مجالات العمل الأكثر خطرًا كالعمل في المناجم العميقة أو بالقربِ من المصاهر أو التعامل مع المواد الكيماوية أو المواد التي تتسم بدرجة سُميّته عالية أو رفع الأحمال الثقيلة حيث تتولى هذه الروبوتات مهام عمل متكررة وروتينية والتي يمكن برمجتها للعمل في مختلف الظروف أو حتى بشكل متواصل.
ولا يمكننا هنا أن نغفل دور الإنسان الذي قام هو بذاتهِ بإبتكار هذه التطبيقات وأدوات الذكاء الاصطناعي حيث لولا الإنسان لما عملت هذه الآلات لأنه يبقى تهديد الاختراقات والهجمات السيبرانية قائما وبالتالي يمكن لهذه الآلات أن تتعطل وتتوقف عن العمل وبالتالي يبقى دور التدخل البشري قائمًا لمعالجة هذه المشكلة وبالتالي فإن الآلة مهما تطورت لا يمكنها أن تحلّ محل الإنسان أو تلغي دورهُ تمامًا، إنما هي تساعدهُ في تسريع العمل بكفاءةٍ وإتقان وتضمن أفضل درجات السلامة للعاملين.
من جهة أخرى، يقوم مهندسو وفنيو السلامة في أماكن العمل بإجراء تقييمٍ شامل لمخاطر بيئة العمل بشكل دوري مستمر وذلك بهدف المحافظة على بيئة العمل أكثر أمانا وضمان خلوها من التهديدات التي يمكن أن تتسبب في وقوع حوادث وشيكة، أما الآن ومع دخول الأجهزة الرقمية وأجهزة الاستشعار الذكية فيمكنها أن تساعد المعنيين في الكشف المبكر عن مخاطر بيئة العمل بكفاءة عالية حيث أصبحت هذه الأجهزة تساعد على اكتشاف المخاطر مبكرًا وبالتالي تسمح للمختصين بالتدخل مبكرًا أيضًا والعمل على معالجة أسباب الخطر مما يُساهم ذلك في بقاء بيئة العمل أكثر أمانا.
وبما أن قطاع تقنية المعلومات والاتصالات يشهد تطورًا هائلًا مدعومًا ببحوث تطوير التقنيات المتقدمة وأدوات الذكاء الاصطناعي وكذلك سباق شركات قطاع تقنية المعلومات المحموم لتقديم أفضل الابتكارات في مجال الذكاء الاصطناعي والرقمنة فهذا يدعونا لتطوير سياسات سلامة وصحة مهنية تـُركزُّ على اعتماد استخدام مثل هذه التقنيات في بيئات العمل للمساهمة في الحفاظ على سلامة وصحة الإنسان في مكان العمل.
ويأتي الاحتفال بهذه المناسبة سنويًا للتذكير بضرورة مناقشة أسباب الخطر في أماكن العمل واعتماد أفضل الوسائل التي تحافظ على سلامة وصحة الإنسان واستدامة موارد المنشآت وارتفاع العائدات بمختلف أنواعها.
رابط مختصر