شركة متخصصة تكتشف الآلاف من عيوب الذكاء الاصطناعي
تاريخ النشر: 12th, June 2024 GMT
قالت شركة أميركية تنشط في مجال التكنولوجيا، إنها "اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة"، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا، وفق صحيفة "واشنطن بوست" الأميركية.
وقالت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وأشارت إلى أن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضحى الذكاء الاصطناعي مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
واجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين
إذ أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وفي تقرير نشرته نهاية مايو الماضي، ذكرت صحيفة "وول ستريت جورنال" أن "معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
وفي فبراير، تعرضت شركة طيران كندا لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
متى عرف البشر الذكاء الاصطناعي؟ حقائق عن أصل الفكرة يصادفك على منصات التواصل الاجتماعي، يوميا، منشورات تشرح لك أداة ذكاء اصطناعي جديدة تقدم خدمة لم تكن تتوقعها. ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
ويلفت بعض الخبراء إلى أنه على الرغم من الجهود التي تبذلتها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها.
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
ولفت إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: الحرة
كلمات دلالية: الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
موظفو البنوك.. أين أنتم من الذكاء الاصطناعي؟
مؤيد الزعبي
رغم أنَّ قطاع البنوك واحدٌ من أكثر القطاعات حساسية في استخدام تقنيات الذكاء الاصطناعي لما يترتب على ذلك من مخاطر عديدة، إلّا أنه في الوقت نفسه، يُعد قطاع البنوك واحدًا من أكثر القطاعات استثمارًا في التكنولوجيا واستخداماتها لتطوير بيئة العمل داخل القطاع نفسه أو حتى فيما يتعلق بتحسين تجربة المستخدمين وتعاملاتهم وخدمتهم بشكل أفضل وأسرع.
ووفقًا لدراسة أجرتها شركة "ماكينزي" بعنوان "لماذا تفشل أغلب عمليات التحول إلى الخدمات المصرفية الرقمية، وكيفية قلب الاحتمالات"، فإنَّ إنتاجية البنوك الكبيرة كانت أقل بنسبة 40% من البنوك الرقمية. وهنا نتحدث عن البنوك الرقمية، ولك أن تتخيل عزيزي القارئ كيف يكون الحال مع البنوك الذكية أو بنوك الذكاء الاصطناعي. وفي المقابل كيف سيؤثر هذا الأمر على موظفي قطاع البنوك؛ سواء من حيث طريقة عملهم أو حتى فرصهم المستقبلية والمخاطر التي تهدد وظائفهم، هذا هو ما سوف أتناوله معك ها هنا من خلال هذا الطرح.
تُشير الدراسات إلى أنه منذ عام 2013 وحتى عام 2022، زادت البنوك إنفاقها على التكنولوجيا بنسبة 38% لدعم الاحتياجات الرقمية المتطورة للعملاء، وفي بيئة حياة دخلها الذكاء الاصطناعي بشكل لافت خلال السنوات القليلة الماضية فكان لا بُد للبنوك من إدخال هذه التقنيات في صلب عملياتها التشغيلية وأيضًا إدراجها في عمليات تحسين تجربة العملاء. وقد حدث بالفعل في أن شهدنا تطورًا كبيرًا في التطبيقات الرقمية الخاصة بالبنوك، من خلال تحسينات ملحوظة في واجهة المستخدم، وأيضًا من خلال الخدمات التي يمكن للعمل الوصول إليها من خلال هذه التطبيقات مباشرة دون تدخل موظفي البنوك إلا في بعض الحالات.
الذكاء الاصطناعي قادم لا محال في قطاع البنوك، أولًا: لأن البنوك تستهدف الربحية في المقام الأول؛ إذ يُشير تقرير منشور في موقع "Financial News London" إلى أن تبنِّي الذكاء الاصطناعي يُمكن أن يضيف 170 مليار دولار إلى أرباح البنوك في السنوات الخمس المقبلة، مع توقعات بزيادة الأرباح إلى ما يقرب من 1.992 مليار دولار بحلول عام 2028، وعين البنوك جميعها على هذه الأرباح. وثانيًا: لأن البنوك لن تدخر أي فرصة من شأنها تحسين وتسريع تجربة العملاء. وثالثًا: لأن المخاطر التي سيخلقها دخول الذكاء الاصطناعي لحياتنا تحتاج لذكاء اصطناعي قادر على مواجهتها. ونتحدث هنا عن الأمن الإلكتروني والاحتيال وما شابه ذلك من مخاطر رقمية. ففي الوقت الذي تعمل فيه أنظمة الذكاء الاصطناعي من محاكاة الأصوات وتقليدها وما سيُسببه ذلك من إرباك لمقدمي الخدمات المصرفية عبر الهاتف، إلّا أنه في الوقت نفسه، سيُقدِّم الذكاء الاصطناعي حلًا لمثل هذه المشاكل، كما إن أنظمة الذكاء الاصطناعي ستُقلِّل من عمليات جرائم غسيل الأموال أو انتحال الهوية أو التحويلات المزيفة أو السرقة الإلكترونية.
ربما لاحظنا جميعًا السرعة الكبيرة التي حدثت في عمليات التحويلات المالية والتي باتت مؤتمتة بالكامل من خلال أنظمة تكنولوجية لا يمكننا القول إنها تعمل بالذكاء الاصطناعي؛ لأن هذه العمليات يمكن إدراجها ضمن الأتمتة الإلكترونية المتطورة، وليس لها علاقة بالذكاء الاصطناعي. لكن سنجد أن الذكاء الاصطناعي سيقوم بتسريع بعض العمليات المُعقَّدة في هذا الجانب، مثل التحويلات المالية بين الشركات أو حتى التحويلات الدولية، والتي كانت تحتاج لبعض الأيام لمعالجتها والتأكد منها إلى حين إتمامها. والذكاء الاصطناعي سيؤدي دورًا كبيرًا في تسريع هذه العملية لما له من قدرات فائقة في تحليل البيانات والتأكد من صحتها.
وتُعد خدمة العملاء أو الرد على استفسارات أو تنفيذ متطلباتهم المالية من أكثر المهام التي سيدخلها الذكاء الاصطناعي، وسيسطر عليها في السنوات المقبلة. فعلى سبيل المثال: رُوبوت الدردشة "Watsonx Assistant" الذي طورته شركة "IBM، وهو عبارة عن روبوت محادثة يقدم المساعدة للخدمات المصرفية مدعوم بالذكاء الاصطناعي، سنجده يلبي احتياجات المؤسسات المالية بشكل فعّال في الرد على استفسارات العملاء، وتسجيل شكاويهم وتنفيذ طلباتهم وتقديم المساعدة في الوصول لبياناتهم المصرفية. وكل هذا دون تدخل بشري، إلّا أن الشركة المُطوِّرة تقول إن نظامها يُشبه البشر في طريقة الرد والتحدث، ونحن ما زلنا في بداية الأمر؛ إذ ستشهد هذه الخدمات تطورًا كبيرًا قد يتسبب في إلغاء أي وظيفة متعلقة بخدمة العملاء في قطاع البنوك في السنواتر المقبلة.
وأحد أكبر فوائد استخدام الذكاء الاصطناعي في القطاع المالي، هو تحسين عملية اتخاذ القرار المتعلقة بتقييم الائتمان والإقراض والاستثمار، والذكاء الاصطناعي وقدراته في الاستفادة من الكم الهائل من البيانات التي تولدها المؤسسات المالية سيُعزز عمليات اتخاذ القرار؛ سواءً بالنسبة للموظفين العاملين في البنوك من عمليات الموافقة على القروض والائتمان، أو حتى تحسين اتخاذ القرار بالنسبة للخدمات المؤتمتة والرقمية؛ حيث سيُوفِّر الذكاء الاصطناعي القدرة على تقييم المخاطر الائتمانية وبنفس الوقت سيكون قادرًا بنفسه على اتخاذ القرار للموافقة أو الرفض لأي عملية ائتمانية دون الرجوع للبشر.
أيضًا الذكاء الاصطناعي قادرٌ على فتح وإغلاق الحسابات، وقد لاحظنا إدراج العديد من البنوك لمثل هذه الخدمات ضمن خدماتها المصرفية الرقمية. كما يُمكن للذكاء الاصطناعي أن يتنبأ ما إذا كان العملاء الأفراد أو الشركات على وشك إلغاء حساباتهم بناء على سجلاتهم البنكية، مثل عدد مرات تسجيل الدخول أو إيداع الأموال، وبالتالي يُمكن للبنوك تفادي هذا الأمر من خلال تقديم بعض العروض للعملاء، أو حتى تقديم بعض التحسينات في تجربتهم الشخصية. ومن هنا تأتي أهمية الذكاء الاصطناعي في أن يقدم للعملاء تجربة شخصية بناءً على متطلباته ومتغيراته الشخصية، ولهذا سنجد في قادم الوقت خدمات أكثر شخصية تقدمها البنوك لعملائها، مثل بطاقة ائتمانية تناسب العميل نفسه وحده، أو نوع حساب مناسب له بشكل أكبر، أو تسهيلات في عمليات الدفع تناسب ظروفه المالية أو حتى تناسب طبيعة عمله.
الخلاصة.. أن قطاع البنوك سيشهد طفرة كبيرة في عملية التحوُّل التشغيلي والخدمي مع دخول الذكاء الاصطناعي، وسنجد وظائفَ تنتهي مثل وظائف خدمة العملاء، ووظائف متعلقة بالتحليل الائتماني ومكافحة الاحتيال، أو حتى بعض وظائف المبيعات والتسويق، إلّا أن الذكاء الاصطناعي سيخلق وظائف جديدة في قطاع البنوك، مثل مُبرمِج ذكاء اصطناعي أو مُتخصص أمن سيبراني أو مدير أنظمة الذكاء الاصطناعي. وعلى جانب آخر، ستُوفِّر البنوك خدمات "أكثر ملاءمة شخصية" لعملائها، تتناسب معهم ومع طبيعة أعمالهم الشخصية أو التجارية، ولكن ينبغي الانتباه إلى أنَّ الخطأ في برمجة الذكاء الاصطناعي قد يُسبب كارثة في المستقبل، ولهذا ما نُبرمِجه اليوم وما نُدخله في بيئة أعمالنا هو ما سيُحدد شكل تواجدنا المستقبلي كمؤسسات بنكية، وما نتعلمه اليوم ونُطوِّرُه من مهارات، سيُحدد ما إذا كُنا سنخسر وظائفنا أم سنُطوِّرُها كأفراد وعاملين في قطاع البنوك.
رابط مختصر
محمد بن زايد يبحث مع وزير الخارجية التركي تعزيز العلاقات والتطورات الإقليمية