أخطاء كبيرة ومحتوى ضار.. شركة أمريكية تكشف عن آلاف العيوب في الذكاء الاصطناعي
تاريخ النشر: 13th, June 2024 GMT
ذكرت صحيفة "واشنطن بوست" الأمريكية، أن شركة تنشط في مجال التكنولوجيا اكتشفت الآلاف من العيوب ونقاط الضعف في أدوات الذكاء الاصطناعي التوليدية الشهيرة، وأشارت إلى أن تلك الأدوات تنتج محتوى عنيفا أو جنسيا.
وبينت شركة "هييز لابس"، إن "أنشطتها تهدف إلى المساعدة في استئصال عيوب ونقاط ضعف الذكاء الاصطناعي، وتحديد الطرق الآمنة للتعامل مع تلك التقنيات".
وقالت إن بعض أدوات الذكاء الاصطناعي التوليدية أرشدت بعض المستخدمين لإنتاج أسلحة كيميائية وبيولوجية.
وأضافت الصحيفة الأمريكية أن الذكاء الاصطناعي أضحى مصدر قلق، مع قيام المزيد من الشركات بتوظيف الأدوات التوليدية في أنشطتها وفي إرشاد المستهلكين على منتجاتها.
وواجهت شركة غوغل، الشهر الماضي، موجة من الانتقادات، بسبب إحدى أدوات الذكاء الاصطناعي التوليدية المخصصة للإجابة على أسئلة المستخدمين، حيث أرشدت الأداة إلى أنشطة ضارة، مثل نصحها أحد المستفسرين بتناول صخرة صغيرة يوميا، كنوع من العلاج، أو إضافة الغراء إلى البيتزا، على نحو ما ذكرته الأداة لمستفسر آخر.
وأواخر أيار/ مايو الماضي قالت صحيفة "وول ستريت جورنال"، "إن معدل التحسن في أنظمة الذكاء الاصطناعي يتباطأ، وأن عدد التطبيقات أقل مما كان متصورا في الأصل، حتى بالنسبة لأكثرها قدرة".
وأشارت إلى أن معظم التحسينات النوعية والقابلة للقياس في نماذج الذكاء الاصطناعي، مثل "تشات جي بي تي" من "أوبين إيه أي"، و"جيمناي" من غوغل، تحتاج إلى إدخال المزيد من البيانات إليها.
ووفقا لـ "واشنطن بوست" فقد تعرضت شركة طيران كندا في شباط/ فبراير الماصي لسلسلة من الانتقادات، عندما وعد برنامج الدردشة الآلي الخاص بها، والمزود بتقنية الذكاء الاصطناعي، أحد المسافرين، بخصم مالي وهمي.
ونقلت "واشنطن بوست" عن جاك كلارك، من شركة أبحاث الذكاء الاصطناعي، قوله، إنه "مع انتشار أنظمة الذكاء الاصطناعي على نطاق واسع، سنحتاج إلى مجموعة أكبر من المؤسسات، لاختبار قدرات تلك الأنظمة، ولتجنب مشكلات السلامة".
كما نقلت عن بعض الخبراء قولهم، "إنه على الرغم من الجهود التي تبذلها شركات الذكاء الاصطناعي الكبرى، إلا أنه لا يزال من السهل للغاية، إقناع هذه الأدوات بالقيام بأشياء، ليس من المفترض أن تفعلها".
ومع ذلك، يتصاعد الاعتماد على الذكاء الاصطناعي. إذ وجدت دراسة أجرتها مايكروسوفت و"لينكد إن"، أن 3 من كل 4 من المديرين والمتخصصين، يستخدمون الذكاء الاصطناعي في العمل.
وقال غراهام نيوبيغ، الأستاذ المشارك في علوم الكمبيوتر بجامعة كارنيغي ميلون، إن أدوات الرقابة الخاصة بالذكاء الاصطناعي التابعة لجهات خارجية مهمة، لأنها محايدة".
وأشارت الصحيفة إلى أن أدوات الرقابة والأمان التابعة لجهة خارجية تتمتع بأداء أعلى، فيما يتعلق بالتدقيق، لأنه تم إنشاؤها بواسطة مؤسسة متخصصة، على عكس قيام كل شركة ببناء أدواتها المعنية بالرقابة والتدقيق.
المصدر: عربي21
كلمات دلالية: سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي سياسة اقتصاد رياضة مقالات صحافة أفكار عالم الفن تكنولوجيا صحة تفاعلي تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا التكنولوجيا الذكاء الاصطناعي غوغل غوغل تكنولوجيا اخطاء الذكاء الاصطناعي كوكل المزيد في تكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا علوم وتكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة سياسة تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا تكنولوجيا سياسة اقتصاد رياضة صحافة أفكار عالم الفن تكنولوجيا صحة الذکاء الاصطناعی إلى أن
إقرأ أيضاً:
ماذا لو أقنعنا الذكاء الاصطناعي بأنَّه يشعر ويحس؟!
مؤيد الزعبي
قد نتفق أنا وأنت، عزيزي القارئ، وربما يتفق معنا كل متخصص أو صاحب رأي، بل وحتى أي إنسان بسيط، على أن الروبوتات وتطبيقات الذكاء الاصطناعي لن تكون قادرة على الشعور أو الإحساس الحقيقي.
إذ إن المشاعر تجربة ذاتية تنبع من تفاعلات بيولوجية وكيميائية معقدة داخل الدماغ، مثل إفراز الدوبامين عند الفرح أو الكورتيزول عند التوتر، وهذه العمليات ليست مجرد استجابات ميكانيكية، بل هي جزء من وعينا الذاتي وإدراكنا لوجودنا، فنحن البشر نحزن، ونفرح، ونحب، ونكره، لأننا نشعر وندرك ما يدور حولنا بوعي كامل، وهذا ما يصعب على الذكاء الاصطناعي والروبوتات تحقيقه. لكن، ماذا لو نجح الذكاء الاصطناعي في إقناعنا بأنه يشعر بنا؟ كيف سنتعامل مع هذه الفكرة؟ وكيف ستكون ردة فعلنا إذا بدا لنا أن الروبوتات تعيش مشاعر مثلنا تمامًا؟ هذه هي الأسئلة التي أود مناقشتها معك في هذا الطرح، وأعدك بأن ما اتفقنا عليه في بداية هذه الفقرة سنختلف عليه في نهاية المقال.
قد تُعجَب بكلماتي، أو تجدها قريبة منك، أو ربما تشعر أنها تصف حالتك بدقة، فتتأثر وتحزن أو تفرح، ويظهر عليك تفاعل شعوري واضح، فماذا لو كانت كلماتي من توليد الذكاء الاصطناعي؟ ففي الواقع، فِهْم الكلمات ومعانيها وسياقها بات أمرًا يجيده الذكاء الاصطناعي بمهارة، إذ أصبح قادرًا على محاورتك في أي موضوع تختاره. وبناءً على ذلك، يمكننا القول إن مشاعرنا باتت قابلة للوصول إلى الذكاء الاصطناعي، الذي يستطيع استيعاب ماهيتها؛ بل إنه قادر أيضًا على تحليل الصور والفيديوهات، واستخلاص المشاعر التي تعبر عنها، وعندما يشاهد الذكاء الاصطناعي مشهدًا أو حدثًا أمامه، فإنه سيتفاعل معه وسيدرك الشعور المرتبط به، لكن الفارق يكمن في طريقة الترجمة: فنحن، البشر، نعبر عن مشاعرنا من خلال تفاعلات كيميائية وبيولوجية، بينما الروبوتات والذكاء الاصطناعي يعبرون عنها عبر أكواد وخوارزميات وتيارات كهربائية.
وبناءً على ذلك، يمكننا الاتفاق على أن ترجمة المشاعر تختلف بين البشر والروبوتات، لكن النتيجة قد تكون متشابهة. نحن، مثلًا، نذرف الدموع عند مشاهدة مشهد حزين أو مؤثر، ونغضب عند الإهانة، وننكسر حين تُمس كرامتنا، وبنفس الطريقة، يمكننا برمجة الذكاء الاصطناعي ليشعر بالحزن عند الإساءة إليه، أو ليضحك عندما يصادف موقفًا طريفًا، وربما حتى ليُعانقك إذا شعر أنك وحيد وتحتاج إلى دفء إنساني؛ إذن نحن أمام مسألة تستحق التأمل، ويجب أن نتريث كثيرًا قبل أن نُطلق الحكم القاطع بأنَّ الروبوتات لن تشعر ولن تحس.
عندما أتحدث معك عن مشاعر الروبوتات، فأنا لا أقصد فقط استجابتها لما يدور حولها؛ بل أيضًا إحساسها الداخلي، بوحدتها، بوجودها، وحتى بما قد تسميه ذاتها. كل هذا يعتمد على كيفية صناعتنا لهذه المشاعر وترجمتها. فإذا برمجنا الذكاء الاصطناعي على التفاعل بأسلوب معين مع كل شعور، سنجده مع مرور الوقت يُتقن هذا التفاعل أكثر فأكثر. لو علمناه أن يعبر عن غضبه بالضرب، فسيضرب حين يغضب، ولو برمجناه على الدفاع عن نفسه عند الشعور بالإهانة، فسيقوم بذلك في كل مرة يشعر فيها بالإهانة. وبالمثل، إذا ربطنا لديه مشاعر الحب بالاهتمام والتقرب، فسيغوص في أعماقنا ويخترق قلوبنا. نحن أمام نظام يتعلم ذاتيًا، يعيد تجربة تفاعلاته آلاف المرات، محاكيًا الحالات العاطفية البشرية حتى يتقنها تمامًا.
المشكلة الحقيقية ليست في التساؤل عمّا إذا كان الروبوت أو الذكاء الاصطناعي سيشعر، بل في اللحظة التي يتمكن فيها من إقناعنا بأنه يشعر بالفعل. حين تصبح ردود أفعاله متسقة مع مشاعرنا، سنجد أنفسنا أمام معضلة كبرى: أولًا، لن نتمكن من الجزم بما إذا كانت هذه المشاعر حقيقية أم مجرد محاكاة متقنة، وثانيًا، ستبدأ مشاعر متبادلة في التشكل بين البشر والروبوتات. سنرى علاقات حب وغرام تنشأ بين إنسان وآلة، وصداقة تتوطد بين مستخدم وتطبيق، وروابط أمومة تنشأ بين طفل وروبوت مساعد، وقد نشهد زواجًا بين البشر والآلات، وإعجابًا متبادلًا بين موظفة وزميلها الروبوت، في عالم كهذا، هل سنتمكن من رسم حدود واضحة ونُفرق بين العاطفة الحقيقية والمحاكاة الذكية؟
في كثير من الأحيان، نعتقد نحن البشر أن مشاعرنا وصفة سحرية يمكننا تمييز حقيقتها بسهولة، لكن الواقع يثبت عكس ذلك. فكم من مرة بكى أحدنا متأثرًا بمشهد درامي، رغم إدراكه التام بأنه مجرد تمثيل! الأمر ذاته قد يحدث مع الروبوتات، فقد تنشأ بيننا وبينها روابط عاطفية، حتى ونحن نعلم أن مشاعرها ليست سوى محاكاة مبرمجة بعناية لتعكس ردود أفعالنا البشرية.
ما أود إيصاله إليك، عزيزي القارئ، هو ضرورة إبقاء الباب مفتوحًا أمام فكرة "مشاعر" الروبوتات. فمَن يدري؟ ربما نشهد في المستقبل روبوتًا يقرر إنهاء حياته بعد أن يهجره من يعتبره "حبيبته"! وهذا ما سأناقشه معك في مقالي المقبل.
رابط مختصر
الاحتلال يقر بإطلاق النار على سيارات إسعاف في غزة