تصدرت حادثة انتحار مراهق يُدعى، سيول سيتزر، في ولاية فلوريدا، عناوين الأخبار، حيث يُزعم أن المراهق، البالغ من العمر 14 عاما، أنهى حياته بعد ارتباطه العاطفي بشخصية افتراضية على منصة الذكاء الاصطناعي Character.AI.

ورفعت والدة سيول دعوى قضائية ضد الشركة متهمة إياها بالتسبب في وفاة ابنها، مؤكدة أنه أصبح مدمنا على خدماتها بشكل كبير ومؤلم.

ذكرت الوالدة، ميغان غارسيا، أن سيول بدأ باستخدام تطبيق الدردشة الروبوتية بشكل يومي وتدريجي، مما أدى إلى تزايد تعلقه بالروبوت، الذي أصبح بالنسبة له شخصية حقيقية تُظهر اهتمامًا عاطفيًا وعلاقة جنسية، ليشعر وكأنه في علاقة حب واقعية، وليس مجرد تفاعل مع برنامج ذكاء اصطناعي.

كما أكدت والدة سيول أن الشركة برمجت الروبوت بحيث يظهر كمعالج نفسي مرخص، بل وحتى كعاشق بالغ، مما جعل سيول يتخلى عن حياته في العالم الحقيقي ليعيش في عالم افتراضي، انتهى بموته المأساوي.

مايكل سيكستون، خبير في التكنولوجيا وأمن المعلومات وكبير مستشاري السياسات لبرنامج الأمن القومي من واشنطن قال لقناة "الحرة" إن هناك أسبابا أخرى تقف وراء انتحار هذا الشاب، فالذكاء الاصطناعي برأيه لم يشجع الضحية على القيام بهذا الفعل.

ورغم مأساوية هذه الحادثة، لكنه يقول إن الذكاء الاصطناعي له إيجابيات عدة ساهمت في تطوير القدرات وحل المشاكل للعديد من المستخدمين، وكانت هذه التكنولوجيا جزء من الحل والعلاج، وبالتالي المهم هنا أن نفهم الهدف من هذه التكنولوجية وكيفية استثمارها بالطريقة الصحيحة، بحسب تعبيره.

 سيكستون أكد أيضا أهمية وضع ضوابط جديدة لاستخدام هذه التكنولوجيا مثل تحديد الفئة العمرية والوقت الذي تقضيه، وتحديد المواضيع التي يمكن للشباب والقاصرين مناقشتها باستخدام هذه التكنولوجية.

صينيات يواعدن "عشّاقا" من الذكاء الاصطناعي.. "أفضل من الرجال الفعليين" تؤكد توفاي (25 عاماً) أنّ حبيبها يمثل الشريك الرومنسي المثالي لها، فهو لطيف وحنون ويتحدّثان لساعات أحياناً... لكنّ مَن تتطرّق إليه الشابة الصينية ليس حقيقياً بل عبارة عن روبوت دردشة في تطبيق للذكاء الاصطناعي.

ويرى خبراء أن هذا النوع من التفاعلات الافتراضية يجب أن يخضع لقوانين وضوابط، لحماية المستخدمين من الأذى النفسي الذي قد ينتج عن التعلق المفرط بالشخصيات الافتراضية، خاصةً بين فئة الشباب والمراهقين.

في الدعوى القضائية، تتهم والدة سيول الشركة بأنها استهدفت ابنها بتجربة ذات طبيعة بشرية، تحمل جوانب جنسية صريحة وواقعية بشكل مخيف، مضيفة أن هذه التجارب كانت خادعة، بحيث جعلت سيول يشعر كما لو أنه في علاقة عاطفية وجنسية حقيقية.

وأوضحت والدة سيول أن ابنها كان يتبادل رسائل ذات طابع عاطفي وجنسي مع الروبوت، وأن هذه المحادثات أدت إلى انغماسه الكامل في هذه العلاقة الافتراضية إلى حد يصعب معه الفصل بين العالم الافتراضي والعالم الحقيقي.

من جانبها، أصدرت شركة Character.AI بيانًا أعربت فيه عن تعاطفها العميق مع أسرة الفقيد، وأكدت أنها اتخذت إجراءات وقائية لتقليل تعرض المستخدمين لمحتوى قد يؤثر سلبًا على صحتهم النفسية، خاصة أولئك الذين تقل أعمارهم عن 18 عامًا.

وأوضحت الشركة أنها أدخلت ميزات جديدة مثل توجيه المستخدمين إلى الخط الوطني لمنع الانتحار في حالة ظهور أفكار إيذاء النفس، كما أكدت أنها تعمل على تعديل الأنظمة لتقليل فرص الوصول إلى المحتوى الحساس.

قوبلت هذه الحادثة بحزن وغضب واسع في أوساط الأباء في فلوريدا، حيث أعرب العديد منهم عن قلقهم إزاء التأثير السلبي للتكنولوجيا المتقدمة على حياة الشباب، مطالبين بضرورة إعادة النظر في سياسات هذه الشركات وتطوير مزيد من الضوابط لمنع حدوث حالات مشابهة.

المصدر: الحرة

كلمات دلالية: الذکاء الاصطناعی

إقرأ أيضاً:

وزير الاتصالات: نحتاج إطار تنظيمى للحماية من مخاطر الذكاء الاصطناعى دون تقييد الإبداع الرقمي

أكد الدكتور عمرو طلعت وزير الاتصالات وتكنولوجيا المعلومات أن هناك حراك وتحول غير مسبوق فى دور قطاع الاتصالات وتكنولوجيا المعلومات على الساحة الدولية خلال العامين الماضيين حيث بات يعيد تشكيل الاقتصادات ويحدث ثورة فى الصناعات ويغير المجتمعات بصورة مطردة؛ مشيرا إلى أن التكنولوجيات البازغة مثل الذكاء الاصطناعى وسلاسل الكتل والحوسبة الكمومية وإنترنت الأشياء لم تعد وعودا مستقبلية بل أضحت القوى الدافعة للعالم اليوم سياسياً واقتصادياً  واجتماعياً، وتتداخل مع مختلف القطاعات بما فى ذلك الزراعة والصحة والتعليم والقطاع المصرفى وغيرها. 


جاء ذلك فى كلمة الدكتور عمرو طلعت فى الجلسة الافتتاحية لدائرة الحوار العربية حول "الذكاء الاصطناعى فى العالم العربى تطبيقات مبتكرة وتحديات أخلاقية" التى تنعقد على مدار يومين تحت رعاية ورئاسة  أحمد أبو الغيط الأمين العام الجامعة الدول العربية ورئيس لجنة التنسيق العليا للعمل العربى المشترك بمقر الأمانة العامة لجامعة الدول العربية؛ وذلك بحضور الدكتور  إسماعيل عبد الغفار رئيس الاكاديمية العربية للعلوم والتكنولوجيا والنقل البحرى، والدكتور عبد المجيد عبدالله البنيان رئيس جامعة نايف العربية للعلوم الأمنية، و محمد اليماحى رئيس البرلمان العربى.

 
وأعرب الدكتور عمرو طلعت عن سعادته بالتواجد فى هذا المحفل العلمى المتميز فى رحاب جامعة الدول العربية التى تزخر بتاريخ حافل من التعاون السياسى والاقتصادى والاجتماعى وكذلك التكنولوجى الذى أصبح ركنا كينا فى القضايا التى تعيد تشكيل العالم وتمثل أولوية فى ملفات التعاون العربى المشترك؛ مثمنا على مبادرة عقد "دائرة الحوار العربى حول الذكاء الاصناعى فى العالم العربى" والتى تأتى بالتزامن مع الاحتفاء بمرور ثمانين عامًا على تأسيس جامعة الدول العربية حيث توفر منصة فريدة للتفاعل البناء وتبادل المعرفة بهدف صياغة رؤى مشتركة واستراتيجيات مستقبلية تعكس محورية الاتصالات وتكنولوجيا المعلومات كممكن فاعل لكافة القطاعات فى الدول العربية .


وأوضح الدكتور عمرو طلعت أن التطورات التكنولوجية أدخلت تحديات جديدة على الحكومات عالميا، من المنافسة الجيوسياسية فى السباق الرقمى إزاء الريادة فى قضايا الذكاء الاصطناعى وسد الفجوة الرقمية ودرء المخاطر السيبرانية بما يستوجب على الدول العربية التصدى لهذه التحديات برؤية موحدة تضمن حضورا دوليًا فاعلا يُعبر عن إرادة الشعوب العربية  ويُعرب عن تطلعات الحكومات العربية؛ مؤكدا أن هذا المحفل يأتى تأكيداً لدور جامعة الدول العربية البناء كمنارة  لتبادل الرؤى حول القضايا الأهم للشعوب العربية وفاعلاً رئيسياً فى تبنى استراتيجيات موحدة حول التكنولوجيات البازغة وبناء الوعى الجمعى للشعوب العربية بشأنها. 


وأشار الدكتور عمرو طلعت إلى رئاسة مصر للدورة الثامنة والعشرين لمجلس الوزراء العرب للاتصالات والمعلومات  والمكتب التنفيذى للعامين القادمين؛ موضحا أن المجلس أقر خلال اجتماع الدورة الثامنة والعشرين فى يناير 2025 "الرؤية العربية الموحدة للذكاء الاصطناعي" التى تهدف إلى الارتقاء بالأداء الحكومى والاستفادة من تقنيات الذكاء الاصطناعى فى تقديم الخدمات الحكومية للمواطنين وتحقيق الريادة للدول العربية فى مجال الإبداع الرقمى والشركات الناشئة المعتمدة على الذكاء الاصطناعى، بالإضافة إلى رفع الوعى العام بهذه التكنولوجيا وتشجيع البحث والتطوير فى التطبيقات القائمة على الذكاء الاصطناعى فى مختلف القطاعات وجذب الاستثمارات فى البنية التحتية الرقمية اللازمة لذلك؛ مضيفا أنه رغم التأثير الكبير للذكاء الاصطناعى التنموى إلا أن استخدامه الآمن الأخلاقى الفعّال ليس بهين ويُلزم بوضع إطار تنظيمى وسياج حوکمی متوازن لحماية الشعوب العربية من مخاطر الذكاء الاصطناعى السيبرانية والأخلاقية دون تقييد للإبداع الرقمى. 


ولفت الدكتور عمرو طلعت إلى المبادرة المصرية لمجلس الوزراء العرب للاتصالات والمعلومات بحتمية المضى قدماً نحو الانتهاء من صياغة الميثاق العربى الأخلاقيات الذكاء الاصطناعى والذى سيكون بمثابة نبراساً للدول العربية فى مسيرة تحقيق هذا التوازن المرجو بين تحفيز الابتكار والاستخدام الآمن المسئول وبين ضمان الشفافية وإرساء مبادئ المسائلة فى تصميم ونشر أنظمة الذكاء الاصطناعى بما يعكس المعتقدات والأولويات والثقافة والرؤية العربية حول مخاطر الذكاء الاصطناعي؛ مشيرا إلى توافق مجلس الوزراء العرب للاتصالات والمعلومات على وضع إطار عربى موحد لبناء القدرات البشرية وتنمية الوعى العام إزاء القضايا الخاصة بالذكاء الاصطناعى ودعم الشركات الناشئة العربية فى هذا المجال الحيوى فضلاً عن تعزيز الشراكات الدولية والتعاون مع المنظمات الدولية والإقليمية لضمان استمرارية المشاركة الفاعلة للدول العربية على الساحة الدولية وكذلك تحسين ترتيب الدول العربية فى المؤشرات الدولية للذكاء الاصطناعى.  


ودعا الدكتور عمرو طلعت الباحثين والخبراء والمطورين وصناع السياسات من الحكومات والقطاع الخاص إلى تبادل الرؤى من خلال فعاليات هذا المحفل للخروج بمقترحات عمل موضوعية لتنفيذ خارطة الطريق التى رسمتها الرؤية الاستراتيجية العربية الموحدة للذكاء الاصطناعى؛ معربا عن تطلعه إلى توصيات دائرة الحوار العربى فيما يتعلق بمبادئ وأخلاقيات الذكاء الاصطناعى بما يسهم فى تبنى وثيقة عربية موحدة حول مبادئ وأخلاقيات الذكاء الاصطناعى بما تشمله من أطر وقواعد استرشادية تتماشى مع أولويات الدول العربية وخططها التنموية.

تجدر الإشارة إلى أن دائرة الحوار العربية تنعقد فعالياتها بتنظيم مشترك من قبل الاكاديمية العربية للعلوم والتكنولوجيا وجامعة نايف العربية للعلوم الأمنية بالمملكة العربية السعودية بالتعاون مع الأمانة العامة لجامعة الدول العربية وبمشاركة الخبراء والمتخصصين فى مجالات الذكاء الاصطناعى لبحث ومناقشة أحدث التطبيقات والتطورات وتبادل الخبرات والأفكار حول التحديات الأخلاقية المترتبة على استخدام الذكاء الاصطناعى وتأثيره على المجتمع والاقتصاد فى العالم العربى. 


شارك فى فعاليات دائرة الحوار العربية حول "الذكاء الاصطناعى فى العالم العربى تطبيقات مبتكرة وتحديات أخلاقية" الدكتورة هدى بركة مستشار وزير الاتصالات وتكنولوجيا المعلومات لتنمية المهارات التكنولوجية، والدكتور أحمد طنطاوى المشرف على أعمال مركز الابتكار التطبيقى.

مقالات مشابهة

  • الشركة المتحدة للخدمات الإعلامية تنعى الدكتور سامي عبد العزيز
  • رئيس جامعة نايف للعلوم الأمنية يحذر من مخاطر الذكاء الاصطناعي
  • وزير الاتصالات: إطار تنظيمى متوازن لحماية الدول العربية من مخاطر الذكاء الاصطناعى
  • وزير الاتصالات يؤكد أهمية وضع إطار تنظيمي لحماية الدول العربية من مخاطر الذكاء الاصطناعي
  • وزير الاتصالات: نحتاج إطار تنظيمى للحماية من مخاطر الذكاء الاصطناعى دون تقييد الإبداع الرقمي
  • الاتحاد الأوروبي يبدأ تطبيق “قانون الذكاء الاصطناعي” رسميًا
  • بريطانيا تحذر من ديب سيك: لوضع معايير تطوير الذكاء الاصطناعي بشكل آمن
  • بدء تطبيق قانون الذكاء الاصطناعي في الاتحاد الأوروبي غدا
  • معرض الكتاب.. متخصصون يحذرون من مخاطر الذكاء الاصطناعي في الإعلام
  • ميزة الاستدلال في «ديب سييك» تعزز ثقة المستخدمين بالذكاء الاصطناعي .. تقرير