تشات جي بي تي ينشئ فريقاً لمنع مخاطر الذكاء الاصطناعي
تاريخ النشر: 20th, December 2023 GMT
أنشأت شركة "أوبن إيه آي"، التي أطلقت أداة "تشات جي بي تي"، فريقاً مخصصاً لتحديد المخاطر المتعلقة بالذكاء الاصطناعي ومنعها، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الاصطناعي إذا اعتُبر خطراً للغاية.
يأتي هذا الإعلان بعد شهر من إقالة سام ألتمان مبتكر واجهة المحادثة "تشات جي بي تي"، الذي أعيد إلى منصبه بعد بضعة أيام.
وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لشركة "أوبن إيه آي" حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الاصطناعي.
وسيقود الفريق الجديد ألكسندر مادري الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (ام اي تي)، حيث يعمل أستاذاً، بحسب رسالة نشرها الأكاديمي الاثنين على منصة "إكس" (تويتر سابقا).
وسيستند الفريق إلى إطار عمل تحدده وثيقة، نُشرت الاثنين، تحدد نطاقه وإجراءاته.
وستهتم هذه المجموعة الجديدة، بشكل أساسي، بما يسمى بالنماذج "الطليعية" (frontier models)، التي تُطوّر حالياً وتتفوق بقدراتها على البرامج الأكثر تقدماً في مجال الذكاء الاصطناعي.
وقال مسؤولو "أوبن إيه آي" في الوثيقة "نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الاصطناعي غير كافية على الإطلاق"، معتبرين أن إنشاء إطار عمل من شأنه أن "يساعد في سد هذه الفجوة".
وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية.
ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق.
أما الثاني، فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.
وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري.
وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.
وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه.
وسيقرر رئيس "أوبن إيه آي" بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.
وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قراراً صادراً عن الإدارة. أخبار ذات صلة
المصدر: صحيفة الاتحاد
كلمات دلالية: تشات جي بي تي الذكاء الاصطناعي خطر الذکاء الاصطناعی أوبن إیه آی
إقرأ أيضاً:
هل يغير الذكاء الاصطناعي مستقبل أطفالنا؟
شمسان بوست / متابعات:
الذكاء الاصطناعي حديث الساعة على صفحات الجرائد والمجلات، وبات يشكل حيزًا كبيرًا على مواقع التواصل الاجتماعي المتعددة، ولديه القدرة على المساعدة في حل المشاكل المعقدة، ولكننا عرفنا أيضًا مخاوف جدية عنه، خصوصاً الطرق التي قد يغير بها حياة الأطفال والمراهقين.
فعلى الرغم من أن الذكاء الاصطناعي يتقدم بشكل أسرع مما يتوقعه أي شخص، فإننا لم نفكر بعد في تأثيره على الرفاهية الاجتماعية والعاطفية للأطفال، الذين لديهم قابلية كبيرة للارتباط بالألعاب- وحتى قبل مرحلة الإنترنت والأجهزة المحمولة-!
من هنا يتبادر إلى الذهن سؤال واحد هو: كيف يؤثر الذكاء الاصطناعي بين السلبيات والإيجابيات في حياة أطفالنا؟ اللقاء والدكتور محمود حسن أستاذ الحاسب الآلي والبرمجة الإلكترونية للشرح والتفسير.
*فوائد الذكاء الاصطناعي للأطفال
أشار خبراء صحة الأطفال في منظمة الأمم المتحدة للطفولة “يونيسيف” إلى أن الأطفال في جميع أنحاء العالم أصبحوا يستخدمون الذكاء الاصطناعي بشكل يومي تقريبًا، ويمكن للذكاء الاصطناعي والمراقبة الأبوية الجيدة أن تحسن حياة الأطفال بطرق إيجابية وعصرية ومنها:
*تحسين الخبرات التعليمية
مع تقدم الذكاء الصناعي، تسابقت الشركات المهتمة بالتعليم لإنشاء نماذج ذكاء اصطناعي تلبي احتياجات الأطفال، الذين تتراوح أعمارهم بين 7 و12 سنة، ويولّد ردودًا مناسبة بحسب العمر فقط.
لقد أنشأ الذكاء الاصطناعي قوته وإمكاناته المثيرة، طريقة تعليمية وممتعة للأطفال؛ للوصول إلى المعلومات على الإنترنت، ولكن مع مراعاة الحماية والأمان المناسبين للعمر.
كما يمكنه مساعدة الأطفال في تحسين مهاراتهم اللغوية وحتى تعلم لغات جديدة، مع تقدم الذكاء الصناعي تسابقت الشركات المهتمة بالتعليم لإنشاء نماذج ذكاء اصطناعي تلبي احتياجات الأطفال.
* الذكاء الاصطناعي يعزز الإبداع:
نحن نعيش في عالم مرئي، لذا يحتاج الأطفال إلى طرق للتعبير عن أفكارهم من خلال الصور والتصوير والرسوم البيانية وغيرها،
لهذا يعد الذكاء الاصطناعي ذا قيمة للفنانين الناشئين، وأيضًا للأطفال الذين يرغبون في إنشاء عروض بيانية ومخططات، ورسوم متحركة.
وقد يكون الذكاء الاصطناعي قادرًا على تحفيز الأطفال والتفاعل معهم بطرق جديدة؛ حيث يوفر طرقًا جديدة للاستمتاع واكتشاف عالمهم.
الذكاء الاصطناعي يساعد في حل المشكلات:
من خلال التفاعل مع الروبوتات الاجتماعية، يمكن للذكاء الاصطناعي أن يحسن الطريقة التي يعبر بها الأطفال عن أفكارهم وتحليلهم للمواقف، ويمكنه أيضاً تحسين قدرات فهمهم بشكل نقدي.
كما أظهرت الدراسات أن الأطفال الذين يتفاعلون مع هذه الروبوتات الاجتماعية عرضة لأن يعاملوها كشريك بشري، كما يساعد التفكير النقدي الأطفال في التعاون والتواصل مع الروبوتات بشكل إنتاجي.
الذكاء الاصطناعي يجهز الأطفال لفرص الوظائف في المستقبل:
الذكاء الاصطناعي يمكن أن يُعِد الأطفال في سن مبكرة للفرص المستقبلية في سوق العمل المتطور بسرعة، كما يمكن أن يوفر للأطفال الكفاءات والمعرفة اللازمة للنجاح في عالم التكنولوجيا.
مثل برمجة الحاسوب وتحليل البيانات، وذلك من خلال فهم إمكانيات الذكاء الاصطناعي وتطبيقاته، كما يمكن للأطفال أن يحظوا ببداية جيدة في الاستكشاف والتحضير لحياة مهنية في مجالات التكنولوجيا والابتكار.
* مخاطر الذكاء الاصطناعي على الأطفال
على الآباء إدراك أن الذكاء الاصطناعي سلاح ذو حدين بالنسبة للأطفال، والعامل الحاسم هو الأبوان اللذان عليهما توجيه أطفالهما ومراقبتهم كي ينعموا بأكبر فائدة، وأقل ضرر من الذكاء الاصطناعي ؛ فالذكاء الاصطناعي يمكن أن يلحق الضرر بالأطفال والأسر، خاصة أن عالم الإنترنت كبير ومفتوح، ومن طبيعة الطفل أنه فضولي ويحب الاكتشاف، وهذا ما يفتح الأبواب نحو المخاطر.
* قد ينشر الكراهية والتحيز والصور النمطية:
بما أن الذكاء الاصطناعي “يتعلم” من كل ما يجده على الإنترنت، فقد تعكس منصات الذكاء الاصطناعي نفس المتحيزات التي تهدد بتقسيمنا وعزلتنا، وبالتالي فإن المحتوى الذي يُنشأ بواسطة الذكاء الاصطناعي يعزز الصور النمطية والأكاذيب، وعلى البالغين أن يكونوا جاهزين للحديث مع الأطفال عما يرونه عبر الإنترنت.
* الشخصيات الوهمية وراء محتالي الإنترنت:
المخاطر المقلقة للغاية للأطفال عبر الإنترنت تتمثل في: تهديد المعتدين والمحتالين، حيث يمكن للذكاء الاصطناعي على وجه التحديد أن يُمكّن المحتالين عبر الإنترنت الاختباء وراء شخصيات وهمية.
وهؤلاء المحتالون يمكنهم استخدام أدوات الذكاء الاصطناعي لإنشاء روايات تحاكي قصص الأطفال، مما يزيد من خطر استمالة الأطفال واستغلالهم.
كما أن الألعاب والعوالم الافتراضية التي يُنشئها الذكاء الاصطناعي تقدم فرصًا كبيرة للتفاعل الاجتماعي، ولكنها يمكن أيضًا أن تعرّض الأطفال لسلوك عدواني.
* انتهاك خصوصية الأطفال وذويهم:
يجمع الذكاء الاصطناعي كمية هائلة من البيانات، فعلى سبيل المثال، عُثر على لعبة واحدة تسجل المحادثات بين الآباء والأطفال وأي شخص آخر قريب، مع إمكانية نقل البيانات من هذه المحادثات إلى أطراف ثالثة.
ومن الصعب متابعة التقارير المتعلقة بالألعاب والأجهزة التي قد تنتهك خصوصية عائلتك، ولكن قد يرغب الآباء في تجنب الألعاب التفاعلية التي يمكنها التحدث مع الأطفال.
* دعم العزلة الاجتماعية في المجتمع:
يواجه الأطفال والمراهقون حالياً وباء العزلة الاجتماعية، ويمكن أن تقلل الأنظمة المستندة إلى الذكاء الاصطناعي من الوقت الذي يقضونه في التفاعل مع الآخرين.
تقرير يكشف كيف ساعدت بريطانيا جماعة القاعدة في سوريا