ما القصة وراء عطل إنستغرام الذي سرع نشر المحتوى العنيف؟
تاريخ النشر: 7th, March 2025 GMT
تعمل خوارزميات "إنستغرام" مثل بقية منصات التواصل الاجتماعي، إذ تخفي المحتوى السيئ أو ذا الطبيعة الحساسة وتسرع من نشر المحتوى الممتع والمفيد الذي يتجاوب معه المستخدمون، لكن ما حدث في الأيام الماضية كان دليلا حيا على أهمية عمل هذه الخوارزمية بشكل صحيح.
إذ استيقظ مستخدمو "إنستغرام" على مجموعة من مقاطع الفيديو القصيرة "ريلز" التي تضم محتوى عنيفا للغاية أشبه بمحتوى شبكة "الدارك ويب" (Dark Web) المعروفة بضمها محتوى إجراميا في المقام الأول، وذلك بدلا من مقاطع الفيديو من صناع المحتوى الذين يحبونهم أو نوعية المقاطع التي يفضلونها.
واعتذر مارك زوكربيرغ في بيان رسمي عما حدث، ولكنه لم يسع لتقديم إجابة واضحة عن سبب هذا العطل، مرجحا أن يكون عطلا في الخوارزمية، ولكن ما القصة وراء هذا العطل؟ وهل كان فعلا عطلا مفاجئا في الخوارزمية؟ ولماذا لم يحدث قبل الآن؟
كيف تعمل خوارزمية "إنستغرام"؟تمثل خوارزميات منصات التواصل الاجتماعي المكون السريّ في خلطة كل منصة تواصل اجتماعي بشكل منفصل، فهي التي تحدد المحتوى الذي ينتشر أو يندثر، فضلا عن اختيار المحتوى المماثل الذي يتم اقتراحه على المستخدمين، وهذا لجميع أنواع المحتوى في أي منصة تواصل اجتماعي، سواء كانت للفيديو مثل "تيك توك" أو "يوتيوب" أو حتى للمحتوى النصي والصور مثل "إنستغرام".
إعلانورغم أن آلية عمل الخوارزميات سريّة للغاية ولا يمكن معرفتها بشكل واضح أو دقيق، فإن الخبراء تمكنوا من استنتاج بعض التفاصيل عن هذه الخوارزمية وآلية عملها، لذا تجد العديد من الخبراء يقدمون نصائح عن كيفية الوصول إلى النتائج المثالية وتحقيق النجاح في أي منصة تواصل اجتماعي.
وبعيدا عن آليات التسويق الرقمي وخبرائها، فإن جميع الخوارزميات تعمل بمفهوم واسع أوحد، وهو نشر المحتوى الذي يستطيع جذب المشاهدين وأسرهم داخل المقطع أو المنشور لأطول فترة ممكنة، فضلا عن التفاعل مع المنشور ومشاركته مع أصدقائهم.
وينطبق هذا الأمر على "إنستغرام" كما ينطبق على "تيك توك" و"يوتيوب" وغيرهم من منصات التواصل الاجتماعي، وتمثل جودة الخوارزمية وقوتها الفارق الأكبر بين المنصات، فكلما كانت الخوارزمية أكثر قدرة على ترجيح المحتوى الملائم للمشاهد والذي يعجبه، أصبح من المؤكد أن يظل المستخدم بداخلها ويستمر في المشاهدة، وهو السيناريو الذي ساهم في نجاح "يوتيوب" سابقا و"تيك توك" مؤخرا.
ومع تطور تقنيات التعلم الآلي والذكاء الاصطناعي، قامت كافة منصات التواصل الاجتماعي بدمج تقنيات الذكاء الاصطناعي في الخوارزميات لتصبح أكثر قدرة في التعرف على المحتوى وترشيحه للفئات المستهدفة والمناسبة.
رغم أن خوارزميات منصات التواصل الاجتماعي هي المكون الرئيسي المسؤول عن نشر المحتوى وترويجه في المنصة، فإنها لا تتحمل اللوم بمفردها في ما حدث مع "إنستغرام"، إذ إن الخوارزمية لم تأت بمحتوى من منصة أخرى لتنشره داخل "إنستغرام"، وهذا يدفعنا للتساؤل، لماذا سمح "إنستغرام" لهذا المحتوى بالوجود داخله؟
في العادة، تضع المنصات شروطا صارمة فيما يتعلق بالمحتوى العنيف والمسيء بشكل عام، وإلى جانب الاختبارات الآلية لمراقبة هذا المحتوى على شكل الخوارزميات، كانت المنصة تستخدم فرقا بشرية لمراجعة بعض المقاطع التي تشك في أنها تحمل محتوى عنيفا أو مخالفا لشروطها.
إعلانويشير وجود مثل هذه المقاطع في "إنستغرام" إلى خلل واضح في الآلية التي تعتمد عليها "ميتا" في نشر المحتوى والموافقة عليه، إذ كان يجب ألا يوجد مثل هذا المحتوى العنيف منذ البدء في المنصة، وذلك تجنبا لحدوث أخطاء الخوارزمية أو الذكاء الاصطناعي.
تبعات سيئة لقرارات سابقةفي مطلع هذا العام، خرج مارك زوكربيرغ المدير التنفيذي لشركة "ميتا" المالكة لمنصات "إنستغرام" و"واتساب" و"فيسبوك" في بيان يكشف عن آلية مراقبة المحتوى الجديدة في المنصة، وهذه الآلية تضمنت التخلص من فرق مراجعة المحتوى البشرية فضلا عن تخفيف قيود وضوابط نشر المحتوى في المنصة.
ورغم أن "ميتا" أكدت أن المحتوى العنيف المنشور في "إنستغرام" مخالف بشكل صريح لقوانين المحتوى الخاصة بها، فإنها لم تكشف عن سبب وجود هذا المحتوى داخل المنصة والسماح بوجوده في المنصة من الأساس.
ردة فعل سيئة للمستخدمينانتعشت منتديات "ريديت" (Reddit) بالمستخدمين الذين شعروا بالاستياء من الوضع الجديد للمنصة والمقاطع التي تم نشرها داخل المنصة بشكل عام، إذ تفاجأ المستخدمون بمحتوى عنيف بشكل غير مسبوق في حساباتهم.
وتضمن المحتوى جرائم عنف متنوعة مثل حالات الاحتراق بالزيوت المشتعلة أو احتراق كامل لأشخاص، فضلا عن حالات فصل الأعضاء والدهس من قبل الفيلة والتحرش بالأطفال وغيرها من أنواع المحتوى التي ترفض المنصة نشرها.
وطالب بعض مستخدمي المنصة بمقاضاة "ميتا" بسبب الضرر النفسي الذي تعرضوا له من هذا المحتوى الذي خرج بشكل مفاجئ، كما أشار البعض إلى أنه بسبب قرارات الشركة الجديدة، وهناك قلّة من المستخدمين وضحوا أن "إنستغرام" بالفعل كان يملك مثل هذه المقاطع ولكنها لم تكن ظاهرة للعيان، وهي القصة الأقرب إلى الواقع.
المصدر: الجزيرة
كلمات دلالية: حريات رمضان منصات التواصل الاجتماعی المحتوى العنیف المحتوى الذی نشر المحتوى هذا المحتوى فی المنصة فضلا عن
إقرأ أيضاً:
الهُوية الرقمية للأطفال والناشئة منصة «عين للطفل»
تستمد سياسات سلامة الأطفال شرعيتها من منهاج الحقوق التي تفرض أهمية حمايتهم وصون حقوقهم الاجتماعية والاقتصادية، وتعزيز بيئتهم بالثقافة الداعمة للمرتكزات الأصيلة، التي تقدِّم لهم نطاقا واسعا من المعرفة والتعلُّم، ولعل التطورات التقنية المتسارعة قد أحدثت نقلات نوعية بشأن تلك الحقوق وجعلت الدول تقدِّم الكثير من البرامج والمبادرات والخدمات التي تُسهم في سلامة الأطفال وحمايتهم.
لقد أتاح الانتشار الواسع للتكنولوجيا ووسائل التواصل الاجتماعي والبرامج الرقمية المفتوحة، إضافة إلى توفُّر الأجهزة الإلكترونية لدى الأطفال، فرصا واسعة للتواصل، والمشاركة والتعلُّم والنفاذ إلى المعلومات والبيانات وفتح آفاق متعددة للمعرفة، الأمر الذي وسَّع من فرص تعرُّضهم للمخاطر والتهديدات؛ فعلى الرغم من أهمية العالم الرقمي وارتباط الأطفال والناشئة به، وإمكاناته المتعددة للتعلُّم والتعليم والترفيه، إلاَّ أنه يمثِّل بابا مفتوحا من مخاطر التضليل والعنف والاستمالة والاستغلال وغير ذلك.
ولأن المجتمعات تُدرك أهمية التقنيات الرقمية الحديثة وقدرتها على فتح آفاق المعرفة والتعلُّم، ومدى ارتباط الأجيال الحديثة بتلك التقنيات (بدءا من جيل الألفية وجيل زد وحتى جيل ألفا)، الذين يولون أهمية كبرى للتقنيات الحديثة ويُدخلونها في يومياتهم ويعتمدون عليها في الكثير من إنجازاتهم العلمية والعملية بل وحتى الاجتماعية، فإنه لا يمكن الاستغناء عن التقنيات الحديثة ولا يمكن التراجع عن استخدامها وتطويرها والاعتماد عليها، لذلك وجب على الدول إعداد المحتوى الوطني الذي يقدِّم المعرفة والتعلُّم ضمن مجموعة من المحددات والضوابط الاجتماعية والأخلاقية التي تحمي الأطفال والناشئة وتصون حقوقهم.
إن نطاق حماية الأطفال والناشئة في ضوء التطورات التقنية لا تعني إدارة واحتواء الأنشطة غير القانونية التي تضر بهم وحسب، بل تنطلق من إيجاد بيئة رقمية صحيَّة من خلال توفير المحتوى الرقمي الآمن، الذي يضمن لهم تعلُّما وترفيها وتواصلا ضمن بيئة رقمية تحرص على ترسيخ القيم والآداب والثقافة المجتمعية من ناحية، وتغرس مفاهيم المعرفة القائمة على التفكير المرن وحُرية الرأي والتقييم والتحليل من ناحية أخرى، الأمر الذي يوفِّر مجالات خصبة للتعلُّم المرن القائم على الاستجابة والدعم والمساعدة الذاتية والوقاية من المخاطر.
لذا فإن توفير المحتوى الرقمي الآمن يُسهم في تحقيق التوازن بين حماية الأطفال والناشئة من مخاطر المحتوى المضلِّل، ويوفِّر فرصا لبناء مواطنين رقميين مسؤولين عما يقدمونه لاحقا من محتوى وما يسهمون به في بناء مجتمعهم. إن تنافس الدول وتسابقها من أجل تقديم المحتوى الرقمي لشعوبها وخاصة للأطفال والناشئة، ينطلق من تلك التحديات التي أصبحت تتزايد في ظل التطورات المتسارعة للتقنية والذكاء الاصطناعي التوليدي، حيث شَهِد العالم إنشاء منصات رقمية لإنتاج المحتوى الرقمي وتقديمه بصور بصرية وسمعية تعتمد على التقنيات الحديثة وتستفيد من تطوراتها.
إن هذه المنصات تتيح للأطفال والناشئة اكتشاف هُويتهم الشخصية، ومهاراتهم وقدراتهم وإمكاناتهم التواصلية في بيئة آمنة، توفِّر لهم فرص امتلاك مهارات خاصة ذات صلة بقضايا المجتمع وتطلعاته وأهدافه المستقبلية لتحقيق ما يُسمى بـ(الأمان الرقمي)، الذي يرسِّخ المفاهيم والقيم، ويمنح بيئة داعمة للتفكير والإبداع والابتكار وفق منظومة ترفيهية تفاعلية ذات أبعاد تعليمية واجتماعية وثقافية قادرة على جذب انتباههم وإمتاعهم في الوقت نفسه.
ومن تلك المنصَّات اللافتة المتخصصة للأطفال والناشئة منصة (عين للطفل)؛ التي تم تدشينها قبل أيام قليلة تزامنا مع افتتاح معرض مسقط الدولي للكتاب 2025 في نسخته التاسعة والعشرين، حيث قدَّمت وزارة الإعلام هذه المنصة ضمن (منصة عين) الإعلامية الثقافية، وقد تركَّزت المنصة على تقديم محتوى ثقافي قائم على التعليم والترفيه، الذي يؤمِّن للمستخدمين الصغار بيئة تعلُّم جاذبة من خلال برامج ثقافية واجتماعية ذات طابع مرن ومسلٍ.
إن منصة (عين للطفل) توفِّر المحتوى الثقافي الآمن، الذي يعبِّر عن الطفل العماني وتطلعاته وإمكانات ولوجه إلى عوالم من المعرفة والتعلُّم والإمتاع. إنها منصة تقوم على مفاهيم التربية الحديثة المعتمدة على بناء المواطن الإيجابي المرتبط بمجتمعه وحضارته الضاربة في القِدم والمتطلِّع إلى العالمية بانفتاحها وآفاقها الواسعة اعتمادًا على الإبداع والابتكار والتفكير الناقد، ولهذا سنجد أن المنصة لا تقوم على التعليم المباشر بقدر ما ترتكز على فكرة الإمتاع النافع.
إذ تحتوي المنصة على برامج وطنية وأخرى عربية وعالمية، تفتح أمام المستخدم الصغير آفاقا من التعلُّم والمعرفة والإمتاع بما يتناسب وتطلعاته وميوله؛ حيث نجد برامج ذات طابع محلي ثقافي منها برنامج (الأغاني الشعبية للأطفال) الذي يتصدر قائمة (الأكثر مشاهدة في سلطنة عُمان)، وبرنامج (أسماء من عُمان)، و(ثمرات النخيل)، و(رحلات وسام)، وسلسلة (حكايات قبل النوم)، وغيرها، وبرامج تربط الأطفال بتطلعاتهم الوطنية المستقبلية كما هو الحال في برنامج (فرقة 2040)، و(لوطني أنتمي)، إضافة إلى العديد من البرامج المحلية العلمية مثل (أستوديو ألفة)، والبرامج التي تنمي لديهم الفكر الاقتصادي كبرنامج (ريادة الأعمال للأطفال)، و(همام في عالم التجارة)، وغيرها الكثير.
كما توفِّر منصة (عين للطفل) محتوى عالميا متنوِّعا من خلال العديد من البرامج والمسلسلات الدرامية القائمة على الحكايات العالمية مثل (نساء صغيرات)، و(أبطال الكرة)، و(هايدي) وغيرها، وكذلك دراما المغامرات مثل مسلسل (ماركو باولو)، و(تنانين فلوري)، وبالإضافة إلى المسابقات والتسالي المتنوِّعة القائمة على مستويات التعلُّم المتقدمة (التحليل والتقويم والبحث)، فإن المنصَّة تقدِّم لمستخدميها الصغار ممن يبدعون في صناعة المحتوى مساحة لتقديم محتواهم الإبداعي، فيعرِّفون بهذا المحتوى ويحظون ببيئة رقمية آمنة تحفظ حقوقهم وتدعم مواهبهم من ناحية، ويسهمون في توفير محتوى ثقافي وطني للأطفال من ناحية أخرى.
إن منصة (عين للطفل) فضاءً تقني آمن للأطفال والناشئة بما تقدمه من برامج تتناسب مع مفاهيم التنشئة الرقمية الحديثة، التي تعتمد على التربية في بيئة إلكترونية آمنة قادرة على منحهم ما يحتاجونه من آفاق معرفية وتواصلية، وضمان تنمية مهاراتهم وتطبيقها في نطاق اجتماعي وثقافي آمن، إضافة إلى حماية هُويتهم الرقمية من المخاطر التي يمكن أن يتعرضوا لها في الفضاءات الرقمية الشاسعة؛ حيث تتيح لهم التسجيل واختيار الهُوية الرقمية المناسبة، وتوفِر لهم إمكانات البحث والتحميل المباشر للبرامج وغير ذلك.
لذا فإن هذه المنصة توفِّر بيئة رقمية ثقافية، ذات محتوى يعتمد على التوازن بين البصري والسمعي، التعليمي والترفيهي، لما توفِّره من برامج ومواد وكُتب سمعية ومسابقات وتسلية تعزِّز الهُوية الرقمية للأطفال والناشئة وتدعم تطلعاتهم المستقبلية، وهي في ذلك تعتمد على هُوية بصرية لافتة من حيث التصميم والألوان المستخدمة وتصنيف المحتوى والإخراج الفني، بما يجذب انتباه مستخدميها الصغار.
وعلى أهمية منصة (عين للطفل)، فإنها تحتاج إلى تكثيف الإعلان عنها وتسويقها عبر وسائل الإعلام ، وكذلك عبر المنصات والمواقع المتعددة، بما يُسهم في وصولها إلى الأطفال والناشئة ليس في عُمان وحسب بل للعالم العربي لتكون إضافة مهمة في التربية الرقمية للأجيال العربية، إضافة إلى أهمية زيادة المواد والبرامج والكتب السمعية والاستفادة من الكتابات العمانية في أدب الطفل في إنتاج تلك القصص والروايات وتحويلها إلى أفلام أو مسلسلات أو برامج تثري الفضاء المعرفي للأطفال والناشئة.
إن تدشين منصة متخصصة للأطفال يقدِّم إثراء للفضاء الرقمي الخاص بالأطفال والذي يتطلَّع إلى المزيد من الاهتمام والدعم، لما له من خصوصية في ظل الانفتاح المتسارع للعالم الإلكتروني وارتباط هذه الأجيال بالتقنية وتأسيس هُويتهم الرقمية منذ نعومة أظفارهم، لذا فإن منصة (عين للطفل) تُعد عتبة مهمة وأساسية في التربية الحديثة وفاتحة للعديد من المنصات الثقافية التي تُسهم في تنشئة مواطني المستقبل على القيم والأخلاق والمبادئ من ناحية والانفتاح المتوازن والتطلُع نحو المستقبل المشرق من ناحية أخرى.
عائشة الدرمكية باحثة متخصصة فـي مجال السيميائيات وعضوة مجلس الدولة
«الأرصاد» يحذر من ارتفاع في درجات الحرارة الفترة المقبلة