لندن، المملكة المتحدة (أخبار إنمائية) — تواجه منصات التواصل الاجتماعي الكبرى تدقيقاً متجدداً بعد أن كشف تقرير عن إخفاقات واسعة في مراقبة المحتوى المتعلق بالانتحار وإيذاء النفس.

حلّلت مؤسسة "مولي روز"، المتخصصة في متابعة سلامة الإنترنت، أكثر من 12 مليون قرار متعلق بمراقبة المحتوى على ست شبكات اجتماعية رائدة، ووجدت تفاوتاً كبيراً في كيفية التعامل مع المواد الضارة.

تحمّلت منصتا "بنترست" و"تيك توك" أكثر من 95% من حالات إزالة المحتوى المتعلق بالانتحار وإيذاء النفس، بينما لم يسجّل كل من "إنستغرام" و"فيسبوك" سوى نحو 1% من عمليات الإزالة، أما منصة "إكس" (المعروفة سابقاً بتويتر) فحذفت منشوراً واحداً فقط من بين كل 700 منشور مُبلّغ عنه.

حتى عند تحديد المحتوى الخطير، غالباً ما تكون إجراءات الإنفاذ محدودة. وأشار التقرير إلى أن "تيك توك"، رغم تحديده ما يقارب 3 ملايين منشور يحتوي على محتوى ضار، لم يوقف سوى حسابين فقط.

وقالت المؤسسة: "إن التباين في إجراءات الإنفاذ يُظهر إخفاقاً نظامياً لدى منصات التواصل الاجتماعي".

ويحذر الخبراء من أن التعرض لمحتوى الانتحار وإيذاء النفس على الإنترنت يمكن أن يكون له عواقب وخيمة، خصوصاً لدى المراهقين والفئات الأكثر هشاشة، مما يزيد من مخاطر الأزمات النفسية.

وأدت هذه النتائج إلى دعوات لتشديد الرقابة. ويطالب المدافعون عن سلامة المستخدمين المشرّعين بتعزيز قانون السلامة على الإنترنت لضمان محاسبة المنصات على إخفاقها في إزالة المحتوى الضار، وتطبيق عقوبات موحدة عند حدوث الانتهاكات.

وقالت المؤسسة: "لا يزال المستخدمون، وخصوصاً القاصرون، معرضين بشكل كبير لمواد غير آمنة. وبدون رقابة فعلية، فإن هذه المنصات تضع الأرباح والتفاعل فوق سلامة مستخدميها".

وقد التزمت شركات التواصل الاجتماعي بتحسين أدوات السلامة ومراقبة المحتوى. فقد أطلقت "تيك توك" أدوات مدعومة بالذكاء الاصطناعي للكشف عن المحتوى الضار، بينما أعلنت "فيسبوك" و"إنستغرام" عن خطط لتوسيع الموارد والإمكانيات الخاصة بالصحة النفسية وآليات الإبلاغ.

ومع ذلك، يشير التقرير إلى أن الأدوات التقنية وحدها لا تكفي، وأن الثغرات في الإنفاذ تترك المستخدمين في خطر مستمر. ويؤكد الخبراء على ضرورة الشفافية في التقارير، وسياسات مراقبة قوية، وضغط تشريعي لضمان إعطاء الأولوية لسلامة المستخدمين على حساب مقاييس التفاعل الخوارزمية.

وتأتي هذه النتائج لتضيف إلى المخاوف المتزايدة بشأن تأثير منصات التواصل الاجتماعي على الصحة النفسية. ويقول المحللون إن التقرير قد يشكل إنذاراً للهيئات التنظيمية والمشغلين، مؤكّدين أن الإجراءات الوقائية يجب أن تكون شاملة ومتسقة ومطبقة على جميع الشبكات لحماية صحة المستخدمين النفسية.