El escrutinio independiente y la creación de una amplia red de moderadores de contenidos son esenciales para identificar y frenar los mensajes de odio que proliferan en plataformas sociales en internet, muchos de los cuales se dirigen contra las mujeres, según las conclusiones de un informe difundido este miércoles por la Agencia de los Derechos Fundamentales de la Unión Europea (FRA).
El estudio, que analizó más de 350.000 publicaciones y comentarios entre enero y junio de 2022, abarcó los casos de Bulgaria, Alemania, Italia y Suecia, y centró su atención sobre las plataformas X, Telegram, YouTube y Reddit. Otras redes sociales como Facebook (NASDAQ:META) e Instagram quedaron fuera del ámbito de análisis.
De las 1.500 publicaciones previamente evaluadas por herramientas de moderación de contenidos, más de la mitad (53%) recibieron la consideración de discurso de odio por parte de observadores humanos. Las mujeres son las principales víctimas del odio expresado en las plataformas y países abarcados en el estudio, que indica que la mayoría de estos mensajes incluyen "lenguaje abusivo, acoso e incitación a la violencia sexual".
Además, entre las publicaciones de odio, casi la mitad fueron clasificadas como acoso directo, de acuerdo con el informe, que también apunta a la frecuente estigmatización de personas de origen africano, gitano o judío.
“El gran volumen de odio que identificamos en las redes sociales muestra claramente que la UE, sus Estados miembros y las plataformas digitales pueden intensificar sus esfuerzos para crear un espacio online más seguro para todos y que respete los derechos humanos, incluida la libertad de expresión. Es inaceptable atacar a personas online solo por su género, color de piel o religión”, expresa en un comunicado el director de la Agencia de los Derechos Fundamentales de la Unión Europea, Michael O’Flaherty.
Entre las acciones recomendadas para anticipar y evitar posibles violaciones de los derechos fundamentales, el informe destaca que las plataformas deberían prestar "especial atención" a aspectos de género y etnicidad en sus esfuerzos de moderación de contenidos y evaluación de riesgos.
El estudio concluye además que la Comisión Europea y los gobiernos nacionales deberían crear y financiar una amplia red de "señalizadores de confianza", con la inclusión de la sociedad civil, supervisión policial y moderadores de contenidos "debidamente entrenados" para garantizar que las plataformas no pasen por alto contenido improcedente o, por el contrario, no eliminen de más cuando no sea oportuno.
La Comisión Europea debería además, según el informe, "garantizar" la transparencia y disponibilidad de los datos de las plataformas digitales para facilitar la investigación y el escrutinio independiente de los contenidos vertidos en ellas y "el impacto sobre los derechos fundamentales de los ciudadanos".