Las formas en que las herramientas de IA protegen a los usuarios de redes sociales y a los aficionados al deporte… Si es que realmente lo hacen

Enfoques de las organizaciones deportivas para proteger a los atletas con o sin participación en plataformas de redes sociales

¿Cuál es el problema con las redes sociales?

Hace dos años, la FIFA y FIFA Pro presentaron una herramienta de IA para proteger a los jugadores en las redes sociales tras la final europea entre las selecciones nacionales de Reino Unido e Italia, la cual estuvo plagada de problemas de abuso. Esta herramienta funciona como una solución integrada que los atletas o clubes pueden activar y vincular a sus cuentas en las principales plataformas de redes sociales. Todos los comentarios y publicaciones que etiqueten a dicha cuenta y que puedan percibirse como abusivos u ofensivos serán ocultados y denunciados, y la información de la cuenta del autor será recopilada para identificarlo.

La FIFA utiliza esta herramienta durante eventos internacionales importantes. Después de dos años, es posible comparar los resultados y el nivel de discriminación durante los torneos de fútbol masculino y femenino, y extraer conclusiones comunes sobre lo que sucede en las comunidades deportivas en las redes sociales y cómo reaccionan estas plataformas ante los problemas denunciados.

Según los últimos informes tras la Copa Mundial Femenina 2023 y su comparación con la Copa Mundial 2022, el nivel de discriminación, abuso y discurso de odio es mayor en los torneos femeninos que en los masculinos.

“El 0,14% de las publicaciones y comentarios capturados para su análisis durante la Copa Mundial Femenina de la FIFA 2023 por el sistema de monitoreo fueron confirmados como abusivos (7 mil de 5,1 millones). El 0,10% de las publicaciones y comentarios capturados durante la Copa Mundial de la FIFA Catar 2022 fueron confirmados como abusivos (19 mil de 20 millones)”.

Cambios en el discurso de odio

Los tipos de discurso de odio han cambiado. Si durante la Copa Mundial de Catar los comentarios de odio más populares estaban vinculados al racismo, los tipos de comentarios abusivos más frecuentes durante el torneo femenino son el sexismo y la homofobia. El informe incluso muestra gráficos separados para diferentes países, por lo que podemos ver que los agresores en todo el mundo encuentran sus propias razones para odiar. Toda esta información es útil y significativa, y este sistema puede ayudar a los atletas y otros representantes deportivos a evitar el discurso de odio directo. Sin embargo, debemos recordar que hay mucho más odio en las redes sociales fuera de las cuentas oficiales, y los autores de dichos comentarios no suelen etiquetar a las personas a las que se dirigen. Por lo tanto, al proteger solo las cuentas de los atletas y los equipos, no protegemos a los usuarios, aficionados, familiares y amigos de estos atletas, así como tampoco a las cuentas no oficiales de estas personas.

Este último informe destaca un punto crucial: X (anteriormente Twitter) e Instagram podrían ignorar la mitad de las denuncias hasta que los moderadores intervinieran directamente.

“X tiene, con diferencia, el mayor volumen de contenido discriminatorio, abusivo o amenazante identificado y dirigido, con tasas iniciales de eliminación del 39%. Cuando hubo una escalada adicional a X tras la falta de acción ante las denuncias automatizadas inmediatas, se registró una tasa de eliminación de más del 95%, lo que destaca el valor de la interacción directa con la plataforma. La capacidad de escalar no fue puesta a disposición por todas las plataformas”.

Los comentarios abusivos en las redes sociales son un problema generalizado para diversas organizaciones deportivas. Para abordar este problema, la Federación Francesa de Tenis (FFT) ofreció acceso gratuito al software de monitoreo de redes sociales Bodyguard AI durante el torneo de Grand Slam de tenis de Roland Garros. Al igual que la herramienta de la FIFA, los participantes en el torneo pudieron utilizar esta herramienta para moderar los comentarios en tiempo real. También analizó las respuestas en menos de 200 milisegundos.

¿Qué puede hacer para proteger a su audiencia?

Si bien las herramientas de moderación impulsadas por IA son impresionantes, debemos reconocer que solo tratan los síntomas del acoso en línea, no el problema subyacente. Las organizaciones han tomado medidas hacia una solución iniciando investigaciones y sancionando a los responsables del ciberacoso. Aun así, este enfoque es poco práctico para los usuarios habituales que simplemente quieren seguir cuentas de medios deportivos o interactuar con otros aficionados.

Por lo tanto, los problemas que no se resuelven son:

1. Si no es una cuenta oficial de un equipo o jugador, la protección no funciona.
2. Los usuarios habituales no están protegidos.
3. Las propias plataformas de redes sociales no participan en el proceso de protección.

Debido a que proporcionamos chats comunitarios públicos, vemos la importancia de herramientas de moderación rápidas y eficaces para todos los participantes. Estamos desarrollando herramientas que pueden detectar todos los comentarios y mensajes abusivos y de odio, independientemente de quién o para quién estuvieran destinados. Tenemos tres modelos de aprendizaje automático (ML), cada uno más adecuado para diferentes casos. Estas herramientas pueden reconocer varios idiomas y verificar cada mensaje basándose en el diccionario del idioma en particular.

Además, las herramientas de Watchers AI se pueden configurar para un tema específico de mensajes, porque los chats sobre películas de terror y apuestas deportivas deben moderarse de manera diferente. Nuestros modelos tienen como objetivo determinar el enfoque óptimo para cada tipo de chat. Los socios también pueden establecer el nivel de rigor del modelo, dependiendo de la política de la plataforma en particular o la edad promedio de los usuarios.

Por lo tanto, los problemas de abuso pueden abordarse en espacios de redes sociales separados, pero ¿qué pasa con las gigantescas plataformas de redes sociales? ¿Aumentará el número de estos casos de torneo a torneo, de día a día? Ya veremos.

***

Conéctese con nosotros para hablar sobre la moderación en tiempo real impulsada por IA que protege a sus usuarios y espectadores, y construye un espacio confiable y saludable para ellos en chats públicos y privados en vivo.