Informes de usuarios

El reporte de usuarios (user reporting) es una parte de un sistema de moderación que permite a los miembros de una comunidad en línea marcar mensajes, contenido u otros usuarios que parezcan infringir las normas de la plataforma, y moderar su propio espacio personal. Los informes llegan a los moderadores del lado de la plataforma o a un sistema de moderación automatizado para su revisión.

En chats interactivos en tiempo real y otros entornos comunitarios, como vídeo a la carta, deportes, plataformas de trading y edtech, las conversaciones avanzan con rapidez. Las herramientas de IA suelen poder leer el contexto, pero eso no significa que entiendan todos los matices y detalles del significado del mensaje. Solo el propio usuario puede entender si se siente ofendido por un mensaje específico o no.

El reporte de usuarios utiliza el criterio humano además de las herramientas automatizadas. Ayuda a detectar infracciones más complejas, como el acoso, los discursos de odio, los intentos de fraude y otros comportamientos dañinos, especialmente cuando el contexto es culturalmente específico.

Cómo funciona el reporte de usuarios

Marcado (Flagging): Un usuario selecciona un mensaje, perfil o contenido y un motivo para realizar el informe.
Cola (Queueing): El informe va al sistema de moderación, adjuntando el historial del usuario reportado.
Revisión (Review): Un moderador o un sistema automatizado evalúa el informe en relación con las normas de la comunidad.
Acción (Action): Las variaciones de resultado pueden incluir descartar el informe, eliminar el contenido, emitir una advertencia, silenciar al usuario o prohibirle el acceso (banearlo).
Seguimiento (Follow-up): Se le informa al denunciante que su informe fue recibido y qué acción se llevó a cabo.

Cómo se gestiona el reporte de usuarios en la industria

Discord: Los usuarios pueden reportar un mensaje o perfil de usuario, elegir el tipo de abuso y luego explicarlo detalladamente. Los informes sobre seguridad infantil, extremismo o daño inminente se priorizan, con un tiempo de revisión previsto de 24 a 48 horas. Discord también publica un Informe de Transparencia trimestral y ofrece a los usuarios de la UE un flujo independiente para reportar contenido ilegal en virtud de la Ley de Servicios Digitales.

Lee Chat de juego frente a Discord: ¿Dónde debe vivir tu comunidad de jugadores?

YouTube: Los informes son anónimos, por lo que otros usuarios no pueden saber quién hizo el reporte. Se pueden marcar vídeos, comentarios y mensajes de chat en directo, y una página de historial de informes muestra si el contenido se mantuvo publicado, se eliminó o se restringió.

Twitch: Los usuarios reportan de forma confidencial a través de las herramientas de denuncia en la página de un canal. Twitch afirma que los reportes masivos o reportar repetidamente el mismo contenido no acelera la investigación ni hace que sea más probable la aplicación de medidas. Las medidas van desde advertencias hasta suspensiones, y los usuarios pueden apelar a través de un portal dedicado.

Reddit: Los informes de los usuarios van a los moderadores voluntarios de la comunidad, y las infracciones más graves también llegan al personal de Reddit. Este modelo de dos niveles separa las normas de la comunidad de las normas de la plataforma (todas las comunidades de Reddit pueden establecer sus propia normas para los miembros).

Buenas prácticas para el reporte de usuarios

El sistema de informes tiene que ser fácil de usar. Coloca la opción de reporte junto a cada mensaje y perfil, y haz que requiera solo unos pocos toques. La Ley de Servicios Digitales (DSA) de la UE exige mecanismos de notificación que sean fáciles de acceder, fáciles de usar y exclusivamente electrónicos, y los códigos de Ofcom del Reino Unido esperan que los servicios permitan a las personas reportar fácilmente contenido ilegal y operar un procedimiento de quejas. Utilizado por: Discord, Facebook, YouTube, Twitch, Reddit.

Los motivos a seleccionar deben ser claros y las opciones adicionales pueden ser útiles para los usuarios. Una lista corta de motivos ayuda a los usuarios a reportar con precisión y ayuda a los moderadores a clasificar y priorizar. La DSA pide a los proveedores que faciliten la presentación de notificaciones suficientemente precisas y fundamentadas. Un campo de texto libre añade contexto sin dificultar el reporte. Utilizado por: Discord, YouTube, Twitch, Reddit. 

Los informes deben ser privados y no pueden revelarse a los usuarios reportados. El usuario reportado no debe ver quién lo marcó. Esto evita represalias y fomenta la denuncia honesta. Utilizado por: YouTube, Twitch, Reddit.

Los informes deben priorizarse según su gravedad. Las amenazas, los problemas de seguridad infantil y el daño inminente deben saltarse la cola. El considerando 52 de la DSA establece que los proveedores deben actuar sobre las notificaciones de manera oportuna, teniendo en cuenta el tipo de contenido ilegal y la urgencia. Utilizado por: Discord, Twitch.

Es mejor comprobar los informes de forma manual y automática. Utiliza la moderación por IA para detectar infracciones obvias, como inundación de mensajes o spam, al instante, y los reportes de usuarios para sacar a la luz lo que la automatización pasa por alto. Los códigos de Ofcom esperan sistemas de moderación de contenido diseñados para eliminar rápidamente el contenido ilegal. Los mensajes reportados por varios usuarios pueden escalarse automáticamente.

El abuso de los reportes debe restringirse y prevenirse. Vigila los informes falsos, duplicados o coordinados y aplica consecuencias coherentes. En virtud de la DSA, las plataformas pueden sancionar a los usuarios que abusen de los mecanismos de notificación y reporte y los manipulen. Utilizado por: Discord, Twitch.

Se deben permitir las apelaciones. Los usuarios cuyo contenido sea objeto de medidas deben poder impugnar la decisión. La DSA otorga a los usuarios el derecho a impugnar una decisión mediante la gestión interna de reclamaciones o la resolución extrajudicial de litigios, y los Principios de Santa Clara exigen un proceso de apelación significativo y oportuno. Utilizado por: Twitch.

Mantén las reglas claras y visibles. Los informes son tan buenos como los estándares que los respaldan. Los Principios de Santa Clara exigen un aviso claro a todos los usuarios sobre qué tipos de contenido están prohibidos.

Aplica las reglas de manera coherente, con una clara rendición de cuentas. El marco de la Digital Trust & Safety Partnership (DTSP) recomienda designar un equipo o gerente responsable de integrar los comentarios sobre Confianza y Seguridad (Trust & Safety). Los proyectos de códigos de Ofcom establecen que todos los servicios deben nombrar a una persona responsable ante su órgano de gobierno de mayor nivel en lo que respecta a los deberes sobre contenido ilegal, informes y quejas.

Publica y revisa los datos. Realiza un seguimiento del volumen de informes, los tiempos de respuesta y las categorías comunes para detectar problemas recurrentes y actualizar las reglas. La DSA espera que los proveedores realicen un seguimiento e informen sobre los volúmenes de notificación y los tiempos de respuesta en los informes anuales de transparencia. Utilizado por: Discord (Informe de Transparencia trimestral).

Por qué es importante el reporte de usuarios

• Crea una comunidad más segura y fuerte, porque los usuarios ven que pueden influir en lo que sucede en un chat.
• Amplía la cobertura de moderación más allá del sistema hacia un enfoque personal.
• Saca a la luz problemas que las herramientas automatizadas pasan por alto.
• Fomenta la participación positiva.
• Apoya el cumplimiento normativo y la seguridad de la marca para la plataforma.

Obtén más información sobre las estrategias de moderación de comunidades en línea