El sistema se enfoca en los mensajes directos; filtra en forma automática palabras y emojis que podrían ser ofensivos.
La incorporación es parte de los planes de Instagram para frenar el acoso online en la plataforma.
Instagram anunció la incorporación de una herramienta que permite filtrar automáticamente los mensajes directos ofensivos y que pretende achicar el margen del acoso online. El sistema detecta palabras, frases e incluso emojis que podrían ser abusivos, impidiendo que ese contenido llegue a los usuarios. Siguiendo a The Verge, la novedad está principalmente dirigida a figuras públicas que habitualmente son blanco de DMs no deseados y dañinos.
El filtro se puede activar en una nueva sección de la red social. Al hacerlo, los mensajes ofensivos (por ejemplo aquellos que incluyan un insulto) serán enviados a una carpeta aparte. Luego, si un usuario accede a uno de esos DMs podrá leerlo, eliminarlo y/o reportarlo.
En ese sentido, Clotilde Briend, responsable de las políticas públicas de Instagram, explicó en declaraciones a la agencia AFP que “la mayoría de los discursos de odio proceden de las demandas de mensajes directos” y que ofrecerán la posibilidad de denunciarlos ya que seguirán estando disponibles en una bandeja de entrada aparte.
Cómo funciona el sistema anti-haters
El mecanismo creado para frenar a los haters en Instagram tiene una lista predeterminada de palabras y frases ofensivas que la plataforma propiedad de Facebook creó junto con organizaciones especializadas en la lucha con la discriminación y el acoso. Además, los usuarios pueden añadir otros términos que deseen filtrar en los mensajes, más específicamente en las solicitudes para las conversaciones.
La función debuta en Francia, Reino Unido, Irlanda, Alemania, Australia, Nueva Zelanda y Canadá. En esos sitios, según Briend, “hubo personalidades públicas, sobre todo futbolistas, que fueron víctimas de abusos y de términos ofensivos en mensajes directos”. Se espera que la opción luego se expanda a más países del mundo.
De acuerdo a Briend, el mecanismo podría extenderse a otros servicios de mensajería instantánea de Facebook, como FB Messenger y WhatsApp.
Junto con el nuevo filtro, Instagram también anunció una herramienta que bloquea preventivamente cuentas de acosadores que, según explican desde la empresa, es capaz de detectar señales de nuevos perfiles que crean usuarios que fueron anteriormente bloqueados.
Estas actualizaciones son parte de un esfuerzo de Instagram para combatir el discurso de odio en la red social, incluyendo la baja de cuentas de usuarios que envían repetidamente mensajes de acoso y los filtros que bloquean comentarios ofensivos. En este marco, recientemente la plataforma informó que no permitirán que adultos envíen mensajes directos a menores y además se anunció el desarrollo de un Instagram para nenes, proyecto que tal como contamos acá ha generado controversias y quejas hacia la compañía dirigida por Mark Zuckerberg.