¿Cómo mejoramos la detección automática de ‘haters’?
Sin duda las redes de sociales son una de las principales vías de comunicación estos días, pero no todo el mundo las utiliza para felicitar el aniversario o compartir un «buenos días».
Muchos individuos lo utilizan para manifestar su negatividad y odio hacia personas o grupos. Entre ellos destacan los trolls y los haters, individuos que aprovechan el anonimato para llamar la atención y que se dedican a insultar y amenazar a una víctima y causarle dolor.
La mayoría de las plataformas han implementado distintos métodos para tratar de identificar y eliminar contenidos ofensivos mediante la detección de ciertos vocablos con carga negativa, como pueden ser los insultos, pero estos delincuentes siguen encontrando formas para evitar estos filtros y seguir publicando sus comentarios ofensivos.
Los lingüistas forenses estamos llevando a cabo investigaciones científicas para asistir a estas herramientas, que por el momento resultan bastante vulnerables, para mejorar los resultados en la detección del odio. Los resultados de estas investigaciones indican que no es suficiente crear filtros de palabras malsonantes, sino que se debe ampliar el foco al contexto en el que aparece. También se deben analizar estructuras morfosintácticas, como podría ser «Nombre propio + ser + adjetivo». Otras claves para la optimización de las herramientas de detección del lenguaje abusivo en las redes pueden ser también el nivel y las características de las interacciones, como la carga positiva y negativa de los comentarios de las reacciones que generan los posibles agresores verbales.