¿Mienten los detectores de mentiras?
Hace unas semanas se me consultó como experta en el análisis del lenguaje desde Algorithm Watch, un organismo alemán dedicado a evaluar las herramientas automáticas que asisten en la toma de decisiones.
Entre las herramientas que han sido objeto de sus investigaciones más recientes, se encuentran los filtros de correo no deseado, las traducciones automáticas de Google o distintas herramientas de reconocimiento facial.
En este caso, la consulta era referente a la herramienta VeriPol, una aplicación diseñada por la Policía Nacional española para detectar denuncias falsas a través del análisis lingüístico con una precisión superior al 90%, es decir, capaz de detectar 9 de cada 10 denuncias falsas por robo con violencia e intimidación. Esta herramienta crea patrones y establece qué expresiones, vocabulario o construcciones aparecen con más frecuencia en las denuncias falsas que en las denuncias verdaderas. Hasta aquí, bien y, además, es verdad que algunos estudios indican que ciertos parámetros lingüísticos son indicativos de una mayor probabilidad de veracidad del escrito. No obstante, me surgen varias preguntas respecto a la posibilidad de garantizar la fiabilidad de los resultados.
Primero, ¿cómo se ha creado el corpus que nutre el algoritmo? Según el único estudio publicado disponible sobre la herramienta, es un único policía experto el que ha diferenciado entre las denuncias falsas y verdaderas que se han utilizado para entrenarla, y no los datos relativos a cada denuncia. Creo que lo más adecuado hubiera sido que (si no ha sido así) se hubiera creado una base de datos en base a los hechos probados, es decir, que cuando se hubiera demostrado que una denuncia fuera falsa, directamente pasara a formar parte del grupo de denuncias falsas y no hacer esta clasificación solo en base a la opinión de un experto.
Otras cuestiones relevantes son quién y cómo ha tomado la declaración de los denunciantes, si se ha transcrito directamente y palabra por palabra o se ha tomado en cuenta el acta de declaración. Recordemos que, en España, es el policía el que toma nota de la declaración y eso es lo que cuenta para el proceso de denuncia, no una transcripción palabra por palabra del declarante. Este punto es muy importante, puesto que el policía podría modificar, resumir, eliminar o ampliar la información que se ha aportado originalmente y, por tanto, modificar los parámetros lingüísticos que analiza la herramienta.
A pesar de ser una aplicación muy innovadora, recordemos que ha habido muchos esfuerzos por parte de las autoridades para crear herramientas que les permitan saber cuándo una persona miente, como los conocidos polígrafos, cada vez menos usados por su falta de fiabilidad. Hasta se están desarrollando sofisticados detectores de mentiras mediante la inteligencia artificial. Por ejemplo, se han creado los sistemas AVATAR o IBORDERCTRL, agentes fronterizos animados que interrogan a los viajeros en las fronteras para saber si llevan armas o drogas.
Quizá dude todavía de la fiabilidad de todos los sistemas, pero también tengo que reconocer que logren disuadir a las personas y simplemente por eso es posible que ya merezcan ser calificados como efectivos, independientemente de sus índices de acierto. ¡Ah! Y recuerda que una denuncia falsa puede costarte muy muy caro.