Para muchos la idea de vivir en una ciudad totalmente segura en donde los delincuentes pudieran ser identificados y detenidos gracias a sistemas de reconocimiento facial resulta atractiva. Sin embargo, en la práctica hay muchos riesgos , detenciones arbitrarias y hasta niños que toda la vida serán señalados como peligrosos. Como ya sucede en países como Argentina .
Un artículo en el MIT Technology Review señala que existe una base de datos nacional en Argentina en donde se detallan los nombres, cumpleaños e identificaciones nacionales de miles de personas sospechosas de delitos . La base de datos, conocida como CONARC , se inició en 2009 como parte de un esfuerzo por mejorar la aplicación de la ley en delitos graves.
A pesar de que en teoría parece una gran idea en apoyo a los ciudadanos, tiene varios inconvenientes. Por un lado, es una base de datos abierta sin protección que se puede encontrar fácilmente a través de la Búsqueda de Google y, por otro, incluye a personas que han cometido delitos menores o no se específica la razón por la cual están en la lista. Por si fuera poco, algo que está llamando la atención es que la edad del presunto delincuente más joven, identificado solo como MG, en la lista por lesiones graves, aparentemente nació el 17 de octubre de 2016, lo que significa que acaba de cumplir los cuatro años.
Además, la organización Human Rights Watch descubrió que no solo se agregan niños regularmente a la CONARC, sino que la base de datos también alimenta un sistema de reconocimiento facial en vivo en Buenos Aires implementado por el gobierno de la ciudad. Esto hace que el sistema sea probablemente la primera instancia conocida de este tipo que se utiliza para perseguir a niños sospechosos de actividades delictivas.
Buenos Aires
comenzó a probar el reconocimiento facial en vivo en abril de 2019. Esta tecnología es capaz de analizar en tiempo real a las personas que pasan delante de una cámara y enviar una alerta si localiza a alguien sospechoso de un delito. A pesar de que una organización nacional de derechos civiles presentó una demanda para que el sistema no se implementara, el gobierno redactó un proyecto de ley para legalizar el reconocimiento facial en espacios públicos.
El sistema fue diseñado para vincularse a CONARC desde el principio. Si bien la CONARC no contiene fotos de los presuntos delincuentes, se combina con identificaciones del registro nacional y el software busca coincidencias en tiempo real a través de las cámaras del metro de la ciudad. Una vez que el sistema marca a una persona, alerta a la policía para que realice un arresto.
Ello ha dado lugar a numerosas detenciones falsas pues la policía no tiene un protocolo establecido para su manejo. Se sabe del caso de un hombre que fue identificado por error y detenido durante seis días, cuando estaba a punto de ser trasladado a una prisión de máxima seguridad finalmente se aclaró su identidad. Y hasta le advirtieron que seguramente será detenido otra vez por lo que dieron una carta para evitar problemas.
Especialistas han denunciado que casos como el anterior demuestran que no hay un mecanismo para corregir errores en el algoritmo o la base de datos y, cuando se agregan niños el problema es mayor pues estudios han demostrado que los sistemas de reconocimiento facial, incluso en condiciones ideales de laboratorio, son notoriamente malos para manejar a los niños porque están entrenados y probados principalmente en adultos. Además, debido a que los niños cambian físicamente más rápido que los adultos, sus identificaciones con fotografía corren más riesgo de quedar desactualizadas.
Cabe señalar que el gobierno ha negado públicamente que CONARC incluya a menores. No obstante Human Rights Watch encontró al menos 166 niños en la base de datos entre mayo de 2017 y mayo de 2020. Y resaltó que la mayoría se identifican por su nombre completo lo que es ilegal pues, según el derecho internacional los niños acusados de un delito deben tener protegida su privacidad durante todo el proceso.
La organización de derechos humanos indica que la mayoría de los menores tenía 16 o 17 años al momento de ingresar, aunque ha habido algunos de uno a tres años por lo que se entiende que la base de datos está llena de errores.
Todos estos factores ponen a los niños en mayor riesgo de ser identificados erróneamente y arrestados falsamente . Esto podría crear antecedentes penales injustificados , con repercusiones potencialmente duraderas para su educación y oportunidades laborales. También podría tener un impacto en su comportamiento.
En el artículo se destaca que si bien Buenos Aires es la primera ciudad que ha utilizado el reconocimiento facial en vivo para rastrear a los niños, hay otras ciudades que tienen este tipo de sistemas como Londres y Moscú en donde hay debates sobre las implicaciones de privacidad para los ciudadanos.