Los sistemas de reconocimiento facial ya forman parte de la estrategia de seguridad en diversos países. Las autoridades utilizan esta tecnología argumentando que sirven, por ejemplo, para reconocer a delincuentes. Sin embargo, algunos señalan que son un r iesgo para la privacidad por lo que, en ciudades como Portland , Estados Unidos , ya no podrán utilizarse.
De acuerdo con el medio estadounidense, The Verge, la ciudad aprobó una iniciativa electoral que impide el uso del reconocimiento facial por parte de la policía y las agencias de la ciudad luego de que los votantes aprobaron una iniciativa que refuerza la prohibición de este tipo de tecnologías por parte de las autoridades.
La iniciativa sigue a una votación del consejo de la ciudad en agosto que estableció una prohibición preliminar. La votación de esta semana reemplaza esa primera orden con una medida más fuerte, que no puede ser revocada por al menos cinco años.
La nueva medida también agrega sanciones concretas. Por ejemplo da derecho a los ciudadanos privados a un mínimo de mil dólares en recompensa si es que llegan a ser vigilados. Las violaciones a esta orden también se establecen como motivo para despedir o suspender a un empleado de la ciudad. Aunque, se aclara, el uso de la tecnología por parte del sector privado no se ve afectado.
Portland es la última ciudad en renunciar a la tecnología de reconocimiento facial, luego de prohibiciones anteriores en Boston, San Francisco y Oregon. Además hay que mencionar que, en junio, los demócratas del Congreso de Estados Unidos presentaron un proyecto de ley que instituiría una prohibición similar a nivel federal, impidiendo a todas las agencias federales de aplicación de la ley emplear el reconocimiento facial.
Además de los riesgos de perder la privacidad, otras de las razones por las cuales los sistemas de identificación facial están siendo cuestionados y, en muchos casos prohibidos, es que tienen sesgos y problemas para trabajar en algunos escenarios.
Y es que si bien la tecnología de reconocimiento facial ha mejorado mucho en la última década gracias a los avances en inteligencia artificial . Se ha detectado que los sistemas, sobre todo los proporcionados por empresas privadas con poca regulación o supervisión del gobierno, presentan sesgo en áreas como la edad, la raza y la etnia , lo que puede hacer que las herramientas no sean fiables para la aplicación de la ley y la seguridad y, por el contrario puedan ser utilizadas para infringir los derechos humanos.
Diversos estudios y analistas en Estados Unidos han comprobado los riesgos que estos sistemas implican en términos de violaciones de la privacidad pues, por ejemplo, algunos han utilizado las redes sociales para generar, sin el consentimiento de los usuarios, una base de datos que después se utiliza en empresas y por autoridades argumentando la seguridad nacional.
Especialistas han advertido también que los sistemas de reconocimiento facial pueden producir resultados extremadamente inexactos, especialmente para las personas que no son de tez blanca, según un estudio del gobierno de Estados Unidos en donde se demostró que los algoritmos de reconocimiento facial mostraron tasas de "falsos positivos" para asiáticos y afroestadounidenses hasta 100 veces más altas que para los blancos.
Los investigadores del Instituto Nacional de Estándares y Tecnología (NIST), un centro de investigación del gobierno, también encontraron que varios algoritmos asignaron el género incorrecto a las mujeres negras casi el 35% de las veces.
Es por ello que algunos activistas e investigadores han afirmado que el potencial de errores es demasiado grande y que, por lo tanto podría llevar al encarcelamiento de personas inocentes, además de que la tecnología podría usarse para crear bases de datos que pueden ser pirateadas o utilizadas de manera inapropiada.