El Parlamento Europeo ha hecho un llamado a legisladores de la Unión Europea , con el objetivo de prohibir la automatización reconocimiento facial en espacios públicos y para hacer cumplir estrictas salvaguardias para el uso policial de la inteligencia artificial.
Los diputados europeos votaron a favor de la resolución no vinculante por 377-248, con 62 abstenciones.
Ciudadanos solo deben ser monitoreados cuando sean sospechosos
De igual manera, Los diputados señalaron que los ciudadanos solo deben ser monitoreados cuando sean sospechosos de un delito. Citaron preocupaciones sobre sesgo algorítmico en IA y argumentaron que tanto la supervisión humana como la protección legal, son necesarias para evitar la discriminación.
Los políticos señalaron que hay evidencia que sugiere que los sistemas de identificación basados en inteligencia artificial identifican erróneamente grupos étnicos minoritarios, Personas LGBTI +, personas mayores y mujeres a tasas más altas.
Como resultado, "los algoritmos deben ser transparentes, rastreables y suficientemente documentados", con opciones de código abierto que se utilicen siempre que sea posible.
La resolución establece que "aquellos sujetos a sistemas impulsados por IA deben recurrir a la reparación". Según la legislación de la UE, "una persona tiene derecho a no ser sometida a una decisión que produzca efectos jurídicos sobre ella o la afecte significativamente y se base únicamente en el tratamiento automatizado de datos".
Además, los eurodiputados pidieron a los funcionarios de la UE que prohibieran las bases de datos privadas de reconocimiento facial (algunos organismos encargados de hacer cumplir la ley en Europa están utilizando IA de Clearview ), así como "vigilancia policial predictiva basada en datos de comportamiento".
También instaron a la Comisión Europea a prohibir sistemas de puntuación social o crédito social y dijo el Agente de frontera virtual iBorderCtrl y deberían cerrarse otros sistemas de control de fronteras que utilizan el reconocimiento automático.
“Hemos trabajado durante meses con varios eurodiputados para que el Parlamento Europeo tomase una decisión en este sentido”, sostiene Ella Jakubowska, coordinadora del programa de biometría facial de EDRI, una ONG basada en Bruselas que trabaja por la defensa de los derechos humanos en la era digital.
Sistemas de inteligencia artificial, no deberían usar datos biométricos
La aprobación de la resolución sigue llamadas similares por los reguladores de protección de datos de la UE este verano. La Junta Europea de Protección de Datos y el Supervisor Europeo de Protección de Datos dijeron que la CE debería prohibir que los sistemas de inteligencia artificial usen datos biométricos para clasificar a las personas "en grupos basados en etnia, género, orientación política u sexual", o cualquier otra clasificación que pueda conducir a la discriminación .
IA no debe usarse en decisiones judiciales
La resolución del parlamento también pide la prohibición de que la inteligencia artificial ayude a las decisiones judiciales, otra área muy controvertida donde la automatización ya se ha aplicado, con el riesgo de que la automatización cimente y amplíe los sesgos sistémicos en los sistemas de justicia penal.
La organización benéfica mundial de derechos humanos, Fair Trials , dio la bienvenida a la votación y la calificó como un "resultado histórico para los derechos fundamentales y la no discriminación en la era tecnológica".
En abril, la CE propuso un proyecto de ley llamado Ley de Inteligencia Artificial , que introduciría un amplio marco regulatorio para la IA . Entre las medidas se encuentra la prohibición de la identificación biométrica remota (como el reconocimiento facial) en espacios públicos, a menos que se utilice para hacer frente a delitos graves, incluido el terrorismo y los secuestros.
Leer también: ¿Cómo descargar tu certificado de vacunación COVID-19 en WhatsApp?
