UE quiere prohibir la IA para vigilancia biométrica masiva

La Unión Europea tomó medidas adicionales para implementar una regulación rigurosa de la inteligencia artificial, introduciendo nuevas salvaguardias que prohíben una variedad amplia de casos de uso considerados peligrosos.

Estas prohibiciones abarcan desde programas masivos de reconocimiento facial en espacios públicos hasta algoritmos policiales predictivos que intentan identificar futuros delincuentes utilizando datos personales.

Leer también: ¿Cómo usar passkey en tu cuenta de Google?

Aprobado el nuevo borrador de la Ley de IA de la UE

El reglamento también requiere la creación de una base de datos pública de sistemas de IA de "alto riesgo" y que sean implementados por autoridades públicas y gubernamentales. Esto permitirá que los ciudadanos de la Unión Europea estén informados sobre cómo y cuándo se ven afectados por esta tecnología.

La legislación en cuestión es un nuevo borrador de la Ley de inteligencia artificial de la UE, el cual fue aprobado hoy por dos comités fundamentales: el Comité de Mercado Interior y el Comité de Libertades Civiles.

Estos comités están conformados por eurodiputados, que son miembros del Parlamento Europeo y han asumido la responsabilidad de supervisar la elaboración de la legislación. Votaron a favor de aprobar la versión final del borrador con 84 votos a favor, siete en contra y 12 abstenciones.

La Ley de inteligencia artificial en sí es un extenso documento que ha estado en proceso durante varios años. Sin embargo, el creciente interés en las herramientas de IA generativa en este año ha llevado a una serie de cambios significativos y de último momento en la legislación.

Activistas elogian la versión aprobada de la Ley de IA de la UE

No obstante, esta mayor atención parece haber dirigido la atención de los legisladores hacia los posibles riesgos de esta tecnología en constante evolución. Los activistas han elogiado la versión de la ley aprobada esta mañana, que aún podría sufrir modificaciones.

"Son noticias sumamente positivas", expresó Daniel Leufer, analista principal de políticas de la organización sin fines de lucro Access Now, en una entrevista con el portal especializado The Verge. "Considero que se han realizado importantes cambios positivos en el texto".

"[Es] importante a nivel mundial", dijo a The Verge Sarah Chander, asesora principal de políticas del grupo de defensa digital European Digital Rights.

“Nunca el brazo democrático de un bloque regional como la UE ha dado un paso tan significativo para prohibir los usos tecnológicos desde una perspectiva de derechos humanos”.

Las leyes de IA de la UE podrían tener un impacto global

Según las indicaciones de Chander, es probable que estas leyes tengan repercusiones en países de todo el mundo. La Unión Europea es un mercado tan influyente que las empresas tecnológicas suelen cumplir con la regulación específica de la UE a nivel global para evitar la complejidad de tener múltiples conjuntos de estándares.

La información requerida por la UE sobre los sistemas de IA también estará accesible a nivel mundial, lo que podría beneficiar a usuarios en Estados Unidos, Reino Unido y otras ubicaciones.

Los cambios más significativos en la ley aprobada hoy se centran en una serie de restricciones que el Parlamento Europeo denomina "usos intrusivos y discriminatorios de los sistemas de IA". Según el Parlamento, estas restricciones se han ampliado a partir de una lista original de cuatro casos de uso, y ahora abarcan los siguientes:

Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público.

Sistemas de identificación biométrica a distancia “post”, con la única excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial.

Sistemas de categorización biométrica que utilizan características sensibles (p. ej., género, raza, etnia, estado de ciudadanía, religión, orientación política).

Sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada).

Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas.

Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).

Aparte de las restricciones, el borrador revisado introduce nuevas medidas para regular los sistemas de IA considerados como "propósito general" o "fundacionales". Estos se refieren a modelos de IA a gran escala que pueden utilizarse para diversos propósitos.

Si bien esta categoría es ambigua, incluso dentro de la legislación de la UE, se pretende aplicar a sistemas de inteligencia artificial que requieren considerables recursos y que son desarrollados por gigantes tecnológicos como Microsoft, Google y OpenAI.

Estos abarcan modelos de IA de procesamiento de lenguaje natural, como GPT-4 y ChatGPT, así como generadores de imágenes generadas por IA, como Stable Diffusion, Midjourney y DALL-E.

Leer también: Probamos el Amazon Echo Auto

Recibe todos los viernes Hello Weekend, nuestro newsletter con lo último en gastronomía, viajes, tecnología, autos, moda y belleza. Suscríbete aquí: https://www.eluniversal.com.mx/newsletters

Amazon se muda a tu casa