Invitado por el Centro de Desarrollo Educativo Estratégico de la Universidad de Guadalajara, para hablar sobre el futuro de la justicia y las nuevas tecnologías, este tema me ha permitido identificar algunas oportunidades y también algunos riesgos que pueden presentarse en detrimento de la organización social que hemos construido en la mayoría de los países occidentales, desde que los romanos crearon el derecho.
Es el caso de algunas cortes federales y estatales en los EUA, en donde cada día recurren más y más a la inteligencia artificial para atender diversos asuntos tanto de procuración como de administración de la justicia. En segundos, mediante un software que está diseñado para predecir situaciones por medio de algoritmos matemáticos, el programa nos puede decir las zonas de mayor incidencia delictiva, con mayor nivel de violencia y el tipo de delitos que preponderantemente se cometen, en los días y horarios con mayor incidencia. Qué gran herramienta el predecir potencialmente las áreas en dónde se presentarán acciones que lastimarán el patrimonio e integridad de ciudadanos inocentes y ajenos a la barbarie de la necesidad e impunidad de los delincuentes.
En principio se están logrando tres propósitos en favor de la seguridad de la ciudadanía: anticipar eventos delictivos, disminuir incidencia delictiva y reducir la impunidad de los presuntos agresores que cometen diversos delitos. Muy bien, la tecnología está ayudando a combatir y reducir la delincuencia con una megabase de datos que está programada para ofrecer cierta información en fracciones de segundos, lo que antes hubiera tomado semanas o meses para recabar información, procesarla, analizarla, para posteriormente tomar decisiones. Se cumple con uno de los principios clave para la justicia, la prontitud y diligencia. Si pero no necesariamente el programa de cómputo lo está realizando de la mejor manera en cuanto a que es equitativo y certero.
La estadística en este rubro demuestra que los rondines policiacos se concentraban en vecindarios con menores ingresos económicos, menor educación y en su gran mayoría conformados por minorías raciales, siendo los afrodescendientes e hispanos los más afectados. Los delitos eran más o menos los mismos, beber en vías públicas, lesiones, robo con violencia, narcomenudeo. Estos delitos no son privativos de los vecindarios menos favorecidos económica y socialmente, también sucede en otras áreas, pero no son perseguidos con la misma intensidad, ¿la razón? La manera en cómo es alimentada la información, así como el diseño de una megabase de datos, que presiona a unos grupos raciales más que a otros, aun y cuando se cometan los mismos delitos.
No podemos ni debemos de hablar de estereotipos o de prejuicios cibernéticos, porque la inteligencia artificial es un programa creado por personas para un fin específico. El error que genera discriminación y que lastima más a un grupo de personas frente a otro, está en el diseño y en la información que se guarda, y eso es lo que se debe de revisar y creo que eventualmente se debe regular, sea por medio de códigos de ética o de regulación que permita hacer auditorias con las sanciones correspondientes a los responsables de elaborar programas que crean más problemas que soluciones en detrimento de los derechos fundamentales de grupos vulnerables.
Es el mismo caso en los procesos judiciales, en donde está probado que las minorías frente a los grupos de blancos, la mayor de las veces se les niega el derecho a llevar juicios en libertad condicional, porque son considerados por el algoritmo, como delincuentes potencialmente reincidentes, negando con ello el tener un debido proceso de ley que parte del principio de que toda persona es considerada inocente hasta que se demuestre lo contrario.
Si bien las nuevas tecnologías nos pueden ayudar a tener una justicia pronta y expedita, un mal diseño del algoritmo matemático puede crear más injusticia legal y social en sociedades que son diversas, multiculturales y multiétnicas. El remedio salió peor que la enfermedad.
Cónsul General de México de México en NY
