El estado de California, EEUU, aprobó el pasado mes una ley con la cual, a partir de octubre de 2019, las fianzas serán reemplazadas por un algoritmo que estimará el riesgo de fuga de un imputado y las probabilidades de reincidir en libertad.
Como en todos los temas, hay voces a favor y en contra de la iniciativa. La mayoría elogió la medida, y sus defensores se basan en que el sistema monetario de fianza era discriminatorio y daba lugar a una justicia para ricos y otra para pobres. Muy simple, los ricos pueden siempre pagar las fianzas y los pobres, no necesariamente.
En contra de esta medida están quienes saben que los algoritmos sesgan y ello genera injusticias también. El asunto es que las máquinas resolverán de un modo oscuro, sin poder nunca saber cuál o cuáles son las variables que generan discriminación, pudiendo ser el color de piel, la situación socioeconómica, el lugar de residencia o lo que fuere.
Se está depositando excesiva confianza y esperanza en los algoritmos y hay varios proyectos en ese sentido. No voy a mencionar ninguno en especial para no herir egos pero, me parece que la utilidad que buscan es peligrosa y avanzar en su utilización generará muchas injusticias.
En primer lugar, cuando hablamos de decisiones judiciales no se puede hablar de porcentajes de aciertos. Es esperado que el cien por ciento de las resoluciones sean justas, sin importar la complejidad del asunto. (Cuando se habla de porcentajes de éxito o aciertos se me eriza la piel). En segundo lugar, es falso pensar que una máquina podrá comprender situaciones específicas que rodean un caso puntual, aun cuando hablemos de una simple multa de tránsito.
Se han vuelto virales los videos del juez Frank Caprio, juez municipal de Rodhe Island, EEUU, por sus decisiones justas. Lo que parece simple de resolver como una multa de tránsito por mal estacionamiento se vuelve complejo, por ejemplo, si detrás de ello la multada perdió a su hijo, el cual fue asesinado y las deudas de él se han pasado a su madre, que debió concurrir urgentemente a resolver el asunto por no tener medios económicos suficientes para comer. El juez Caprio, al escuchar dichas circunstancias, resolvió condonando las multas de tránsito. Un algoritmo posiblemente nunca decida de ese modo.
Para concluir, quiero subrayar –y resaltar– la importancia de la equidad en la administración de justicia. La equidad humaniza la fría aplicación del derecho y corrige los resultados injustos que perjudican el fin que persigue la sociedad: el bien común. ¿Podrá un algoritmo decidir con equidad?
Nota publicada en el diario Comercio y Justicia.
Abogado Argentino especializado en Derecho informático y Nuevas Tecnologías. Docente e Investigador en UES 21. Director de consumidorenlaweb.com
