Un juez en los Países Bajos ha generado controversia al admitir que utilizó ChatGPT para ayudar a resolver un caso judicial, lo que ha provocado críticas de expertos legales y tecnológicos. El juez, que estaba a cargo de un caso en un tribunal de primera instancia en Gelderland, consultó a la inteligencia artificial sobre cuestiones relacionadas con paneles solares, incluyendo el precio promedio de la electricidad y la vida útil de los paneles. Esta información fue utilizada para calcular los daños a ser pagados en el caso, lo que implicaba miles de euros.
Expertos como Henk van Ess y Jarno Duursma han expresado preocupaciones sobre el uso de ChatGPT en decisiones legales, señalando que el modelo de lenguaje de IA puede producir errores y no es una fuente confiable de conocimiento factual. Van Ess calificó la acción del juez como “ridícula” y subrayó que cualquier afirmación hecha por la IA debe tomarse con precaución. Duursma agregó que estos sistemas solo predicen la siguiente palabra en una secuencia y no poseen un conocimiento real.
Esta controversia ocurre en un contexto en el que la utilización de herramientas de inteligencia artificial en el ámbito judicial está bajo escrutinio. En el Reino Unido, la Oficina Judicial ha publicado guías permitiendo a los jueces usar modelos de lenguaje como ChatGPT para resumir grandes cantidades de texto, aunque con la advertencia de que estas herramientas pueden generar respuestas inexactas. Algunos miembros del sistema judicial británico han reconocido la utilidad de estas herramientas para simplificar tareas de investigación, aunque enfatizan la necesidad de cautela y una verificación exhaustiva de la información generada por la IA.
La situación destaca el debate en curso sobre el papel de la inteligencia artificial en la toma de decisiones legales, donde la precisión y la responsabilidad son cruciales. La comunidad legal está dividida entre quienes ven el potencial de estas tecnologías para mejorar la eficiencia y quienes advierten sobre los riesgos de confiar en herramientas que aún no están completamente comprendidas ni reguladas.
Fuentes:
1. Dutch judge uses ChatGPT as information source for verdict.
2. Judge’s ‘ridiculous’ decision to use ChatGPT to reach verdict sparks fury.
Artículo redactado con asistencia de diversas inteligencias artificiales generativas con supervisión humana (redacción AD).
