Inteligencia artificial en tribunales: control humano y responsabilidad judicial

Por el Dr. Gastón Signorelli
info@signorelli.com.uy
+598 098 518 709
Todos los ordenamientos y sistemas jurídicos desde hace unos cuantos años vienen debatiendo y tratando de resolver el ingreso de la IA en las decisiones judiciales. Los posibles límites o la lisa y llana prohibición.
En Europa el tratamiento del tema resulta ciertamente proficuo y Francia tomó un camino, que no fue el de prohibir la inteligencia artificial en la justicia. No cayó en el pánico tecnofóbico. Este país hizo algo que muchos señalan como más fino y serio: la reguló desde dentro.
Y es así que el Conseil d’État fijó reglas claras para el uso de sistemas de inteligencia artificial en los tribunales administrativos, marcando un camino que combina innovación tecnológica con resguardo institucional.
Y no es menor que haya sido este órgano, o sea el Consejo de Estado francés, en tanto es la máxima autoridad judicial en la jurisdicción administrativa de ese país, que actúa como tribunal supremo para resolver disputas entre ciudadanos y la administración pública, además de ser el principal consejero jurídico del Gobierno en la elaboración de leyes y decretos, asegurando que la administración se someta al derecho.
El mecanismo es simple, pero a su vez contundente. La inteligencia artificial puede asistir, pero nunca decidir. Ninguna resolución judicial puede ser adoptada de forma automática ni depender exclusivamente de un sistema algorítmico. Toda decisión debe permanecer bajo control humano permanente, con un juez que revise, comprenda, eventualmente corrija y, sobre todo, asuma la responsabilidad del fallo. La tecnología ingresa al sistema judicial, sí, pero no toma el mando.
El mecanismo regulatorio se construye a partir de límites muy concretos. La IA no puede interpretar la ley, valorar la prueba, fijar los hechos del caso ni proponer el sentido de una sentencia. Su uso queda restringido a tareas preparatorias o auxiliares: organización de expedientes, clasificación documental, búsqueda de jurisprudencia relevante, análisis de grandes volúmenes de datos o apoyo en la redacción preliminar de textos, siempre bajo supervisión judicial efectiva.
La decisión también enfatiza exigencias técnicas y jurídicas claves: transparencia en el funcionamiento de los sistemas, trazabilidad de los procesos automatizados, protección estricta de los datos personales y prevención de sesgos o discriminaciones algorítmicas. Los tribunales deben saber qué hace la herramienta, cómo lo hace y con qué información opera. De este modo no hay la función jurisdiccional se sirve de la herramienta pero de ninguna manera cede espacios. Se deja complementar, pero de ninguna manera sustituir.