“la IA no puede sustituir al juez, pero puede utilizarse como herramienta de apoyo”
Recientemente la Corte Constitucional Colombiana (“CC”) emitió la Sentencia T-323 de 2024, mediante la cual se resuelve el controversial caso de un juez que resolvió una tutela utilizando ChatGPT.
El fallo se centra principalmente un caso donde se demanda a Salud Total E.P.S. Sin embargo, en el fallo la CC analizó cómo el juez de segunda instancia hizo uso del Inteligencia Artificial (“IA”) para emitir su decisión. Así, la CC determinó pertinente revisar una posible vulneración del derecho fundamental al debido proceso en la expedición de dicha decisión, pues se encontraron dudas sobre si quien la profirió fue realmente el juez o si fue producto de alucinaciones y sesgos generados por la IA. Además, la Corte Constitucional determinó que debido a la relevancia que este caso tenía para el interés público y el orden constitucional, justificaba un examen exhaustivo del uso de la IA en las decisiones judiciales.
Para esto, la CC se refirió al concepto de Sistemas de IA y sus aspectos básicos, para determinar si podría ser utilizada dentro del sistema judicial. Particularmente sobre ChatGPT – y de acuerdo a la información proporcionada por OpenAI – el Tribunal Constitucional reconoció que ChatGPT busca informar y advertir a sus usuarios sobre posibles inexactitudes en los resultados que los usuarios obtienen de sus interacciones con ChatGPT. Además, el Tribunal entendió que, debido a la forma en que funciona la herramienta, la siguiente palabra más probable no siempre es la más correcta o verdadera en cuanto a los hechos.
Además, determinó que los funcionarios del sistema judicial deben tener en cuenta los siguientes principios cuando utilicen herramientas de IA para actividades/procedimientos judiciales: (i) transparencia, (ii) rendición de cuentas, (iii) privacidad, (iv) no sustitución de la racionalidad humana, (v) fiabilidad y verificación, (vi) prevención de riesgos, (vii) igualdad y equidad, (viii) control humano, (ix) regulación ética, (x) cumplimiento de buenas prácticas y estándares colectivos, (xi) monitorización y adaptación continua, e (xii) idoneidad.
La CC también mencionó la importancia de dictar normas en esta materia – como el AI Act en Europa. Sin embargo, resalta la importancia de que cualquier iniciativa o estrategia regulatoria que se desarrolle se deberá ajustar a las particularidades del entorno en el que va a incidir, con el fin de neutralizar los riesgos y posibles desventajas de las prácticas de regulatorias.
Teniendo en cuenta lo anterior, la CC concluye que es posible utilizar IA en la actividad judicial siempre que no sustituya tareas jurisdiccionales indelegables e insustituibles, como aquellas que requieren razonamiento lógico y humano para interpretar los hechos, las pruebas, motivar una decisión o adoptarla. Por ejemplo, la IA podría utilizarse en el sistema judicial para las áreas de gestión administrativa y documental, así como para el apoyo a la gestión judicial y la corrección y resumen de textos. Es decir, la IA no puede sustituir al juez, pero puede utilizarse como herramienta de apoyo respetando los derechos fundamentales, las cargas de transparencia, rendición de cuentas y garantía de protección de datos personales.
Mariana Fonseca es Asociada del Área de Propiedad Intelectual y Tecnología Cárdenas y Cárdenas.
