La Corte Constitucional colombiana se pronuncia sobre el uso de la IA por los jueces: ordena regular su uso en el mundo judicial

Por la actualidad de la temática y la novedad de la inteligencia artificial (IA) en las labores de los operadores judiciales traigo como referencia para su valoración y posible adopción por el Consejo General del Poder Judicial (CGPJ) la decisión judicial de la Sala Segunda de Revisión de la Corte Constitucional de Colombia, dictada el pasado 2 de agosto (sentencia T-323 de 2024) en virtud de la Acción de Tutela [1] que acometió, entre otros, el uso de la IA que el juez de segunda instancia utilizó por medio del Chat GPT 3.5 para definir si conculca o no el derecho fundamental al debido proceso por la incertidumbre de si la sentencia fue dictada por un juez o por la IA y en este caso si está correctamente motivada y si existen discriminaciones o confusiones derivadas del GPT 3.5.

En la sentencia encontrará el lector, aparte de los hechos fácticos que llevaron a la madre de un menor de edad con trastorno de espectro autista a recurrir la negación de servicios médicos, moderación de cuotas y pago de transporte, los siguientes análisis que aquí nos interesan: el derecho fundamental al debido proceso; el debido proceso en un sistema jurisdiccional que utiliza IA; el sistema de inteligencia artificial; conceptos y aspectos básicos acerca de su funcionamiento; impactos del uso de herramientas de IA en la sociedad; estado de la IA en Colombia; el marco regulatorio de la IA en el mundo; algunos instrumentos de soft law e iniciativas normativas nacionales; algunas experiencias concretas relacionadas con la IA en la práctica judicial; la garantía del juez natural en un sistema jurisdiccional que utiliza IA y el debido proceso probatorio en un sistema jurisdiccional que utiliza IA.

En el apartado concreto a la potencial vulneración al debido proceso la Sala de Revisión de la Corte Constitucional colombiana descarta que hubo sustitución por el Chat GPT de la función jurisdiccional del juez natural en razón a que solo se empleó el sistema de inteligencia artificial conversacional desarrollado por OpenAI, una vez que el juez de segunda instancia analizó y resolvió el caso siguiendo el procedimiento habitual, esto es, tesis a sustentar, los artículos constitucionales y legales que la fundamentan, las referencias jurisprudenciales aplicables al caso y la solución judicial, no obstante sí encuentra que no se tutelaron suficientemente los principios de responsabilidad y transparencia previstos en estos casos.

(Imagen: E&J)

Si bien es cierto que estos modelos avanzados de comprensión y generación de textos –Gemini Advanced, Copilot PRO y ChatGPT– se perfeccionan día a día y teniendo en cuenta que reportan tendencias prejuiciosas llamadas sesgos y alucinaciones a las respuestas que la IA se inventa y que también se conoce como delirio o confabulación, la Sala de revisión valora que en lo sucesivo y para tutelar los derechos fundamentales de las partes procesales sería conveniente que el órgano administrativo de los jueces –Consejo Superior de la Judicatura– implantara paradigmas y directrices orientadoras por medio de guías de instrucciones para que se haga una utilización proporcional, equitativa, justa y razonable que elimine cualquier incidencia al debido proceso garantizando, en todo caso, la autonomía del operador judicial.

Termina la valiosa y significativa sentencia de la Corte colombiana, la primera entre muchas que habrá sobre el uso de la IA hasta su modelación garantista de las partes y del debido proceso, con un exhorto y dos órdenes.

Exhorta a los jueces a utilizar los modelos de predicción lingüística: Chat GPT, Gemini Advanced, Copilot PRO, entre otras, apoyados en redes neuronales que analiza la mejor respuesta posible basándose en su comprensión en lenguaje natural, conocidas como prompts, para que sopesen su uso con sumisión a las instrucciones superiores aplicando criterios de transparencia, responsabilidad, privacidad, no sustitución de la racionalidad humana, seriedad y verificación, prevención de riesgos,  igualdad y equidad, control humano, regulación ética, adecuación a buenas prácticas y estándares colectivos, seguimiento continuo y adaptación e idoneidad.

Ordena al órgano de administración y gobierno del poder judicial colombiano –Consejo Superior de la Judicatura– para que un plazo de cuatro meses prepare, elabore y difunda un manual con el uso de la IA por parte de los jueces colombianos teniendo en cuenta los criterios y principios del párrafo anterior, así como crear cursos de formación de la IA en el mundo judicial.

[1] CAMPO CABAL, J.M., “La Acción de Tutela en Colombia”, Publicado en “CD”. Boletín Jurídico Nº 3, Asociación de Profesores de Derecho de la Universidad Europea de Madrid. ISSN: 1139-5087, Madrid, año 2000.