La aplicación de sistemas de IA en la justicia abre el debate de su uso por los jueces a la hora de dictar resoluciones

La justicia afronta el reto de incorporar los sistemas de IA para ser más eficiente. En los últimos meses se ha visto su utilización en procesos automatizados rutinarios, pero queda por saber qué utilización van hacer de ella los jueces en su actividad diaria.

La normativa española basada, por el momento, en el Real Decreto 6/2023 regula las actividades automatizadas sin intervención humana, siempre que no impliquen motivación e interpretación jurídica. En el futuro habrá que ver si puede condicionar las sentencias de los propios jueces.

Sobre este asunto, la Sección de Derecho de las Tecnologías de la Información y de la Comunicación de la Real Academia de Jurisprudencia y Legislación (RAJYL), que preside la exvicepresidenta del Tribunal Constitucional Encarnación Roca, organizó una sesión moderada por Ana Fernández, notaria y presidente adjunto, sobre la aplicación del uso de la IA en la Administración.

En ella participaron Javier Torre de Silva, socio de CMS Albiñana & Suárez de Lezo, Corazón Mira, profesor  titular de Derecho Procesal de la Universidad Nacional de Educación a Distancia, y Jaime Barbero, responsable de producto online de Aranzadi La Ley, que explicó la actividad de este grupo editorial en las soluciones Legaltech con IA.

En su intervención inicial, Encarnación Roca explicó que ésta es la ultima sección que se ha creado en la RAJYL y pretende “analizar la problemática legal y jurídica de las tecnologías». «Este año nos centramos en la IA, un fenómeno tecnológico que tiene bastante repercusión a nivel transversal», destacó.

Por su parte, Ana Fernández comentó que “esta sección es fundamental en la RAJYL, tanto por su temática como por el momento que vivimos». «La UE publicó el Reglamento de IA 2024/1689 que va a convertirse en uno de los puntales del derecho de las tecnologías europeo. Ahora habrá que ver cómo se aplica porque afecta a muchas áreas. También es importante el Reglamento 2023/2844, que es la aplicación a la justicia civil de los recursos de nuevas tecnologías y de la IA, está siendo de objeto se está desarrollando en distintos reglamentos desde el 2000 hasta la actualidad”, precisó.

Mesa Redonda moderada por Ana Fernández, con Jaime Barbero primero por la izda.; Corazón Mira tercera por la derecha y Javier Torre de Silva, segundo, como ponentes. (Imagen: RAJYL)

También explicó que los dos nuevos Reglamentos, el de filiación y el de adultos, “introducen un aspecto de digitalización de la justicia. De hecho, esta semana se celebra en la Comisión Europea un encuentro de tres días para la adaptación a la a  ya todos los procesos de digitalización en asuntos como la congelación de las cuentas corrientes, por un lado y, por otro todo lo relacionado con la aplicación procesal de la justicia civil”.

En su primera intervención, Javier Torre de Silva, letrado del Consejo de Estado en excedencia, vocal de la sección y director del departamento de nuevas tecnologías de CMS Albiñana & Suárez de Lezo y miembro del grupo de IA de la firma, recordó que hay una ley, la 40/2015, para la aplicación de la tecnología a la administración del Estado». «Al hablar de la IA aplicada al derecho se habla de dos cosas: sistemas de IA simbólicos y otros conexionistas que no tienen mucho que ver entre ellos. La conexionista es la que más estamos acostumbrados porque de ella depende la IA Generativa”, indicó.

En su opinión, todos los jueces y funcionarios tendrán que utilizar la IA “ante investigaciones policiales o tratamiento de usos masivos». El funcionario, aunque no la use, se va a encontrar con ella y el juez, también. Ya existen pruebas basadas en la IA que tendrá que interpretarlas. No es lo mismo usar la IA para dictar sentencia que cuesta trabajo, junto con otras tareas como pueden ser contar los plazos, acumular penas, dictar tramites o diligencias no motivadas o resumir documentos. Tampoco todas las actuaciones requieren la misma motivación. La IA conexionista no debe utilizarse con casos nuevos”, explicó.

Justicia e IA

Por su parte, la profesora Mira comentó “que aplicar las tecnologías al Derecho no es un fenómeno reciente. Gracias al expediente judicial electrónico todos los actos procesales se realizan en formato electrónico, incluida la decisión judicial o bien convertirse en documentos judiciales electrónicos cualquiera que sea el formato que se ha tramitado. También se regula la videoconferencia para vistas y audiencias y, desde el Decreto 6/2023, de 19 de diciembre, se permite que la demanda y su respuesta se introduzcan desde formularios en red, también se han informatizado los expedientes y archivos judiciales”.

Para esa jurista, “al final lo que se pretende es el acceso electrónico a la información judicial”. Sobre ese acceso, la profesora Mira recuerda que “primero es para el ciudadano desde el principio de publicidad procesal consagrado en nuestra Constitución y en el artículo 232 de la LOPJ, y luego para reutilización de esta información para esos colectivos jurídicos y económicos interesados en manejar esos datos como bancos, aseguradoras, operaciones inmobiliarias, etc. mostraban su interés en la información judicial”.

A su juicio, “todas estas herramientas de justicia predictiva se alimentan de los datos judiciales que derivan de la informatización de los archivos judiciales utilizados para crear el expediente judicial electrónico. Por eso, es importante tener en cuenta la calidad, fiabilidad y transparencia de los datos judiciales almacenados. La construcción de una justicia automatizada va a depender de que este alimentada por datos precisos y accesibles respetando los patrones de protección de datos que están en el RGPD europeo”.

Encarna Roca con dos de los ponentes, Corazón Mira y Javier Torre de Silva hablando de la implementación de la IA en la justicia. (Imagen: RAJYL)

En su opinión, “por el momento, estas herramientas de IA han tenido un papel auxiliar asistiendo a los juristas en temas administrativos o en la preparación de resoluciones judiciales. El actual Reglamento de IA, aunque presenta un régimen de autorización sólido para emplear sistemas de IA, tiene una carencia importante a la hora de regular aspectos relacionados con la justicia. Los sistemas para automatizar la justicia son de bajo riesgo, mientras que los que permiten la justicia predictiva son de alto riesgo”.

En su opinión, la ausencia de estas directrices en el Reglamento de IA “plantea un desafío importante para que los sistemas de IA en el ámbito judicial, no solo sean técnicamente viables, sino que cumplan con los máximos estándares éticos y legales». «Así surge el Real Decreto ley 6/2023 de 19 de diciembre que regula las actividades automatizadas sin intervención humana, siempre que no impliquen motivación e interpretación jurídica”, indica.

Añade que “de esta forma, se pueden agilizar procesos rutinarios como todas las actuaciones de los funcionarios de la oficina judicial que ayudan a avanzar al proceso pueden automatizarse bajo la supervisión del LAJ. Son actuaciones de bajo riesgo sin impacto en los derechos fundamentales, lo que las hace idóneas para su posterior automatización”, manifiesta.

Mira recordó que, por el momento, “esta automatización es algo instrumental que ayuda a los jueces en su trabajo, pero no los sustituye. Genera borradores, optimiza información, realiza tareas mecánicas y repetitivas, pero no toma decisiones finales de forma autónoma. Sin embargo, esto produce una reflexión sobre si hay base jurídica para gestionar procedimientos automatizados en su totalidad, donde la IA no solo asista, sino que también resuelva”.

A su juicio, “una aplicación práctica de estos sistemas automatizados puede ser en los Métodos Alternativos de Solución de Conflictos (MASC), como fórmula para resolver determinados conflictos por vía extrajudicial. Aquí se habla de la mediación, la conciliación y el arbitraje entre otros métodos. Ahora, con la ley de eficiencia organizativa aprobada recientemente son pilares claves del acceso a la justicia. El articulo 8 de esta ley permite la opción de desarrollar estos procesos por medios telemáticos, lo que puede permitir incorporar la IA a estos modelos y  facilita su accesibilidad y adapta sus exigencias a la propia sociedad digital”.

Actuaciones judiciales asistidas

En otro turno de palabra, Javier Torre de Silva habló de las actuaciones procesales asistidas en el ámbito judicial, que son las que vienen reflejadas en el artículo 57 y 58 del Real decreto 6/2023 antes citado. “Lo que primero nos indica es que este sistema de automatización es de la administración de justicia y no del juez, genera un borrador con datos que alimenta el algoritmo y puede ser el apoyo a una resolución judicial. Nos entrega un borrador y es el juez quien lo valida o no. Es el juez, quien toma la decisión», señaló.

Esta mesa redonda sobre IA aplicada a la Administración de Justicia generó bastante expectación tanto a nivel presencial como ‘online’. (Imagen: RAJYL)

Para este jurista, “todos esos sistemas de IA son de alto riesgo, el juez tiene una gran autonomía, pero dicha autonomía concluye cuando se aplica el Reglamento de IA. Si el juez quiere utilizar un sistema de IA de alto riesgo tiene que cumplir con todas las garantías de gestión del riesgo que impone este Reglamento, con lo cual si quiere hacerlo le va a costar trabajo una vez entre en la aplicación no será posible Va a tener que ser la Administración de Justicia, como dice el artículo 58 de este Real decreto 6/2023, quien apruebe la actividad del algoritmo y el sistema  de IA es  a través del Comité Técnico Estatal de la Administración Judicial Electrónica», indicó.

Desde su punto de vista, “el uso de estos borradores de resoluciones con el uso de la IA es voluntario. El juez no tiene por qué tener en cuenta este sistema creado por este órgano judicial. Es previsible que este Comité Estatal tenga preferencia sobre los sistemas simbólicos de IA que los conexionistas. Los primeros son más explicables y no cambian como los conexionistas. Obedecen a reglas lógicas que son transparentes  y se puede garantizar que no tienen sesgos. Sobre el uso de sistemas comercializados de IA por terceros parece complicado porque no tienen los sistemas de controles de riesgos de los implementados por dicho Comité”.

A su juicio, “sería un problema utilizar un sistema generalista de IA para una actividad como es la justicia donde se afectan derechos fundamentales». «El propio Manuel Marchena en alguna de sus conferencias ha dicho que cuando se afectan derechos fundamentales no se puede utilizar un sistema de IA que se base en un algoritmo, debe haber un pronunciamiento personal del juez”, recordó.

Este jurista habló de un caso práctico es el de «Loomis, un ciudadano que confesó dos delitos en EE.UU. Se le aplicó el sistema de IA Compas para hacerle un interrogatorio que señaló que podría ser reincidente. Se le impusieron seis años de prisión siguiendo las pautas de este sistema de IA. Pese a apelar al Tribunal Supremo de EEUU se quedó con esa condena”.

Para este experto, “es posible que Compas acertara y que esta persona podría reincidir por cuestiones externas. Lo que juzgó el sistema fue aquello que el juez no puede juzgar, como es el hándicap social por razones ajenas a su voluntad. Lo que tenía que haber juzgado es si estaba arrepentido o si fue un delito al menos doloso. Todas esas cuestiones son las que la IA no puede valorar».

En opinión de Torre de Silva, “al final, el trabajo del jurista es interpretativo o hermenéutica de las acciones humanas en todos los actos jurídicos que van desde la contratación hasta actos criminales. Esta función del juez no puede basarse en la valoración de precedentes que la IA sabe hacer muy bien”.

Hace siete años un grupo de juristas encabezados por Encarna Roca, acompañados por Javier Torre de Silva; Antonio Pau, académico de número de la RAJYL; Candela Llopis, secretaria de la sección; José Luis Piñar, catedrático de Derecho Administrativo, como vicepresidente; Alejandra Frías, magistrada; Juan Antonio Hernández, letrado del Tribunal Constitucional; y Lluis Moll, letrado de la Comunidad de Madrid y jefe de los servicios jurídicos para la Administración Digital ponían en marcha esta sección. (Imagen: Luisja Sánchez)