Damián Tuset: «Debe haber mecanismos de apelación y revisión para las decisiones asistidas por IA»

Damián Tuset Varela, experto en Derecho Tecnológico, acaba de publicar un libro titulado Medidas cautelares algorítmicas: El impacto de la inteligencia artificial en el proceso penal (McGraw Hill). En esta entrevista en Economist & Jurist explica qué encontraremos en él, analiza las posibilidades y amenazas que ofrece la inteligencia artificial (IA) en el ámbito judicial, así como los pros y contras de los juicios telemáticos.

Economist & Jurist (E&J): ¿Qué encontraremos en su nuevo libro?

Damián Tuset Varela (D. T. V.): Un análisis exhaustivo sobre cómo la inteligencia artificial está transformando el proceso penal, con especial referencia a la adopción de medidas cautelares, en tanto se trata de uno de los ámbitos en los que la IA puede tener un mayor impacto. He tratado de abordar tanto los aspectos teóricos como prácticos, explorando casos reales y estudios de cómo los algoritmos pueden influir en decisiones críticas, como la libertad provisional o la prisión preventiva. Además, discuto las implicaciones legales de estas tecnologías, proponiendo un marco para su uso responsable.

E&J: ¿A quién va dirigido?

D. T. V.: El libro está dirigido principalmente a profesionales del Derecho, jueces, fiscales y abogados, pero también a estudiantes y académicos interesados en la intersección entre la tecnología y el Derecho. Además, creo que puede ser útil para ingenieros en IA o informática que deseen entender cómo su trabajo puede impactar en el sistema judicial.

E&J: ¿Es importante que los futuros abogados combinen sus estudios de Derecho con un Máster en Derecho Digital o una ingeniería en ciencias computacionales?

D. T. V.: Es fundamental que los futuros y actuales abogados se formen continuamente. El Derecho no es un departamento estanco y, por ello, es imprescindible tener una visión completa y holística de la realidad, más allá de los aspectos meramente jurídicos, que se dan por sentados en un buen jurista. 

En el mundo actual, donde la tecnología avanza a pasos agigantados, tener conocimientos en ciencias computacionales puede proporcionar a los abogados una ventaja significativa. No sólo les permitirá entender mejor las herramientas y sistemas que están moldeando el futuro del Derecho, sino que también les capacitará para participar en el diseño y la regulación de estos sistemas, garantizando que sean justos y equitativos.

E&J: ¿Qué posibilidades ofrece la IA en el ámbito judicial? ¿Qué fortalezas y amenazas representa?

D. T. V.: La IA ofrece enormes posibilidades en el ámbito judicial, como la agilización de procesos, la reducción de errores humanos y la mejora en la toma de decisiones a través de análisis de grandes volúmenes de datos. Sin embargo, también presenta amenazas, como la posibilidad de sesgos en los algoritmos, la falta de transparencia en las decisiones automatizadas y el riesgo de depender excesivamente de la tecnología sin la debida supervisión humana.

«La IA presenta oportunidades para mejorar la eficiencia y precisión en el Derecho Penal y Procesal, como en la predicción de reincidencia o en la gestión de casos»

E&J: ¿Y qué desafíos y oportunidades presenta la IA en el Derecho Penal y Procesal?

La IA presenta oportunidades para mejorar la eficiencia y precisión en el Derecho Penal y Procesal, como en la predicción de reincidencia o en la gestión de casos. Sin embargo, también plantea desafíos significativos, como garantizar que las decisiones algorítmicas sean justas y no discriminatorias, y que los derechos de los acusados sean respetados. La clave está en encontrar un equilibrio entre la innovación tecnológica y la protección de los derechos fundamentales.

E&J: ¿Cómo está transformando la IA las medidas cautelares en los procesos penales?

D. T. V.: La IA está empezando a transformar las medidas cautelares mediante el uso de algoritmos que pueden evaluar el riesgo de fuga o reincidencia de los acusados con mayor precisión que los métodos tradicionales. Estos sistemas pueden analizar grandes cantidades de datos para ofrecer recomendaciones basadas en patrones y probabilidades. Sin embargo, estas herramientas deben ser un apoyo a la decisión humana y no como sustituto de esta.

Damián Tuset (La Coruña, 1994) es experto en Derecho Tecnológico, en Seguridad y Ciberseguridad, y especialista en Propiedad Intelectual, Patentes y Protección de Datos. Es jefe de la Sección de Informes Jurídicos de la Secretaría General Técnica del Ministerio de Asuntos Exteriores. (Imagen: E&J)

E&J: ¿Cómo garantizar que la IA sea utilizada de manera responsable y ética en el sistema de justicia penal?

D. T. V.: Para garantizar un uso responsable y ético de la IA en el sistema de justicia penal, es esencial educar a los juristas para que conozcan qué es la IA, como funciona y de qué datos se alimenta. Se suele hacer un especial hincapié en regular, pero no todo pasa por regular. Vivimos un momento en el que no en pocas veces se “regula por regular”, sin conocer y/o analizar previamente con profundidad el problema que se pretende solucionar. Falta poso. Además, debe haber mecanismos de apelación y revisión para las decisiones asistidas por IA.

«La IA presenta amenazas, como la posibilidad de sesgos en los algoritmos, la falta de transparencia en las decisiones automatizadas y el riesgo de depender excesivamente de la tecnología sin la debida supervisión humana»

E&J: María Jesús del Barco, presidenta de la Asociación Profesional de la Magistratura (APM), y Cristina Dexeus, presidenta de la Asociación de Fiscales (AF), sostienen que «jueces y fiscales no son reemplazables por robots porque se acabaría la independencia judicial». ¿Usted qué opina?

D. T. V.: Estoy de acuerdo en que los jueces y fiscales no pueden ser reemplazados por IA, ya que la independencia judicial es un pilar fundamental del sistema de Justicia. La Justicia es intrínsecamente humana. Es cierto que la IA cambiará la forma en que trabajamos, pero en ningún caso sustituirá a un abogado, juez, fiscal o letrado de la Administración de Justicia. En caso contrario, no hablaríamos de Justicia ni de Derecho, sino de otro concepto, llámese “resolución de conflictos alternativa” o como se quiera, pero claramente estaríamos saltándonos los valores y principios que rigen nuestra sociedad. Sea como fuere, la IA no puede sustituir la capacidad de juicio, la experiencia y, especialmente, la intuición humana.

«La IA cambiará la forma en que trabajamos, pero no sustituirá a un abogado, juez, fiscal o LAJ» 

E&J: ¿Cómo ve que se hagan borradores de resolución judicial con IA? Del Barco advierte que es peligroso, porque «quien controle el algoritmo, con sus sesgos, manejará la decisión judicial, y eso puede afectar de manera sustancial a la independencia judicial».

D. T. V.: Precisamente es algo que abordo –y critico– en mi libro. Como comentaba anteriormente, vivimos en esta vorágine y en esta carrera de legislar la IA sin un sentido claro. Parece que la IA ha venido a salvarnos, que todos somos expertos en IA y esto no es así. Algunos incluso hablan de «IAs» cuando la IA solo es una, pues es una disciplina. Serían, en su caso, sistemas de IA. Esto es un ejemplo más del desconocimiento en la materia. 

Hace falta un enfoque disciplinar y sosegado. En el caso de España, se aprobó el Real Decreto Ley 6/2023 que precisamente viene a introducir en la Administración de Justicia la posibilidad de que un sistema de IA elabore borradores y poco más que el juez las valide. Esto es un auténtico despropósito. 

Primero, porque es una cuestión que afecta de plano a un derecho fundamental al juez legal predeterminado por ley como es el contenido en el artículo 24.1 de la Constitución Española y no parece oportuno que se hubiera aprobado a través de un Real Decreto Ley. En segundo lugar, se regula un asunto relativo a la IA con carácter previo a la entrada en vigor del esperado y conocido Reglamento Europeo de IA (que será de obligatoria aplicación a los Estados miembros). 

En tercer lugar, porque no se indica cómo ni cuándo se puede utilizar, en qué tipo de resoluciones y si hace falta que el juez indique que fue asistido por IA en esa resolución. Confío en el buen hacer de nuestros jueces y estoy seguro que la mayoría harán un uso responsable de tal facultad, pero es algo sintomático y un ejemplo de una regulación equivocada que simplemente ahonda más en el debilitamiento de nuestras instituciones y nuestro Estado de Derecho.  

Portada de la última obra de Damián Tuset. (Imagen: Archivo)

E&J: Cristina Dexeus afirma que la IA «puede ser un apoyo para la resolución de determinados casos en ámbitos civil o mercantil y en procedimientos menores», pero le «cuesta admitir su eficacia en el ámbito penal y hacerla compatible con los derechos de los justiciables y la gran variedad de matices y circunstancias que pueden concurrir en los procesos penales». ¿Usted cómo lo ve?

D. T. V.: Entiendo las reservas de Cristina Dexeus. El ámbito penal es particularmente complejo y sensible, y la IA debe ser implementada con mucho cuidado. Si bien la IA puede ser eficaz en algunos aspectos, como la gestión de casos y la predicción de riesgos, siempre debe haber una revisión humana exhaustiva para asegurar que se respeten todos los derechos de los implicados y que se consideren todas las circunstancias específicas de cada caso. 

Sin embargo, incluso en el ámbito de la jurisdicción civil o mercantil lo veo de difícil encaje. ¿Por qué se quiere dejar en manos de un sistema informático, de unos algoritmos, una decisión que afecta a los humanos?, ¿es realmente necesario?, ¿no existen otras alternativas?, ¿no se ha pensando en, por ejemplo, dar esos casos civiles menos complejos a los Letrados de la Administración de Justicia?, ¿acaso no es contrario al principio de exclusividad jurisdiccional del artículo 117.3 CE?  

«Vivimos una carrera de legislar la IA sin un sentido claro, hace falta un enfoque disciplinar y sosegado»

E&J: ¿Qué pros y contras destacaría de los juicios telemáticos?

D. T. V.: Los juicios telemáticos ofrecen ventajas como la flexibilidad, la reducción de costes y la posibilidad de mantener el sistema judicial funcionando en situaciones de emergencia, como la pandemia. Sin embargo, también presentan desventajas, como la posible pérdida de la riqueza de la comunicación no verbal y la dificultad para garantizar la seguridad y confidencialidad de la información transmitida.

E&J: ¿El principio de inmediación va a sufrir con las vistas telemáticas si se generalizan o, vía excepción, se extienden indiscriminadamente a actos procesales, especialmente juicios orales con la intervención de testigos, partes y peritos?

El principio de inmediación podría verse comprometido con la generalización de las vistas telemáticas, ya que la interacción directa entre jueces, abogados, testigos y partes es fundamental para la evaluación de la credibilidad y la obtención de un juicio justo. Aunque las vistas telemáticas pueden ser útiles en ciertos casos, es importante que se utilicen con discernimiento y que no reemplacen completamente a las audiencias presenciales.

«La formación en comunicación forense es esencial con los juicios telemáticos»

E&J: Ante la pérdida de la información derivada de la interlocución digital con los interrogados, ¿es una necesidad la formación en comunicación forense, como afirma el decano del ICA Sevilla, Óscar Fernández León?

D. T. V.: Estoy de acuerdo con el decano Óscar Fernández León en que la formación en comunicación forense es esencial. La capacidad de interpretar el lenguaje corporal, las expresiones faciales y otros indicios no verbales es crucial en el ámbito judicial. Con la creciente adopción de tecnologías digitales en el proceso judicial, es más importante que nunca que los profesionales del Derecho estén capacitados para comunicarse y evaluar de manera efectiva tanto en entornos presenciales como virtuales.