Joaquín Delgado, magistrado: «La IA puede ser un asistente magnífico para los profesionales del Derecho, pero tenemos que ser conscientes de sus riesgos»

Wolters Kluwer Legal Software presenta, en su nueva ‘Píldora LegalTech’, una entrevista a Joaquín Delgado Martín, magistrado en la Sala Penal de la Audiencia Nacional.

En esta nueva entrega de las ‘Píldoras LegalTech’, disponibles ya en YouTube, Delgado Martín comparte su experiencia y visión sobre el impacto de la inteligencia artificial (IA) generativa en el ámbito jurídico, así como los retos que plantea el Reglamento Europeo de IA y la viabilidad del controvertido concepto del juez-robot.

Con una trayectoria profesional que incluye su papel como miembro de la Red Judicial de Expertos en Derecho Europeo (REDUE) y la publicación de su reciente monografía titulada «Derecho Procesal Digital», Delgado aborda cuestiones clave para el futuro de la Justicia en la era digital.

Para Joaquín, estas herramientas pueden ser de gran utilidad como asistentes. «Nos ayudan a hacer resúmenes de grandes volúmenes de datos, a una primera redacción de documentos legales, a hacer emails o un primer estudio de las gestiones, etc.», comenta. Sin embargo, advierte que su uso implica riesgos importantes.

Los riesgos de la IA en el sector legal

El primero es la imprecisión en los resultados, que puede derivar en errores graves como citas de sentencias inexistentes o datos incorrectos, ya que estos modelos se alimentan de información disponible en Internet, muchas veces de calidad cuestionable.

El segundo riesgo, según Joaquín, es la confidencialidad de los datos. «Si subimos datos personales, lo que ocurre es que estos modelos recuerdan las preguntas y respuestas, de tal manera que esos datos pueden ser utilizados por otros usuarios, lo cual atenta contra la normativa de protección de datos», advierte. La clave, según el Magistrado, es siempre revisar los resultados y respetar la normativa en materia de confidencialidad y protección de datos.

Además, sobre la posibilidad del juez-robot, Joaquín es categórico: «La respuesta es no. Es imposible». Aunque reconoce que, en casos masivos, no complejos y con parámetros previamente definidos podría emplearse como automatización, pero siempre sería necesaria una justificación clara y explicable de cada decisión.

Puedes ver la entrevista completa a través de este enlace.

Esta serie de vídeos de contenido didáctico ofrecidos por Wolters Kluwer Legal Software, reconocido proveedor de soluciones de software jurídico, nace con el propósito de promover y acelerar la transformación digital en el sector legal. Puedes ver el vídeo en la lista de YouTube ‘Píldoras Legaltech’ de Wolters Kluwer Legal Software, así como suscribirte al canal para estar al tanto de los futuros episodios.