Los riesgos de la IA en el ámbito de la sanidad requieren una respuesta ética y jurídica, precisa Ana Pastor

Este jueves ha dado comienzo en Madrid el XXX Congreso Nacional de Derecho Sanitario, en el que cerca de 700 juristas, sanitarios y profesionales relacionados con este mundo debatirán, a lo largo de sus dos jornadas, sobre los actuales desafíos y avances legislativos en el ámbito de la sanidad.

Ofelia De Lorenzo, presidenta de la Asociación Española de Derecho Sanitario (AEDS), ha destacado durante la inauguración del Congreso que el objetivo de este evento es “abordar cuestiones tanto clásicas como emergentes en Derecho Sanitario, buscando ofrecer respuestas jurídicas efectivas a los desafíos actuales y futuros del sector”.

Durante su intervención, avanzó que el XXX Congreso Nacional de Derecho Sanitario, “evento de referencia no solo en España, sino en Europa y Latinoamérica”, contempla temas como el tráfico de órganos en el siglo XXI y cómo combatir su impacto en la salud pública; la inteligencia artificial (IA) y salud, a través de dos mesas en las que se discutirán las oportunidades y riesgos de la IA y el uso de datos en sanidad; o las implicaciones éticas y jurídicas del uso secundario de datos de salud y la regulación de aplicaciones de neurociencia.

Sobre la inteligencia artificial (IA), Ana Pastor, expresidenta del Congreso de los Diputados, exministra de Sanidad con Mariano Rajoy y presidente de A. M. A, en su intervención de apertura de este evento, indicó que “en España y en Europa contamos con un sistema legal que cada vez es más sensible a la innovación en tecnología de la salud”. No obstante, ha proseguido aclarando que, “desgraciadamente, en nuestro país tendríamos que adoptar decisiones para modernizar nuestro ordenamiento jurídico porque necesitamos avanzar en regulaciones que cubran los riesgos inherentes al uso de la inteligencia artificial”.

A su juicio “la IA es una herramienta pero el profesional sanitario, con su conocimiento y experiencia, sitúa a la empatía como el centro de la atención del paciente”, ha señalado. Por ello, Pastor ha querido remarcar que los sanitarios no deben perder de vista que ellos son el centro del sistema y, que por mucha inteligencia artificial que haya, “seguiremos teniendo que hacer una medicina personalizada y humanizada”.

Para la presidenta de A. M. A, la IA puede apoyar a la toma de decisiones, pero la responsabilidad final debe recaer en los profesionales que tienen la formación y la sensibilidad para tratar a los pacientes de manera integral. Siguiendo esta línea, ha sacado a colación algunas preguntas que rondan en las mentes de los sanitarios: ¿Quién es el responsable si un diagnóstico asistido por IA falla? ¿Cómo se protege la privacidad de los datos de los pacientes en un entorno digitalizado y altamente interconectado? ¿Qué derechos tiene el paciente sobre los algoritmos y los datos que se emplean en su atención?

Debate sobre IA, moderado por la directora general de A. M. A., Raquel Murillo, que reúne a juristas y médicos. (Imagen: Antonio Martín para el Congreso Derecho Sanitario)

Debate sobre IA

En este primer día, A.M.A., la mutua de los profesionales sanitarios, ha reunido a ponentes de primer nivel para debatir sobre inteligencia artificial y responsabilidad civil en una Mesa de trabajo con el propósito de analizar los desafíos más apremiantes que conlleva la implantación de la IA.

Este intenso debate al que acudieron más 400 personas, fue dirigido y moderado por Raquel Murillo, directora general y responsable del ramo de Responsabilidad Civil Profesional de la mutua, en una mesa en la que han participado ponentes de primer nivel como son el doctor Benjamín Herreros-Valdepeñas, el doctor Ignacio Hernández, el abogado Joaquín Ruiz Echauri, y el magistrado de Tribunal Constitucional, César Tolosa.

La directora general de A.M.A. comenzó su intervención destacando la auténtica revolución que determinadas herramientas de la inteligencia artificial están suponiendo ya en el ámbito sanitario, favoreciendo, según explicó, “la posibilidad de desarrollar una medicina personalizada, preventiva y de precisión”. Pero, junto a las ventajas, el uso de estas nuevas tecnologías y la inteligencia artificial “nos colocan ante nuevos riesgos, muchos de ellos hasta ahora desconocidos, que están generando cierto desasosiego y que requieren de una respuesta ética y jurídica adecuada y precisa”.

Una de las cuestiones que genera múltiples interrogantes es la responsabilidad civil profesional en el caso de que se produzca un error diagnóstico o terapéutico. “Recientemente se ha aprobado el Reglamento de la Unión Europea 2924/1689, pero queda mucho camino por recorrer”, afirmó.

Desde su punto de vista, las ventajas de estas nuevas tecnologías y de la IA son evidentes, pero de forma paralela nos colocan ante nuevos riesgos, muchos de ellos hasta ahora desconocidos, que están generando cierto desasosiego y que requieren de una respuesta ética y jurídica adecuada y precisa.

A continuación, el doctor Benjamín Herreros, trató los problemas éticos y legales de la inteligencia artificial en la práctica clínica. Durante su intervención, destacó que una de las grandes ventajas de la IA en la medicina es su capacidad rápida de análisis de datos para generar conclusiones, lo que tiene consecuencias positivas en la sanidad. Asimismo, subrayó que no tiene sesgos ni errores cognitivos como el cansancio.

Por su parte, el doctor Ignacio Hernández especialista en neurología y cofundador de los sistemas SAVANA y MEDELIAN, se ha referido a la IA en esta rama sanitaria, y manifestó que “la IA puede ver cosas para lo que no está diseñada. Así, hoy, con la IA podemos ver un cáncer de páncreas que se desarrollará dentro de siete años, o con 10 segundos de grabación de voz se puede saber el riesgo cardíaco de un paciente”.

“Las IA generativas tipo ChatGPT, lo que hacen es mejorar el acceso a información que ya existe y que todos estamos usando hoy en día, es tremendo lo que puede hacer. Pero lo realmente importante aquí es que no genera conocimiento nuevo, solo usa el existente”.

No obstante, el premio Princesa de Girona insistió, en que “en un entorno donde las máquinas tienen respuesta, lo pertinente siempre es hacer una buena pregunta. Aunque la IA generativa brilla mucho, no genera conocimiento nuevo, solo mejora el conocimiento que ya existe. La IA generativa no es validable científicamente, hay que utilizarla junto a la IA discriminativa”.

Joaquín Ruiz Echauri advierte que una nueva directiva arreglará a medio plazo el problema de la carga de la prueba en la IA. (Imagen: Antonio Martín para el Congreso Derecho Sanitario)

A continuación, para abordar la responsabilidad y aseguramiento de la responsabilidad civil en materia de inteligencia artificial, intervino Joaquín Ruiz Echauri, socio responsable del Área de Seguros y Reaseguros de Pérez-Llorca Abogados. Ruiz Echauri comentó que es importante que “las profesiones sanitarias se acojan a los estándares establecidos para podernos proteger”. En este sentido, hizo hincapié en que “hoy por hoy tenemos una propuesta directiva sobre IA y tardará de tres a cinco años. Se trata de una norma que quiere solucionar el problema del principio jurídico de la carga de la prueba”.

Desde su punto de vista “en materia de aseguramiento, la industria aseguradora está yendo varios pasos por detrás, la industria está tratando de dar cobertura a los riesgos de IA como un complemento integrado en las pólizas de ciber riesgo”.

Por último, César Tolosa, magistrado del Tribunal Constitucional, se centró en la protección de los derechos fundamentales en la aplicación de la inteligencia artificial en el ámbito sanitario. Según explicó, el ordenamiento español se enfrenta a los siguientes problemas relacionados con la IA: el primero, la reforma de la figura del consentimiento informático; y el segundo, la figura de la responsabilidad.

“Sobre la reforma de la figura del consentimiento informático hay que tener en cuenta que el paciente debe conocer qué sistemas algorítmicos se le va a aplicar. Y en cuanto al problema de la responsabilidad, se plantean varios escenarios. Uno, que la IA es perfecta y que el médico la pueda utilizar mal; otro, que el error pueda ser de la IA por ofrecer datos equivocados; y por último, desconocer de quién es la responsabilidad, para la cual tendremos que acudir a la responsabilidad concurrente”, afirmó.

“Desde el punto de vista jurídico nos encontramos con dos poderes diferenciados: el primero, la postura que defiende y que afirma que las incorporaciones tecnológicas suponen una mejora en el tratamiento sanitario; y el segundo, la postura más conservadora que se remonta a los prejuicios a los derechos fundamentales de los ciudadanos, como la igualdad, la accesibilidad y la libre elección del paciente”, terminó aclarando en su intervención.

Cesar Tolosa hablando de la protección de los derechos fundamentales ante la IA. (Imagen: Antonio Martín para el Congreso Derecho Sanitario)

Un congreso de gran nivel

A lo largo de este XXX Congreso de Derecho Sanitario en materia de One Health se analizará el enfoque integral de la salud que conecta la salud humana, animal y ambiental, especialmente relevante tras la pandemia de Covid-19, la viruela del mono, la gripe aviar o la crisis de las resistencias a antibióticos, para entender su importancia en la salud pública y los desafíos normativos que implica.

En relación con las novedades en el Derecho farmacéutico y la regulación sanitaria, el Congreso abordará el Proyecto de Real Decreto sobre evaluación de tecnologías sanitarias y las perspectivas de la Ley de la Agencia Estatal de Salud Pública, esenciales para la protección de la salud en un contexto globalizado.

Asimismo, se revisará el uso del baremo de la Ley 35/2015 en indemnizaciones de responsabilidad civil, especialmente en casos graves, y se analizarán reformas futuras en esta Ley que podrían mejorar la seguridad jurídica y fomentar acuerdos extrajudiciales, y, por otra parte, se pondrá sobre la mesa el marco legal en intrusismo sanitario y pseudociencias.

Este foro también contará con una mesa en materia de seguridad del paciente y a propósito de la nueva Ley ELA como un avance significativo en el Derecho Sanitario, al establecer un marco legal que garantiza una atención más rápida y eficiente para los pacientes con enfermedades neurodegenerativas.

“El XXX Congreso de Derecho Sanitario incluirá reuniones, mesas redondas, coloquios, talleres de trabajo y presentaciones, entre otras actividades, para ofrecer una completa perspectiva multidisciplinar sobre temas muy relevantes y actuales para el sector”, ha señalado De Lorenzo. También se informará de las novedades jurisprudenciales y, además, habrá espacio para las comunicaciones libres de ponentes que cursan los másteres en Derecho Sanitario y en Valoración del Daño Corporal de la Universidad Camilo José Cela.

Asimismo, esta edición contará con dos mesas de investigadores en Derecho Sanitario; una mesa de debates en torno a los riesgos y límites de la digitalización de la asistencia sanitaria; o la ya clásica presentación de novedades editoriales en Derecho Sanitario.

El Congreso Nacional de Derecho Sanitario cuenta con el reconocimiento de la Consejería de Sanidad de la Comunidad de Madrid y los Consejos Generales de varias profesiones sanitarias de España. A lo largo de sus tres décadas de existencia, ha conseguido consagrarse como el foro más destacado en esta materia, siendo referente no solo en España, sino también para otros países europeos y, sin duda, iberoamericanos, con presencia de ponentes de dichos lugares.

De nuevo, el Congreso de Derecho Sanitario se convierte durante dos días en un evento que reúne a juristas y profesionales de la sanidad. (Imagen: Antonio Martín para el Congreso Derecho Sanitario)