La AESIA, regulador de la IA nacional, dispondrá de un cuerpo de inspectores que velará por el cumplimiento de la normativa

La AESIA, el único regulador específico de IA que hay en Europa, empieza a tomar cuerpo. En unos días lanzará una convocatoria de empleo público de diecinueve plazas y antes de fin de año estará operativo el sandbox o entorno de pruebas, el único en Europa para que las empresas de la UE testen si la normativa del Reglamento de IA se adecua a sus estrategias de negocio.

Al frente de ella, Ignasi Belda, alicantino de origen, como el flamante director general desde mediados de junio, doctor en la IA, amén de su formación como ingeniero informativo volcado en el sector de la biomedicina, también aprovechó para sacarse otro doctorado en Derecho. Se constata que es un profesional que sabe lo que dice.

Desde el pasado 1 de agosto que se aprobó el Reglamento de IA, no ha dejado de ser ponente de distintos eventos de todo tipo para hablar de la IA y de lo que puede aportar. Todo el mundo coincide que es una normativa compleja que en algunos casos está sujeta a interpretaciones. “La UE ha creado grupos de trabajo para que haya una interpretación homogénea de la norma, para que las diferencias que existan en Francia, Luxemburgo o Portugal sean escasas. En cada uno de ellos habrá dos representantes por país”.

Belda será representante español en el de tecnologías sanitarias y tiene claro lo que espera de la IA. “No podemos perder este tren de la innovación. Si lo hacemos bien, la aplicación de la IA puede ayudar mucho a mejorar nuestro modelo productivo y a ser más competitivos. Queremos que todas las organizaciones públicas privadas incorporen la IA en toda su cadena de valor”, indica en uno de sus mensajes. «Así seremos un país más competitivo”.

El CEO de AESIA se ha sometido a un bombardeo de preguntas sobre entidad, la IA, los derechos fundamentales, y también se habló de ética y tecnología. Todas han sido contestadas a estos alumnos de los últimos años de la Universidad Carlos III y de su asociación InnnovAI, la única en nuestro país a nivel académico que reúne a estudiantes, académicos y profesionales. Es posible que estemos ante un líder nato con una capacidad de convicción importante en todo aquello lo que dice.

En declaraciones a Economist & Jurist al finalizar el evento, reconoce que hay mucho trabajo por delante y que en estas reuniones que mantiene con empresarios de todo el país lo que más preocupan a estos empresarios no son tanto las sanciones que son muy elevadas más que las de la AEPD, sino la preocupación porque el acceso a la IA para las empresas sea un cumulo de burocracias. Belda cree que el proyecto de AESIA cuenta con los medios adecuados para ponerse en marcha.

El director general de AESIA, ante un nutrido auditórium en la Carlos III, advierte “No podemos perder esta oportunidad de progreso». (Imagen: E&J)

Hicieron los honores de presentar al director general  de AESIA, Pilar Otero como vicerrectora de Estudiantes y Residencia, además es Catedrática de Derecho penal de la Universidad Carlos III de Madrid., quien resalto el trabajo de esta Universidad por fomentar el tejido asociativo “tenemos más de ochenta entidades en marcha, junto a Mar Fernández-Lasquetty. Estudiante de Derecho y Ciencias Políticas en la Universidad Carlos III de Madrid y miembro de Innovai”.

En su intervención Belda explicó las líneas básicas del Reglamento de IA, organizado en cuatro categorías, donde quedan definidas toda las aplicaciones de IA. Hay unas de más alto riesgo que si se desarrollan pueden sufrir las sanciones más elevadas como son 35 millones de euros o el 7% de la facturación mundial, cantidades importantes. Es hablar de social scoring y de control de biometría hasta aquellas de riesgo bajo o nulo. “Creo que son el 85% de las aplicaciones. Lo que se pretende es que siempre haya una decisión humana al final de todas estas decisiones y nunca sean las maquinas quienes decidan”, indica.

En este momento, el director general de AESIA comentó otro elemento importante como es el pape vigilante del merado del propio regulador, «la AESIA va a crear el centro nacional de certificación en IA, que va a operar hasta que se creen organismos o centros certificadores. Esperamos que haya muchos organismos públicos y privados que puedan prestar este servicio público».

Para hacer esa labor de supervisión, Belda anuncia: “Vamos a crear un cuerpo de inspección propio sobre IA, como ya hay de Hacienda, de trabajo o de blanqueo de capitales. Este cuerpo que estará operativo en el primer trimestre del 2025 va a nutrirse de dos maneras por la vía de denuncia directiva y en segundo lugar de oficio, cuando se hagan inspecciones concretas a determinados colectivos». Pese a ello, descarta que se vaya a utilizar como elemento recaudador, «es un elemento disuasorio para que nadie en nuestro país infrinja la normativa de IA”.

La importancia del sandbox

El otro elemento es el sandbox, el entorno de pruebas donde las empresas europeas o de cualquier lugar del mundo quieren probar sus sistemas de IA. Esto es algo opcional. «Desde AESIA vamos supervisar que esas empresas pasen los controles tendrán una certificación europea. Eso significara que esa herramienta se puede utilizar en cualquier país de Europa. Queremos con ello que el emprendedor acelere las innovaciones fuera de trámites burocráticos. Queremos ayudarle en su negocio”, explica.

Es factible que ese entorno de pruebas esté operativo antes de que acabe este año. Al mismo tiempo aclara que “los empresarios temen poder perderse en el entorno regulatorio creciente bastante complejo de entender para combatir esas barreras», y anuncia la elaboración de «16 guías para que cualquier emprendedor o empresa pueda descargárselas para entender el reglamento de IA con todo detalle”.

Ignasi Belda y los integrantes de InnoVAI al final de este debate sobre IA e innovación, en el que se han planteado dudas jurídicas, éticas o de protección de datos. (Imagen: E&J)

De lo que se trata es de contar con estas aplicaciones sectoriales en dieciséis actividades. “Vamos a explicarlo de forma muy llana para que cualquier empresa, sin necesidad de tener que pagar consultores, pueda poner a punto su sistema de IA sin depender de terceros. Son publicaciones de corte divulgativo que cualquier profesional lo puede entender. Estas guías se complementan con la puesta en marcha de una Oficina de Atención al Ciudadano para poder consultar dudas sobre la IA».

A final de lo que se trata es de romper la idea de “que vamos a poner barreras a la innovación. Es todo lo contrario lo que queremos hacer. Tenemos que aprovechar la oportunidad que viene con la aprobación del Reglamento de la IA y la tecnología emergente que nos puede ayudar a mejorar como país. El uso de la IA en la justicia puede ayudar a reducir el colapso de los tribunales. Estamos ahora con un piloto en una Audiencia Provincial y a que los jueces trabajen menos en sus sentencias”.

Ignasi Belda es consciente que habrá puestos de trabajo que desaparezcan con la implementación de la IA, como son los taxistas frente al coche autónomo otras que se adapten al nuevo escenario, o los médicos de familia ante herramientas como Watson que ayudan a mejorar los diagnósticos, y un tercer grupo que aparecerá de profesiones que ahora se conocen poco. “Gracias al CHATGPT monté el temario de una asignatura sobre biomedicina en un par de horas”, indica.

Europa diferente a EEUU y China

Frente al modelo europeo, le preguntaron por los modelos chino y de EEUU en materia de IA. “Son dos modelos distintos. China tiene unas prácticas socialmente aceptadas de IA y en Europa no, como es el reconocimiento biométrico en espacios abiertos, aceptado en el país asiático, en Europa no lo aceptamos. Por su parte, EEUU acoge las grandes tecnológicas que son un lobby, esa libertad regulatoria en su país de origen no lo tienen en Europa. Sin embargo, es posible que a medio plazo, como pasó con la ley de protección de datos, muchas ciudades norteamericanas hagan suyo el modelo europeo”, detalla.

Desde AESIA se trabaja en crear un Observatorio de IA, de carácter transversal en el que estén representados agentes sociales y representantes de la sociedad civil, liderado desde el Ministerio de Transformación Digital, germen de este regulador sobre IA en su día. “Debe de servir para que el Gobierno implemente políticas publicas de IA desde el consenso con otros interlocutores. Esta iniciativa en formato de think tank debe ayudar a captar inversores externos que quieran llegar a nuestro país por la IA y a que la IA se extienda por todo el país desde los estudiantes a los jubilados”, expone.

El acto concluyó con una foto de familia entre el colectivo de InnovaI, formado por Antonio Caballero, presidente; Pablo Martín, vicepresidente, director de Estrategia y Operaciones; Marcos Santiago; Director de investigación; Samuel García y Ricardo Martínez, como director de marketing y desarrollo, promotores de este encuentro, junto con otro compañeros con el propio Ignasi Belda. Este ha sido el primer evento de muchos y el futuro pasa por trabajar en comunidad.

“Vimos la necesidad urgente de preparar adecuadamente a nuestros compañeros estudiantes para este campo en expansión. En la Asociación de InnovAI de la Universidad Carlos III de Madrid, proporcionamos herramientas, acceso a una red de profesionales y oportunidades reales para desarrollar habilidades críticas en inteligencia artificial. Queremos que nuestros compañeros se una a InnovAI y prepárate para ser parte del futuro de la tecnología”, comenta Caballero, su presidente.