La IA es estratégica pese al entorno regulatorio: un 36% de las organizaciones ya define planes para estas herramientas

Ante la creciente presencia de la inteligencia artificial en el mundo empresarial y tecnológico, las organizaciones españolas comienzan a sentar las bases para incorporar este recurso a sus procesos y poder capitalizar todo su potencial de crecimiento.

“Aunque en la actualidad, apenas un 10% de las compañías dispone ya de un plan de IA completamente integrado en sus estrategias”, “el 36% de ellas ya ha iniciado su elaboración y solo una de cada cuatro no prevé tenerlo en un medio plazo, lo que demuestra la importancia estratégica que la IA va a tener en los negocios”.

Son palabras de Luis Abril, consejero ejecutivo de Indra y director general de Minsait, compañía del Grupo Indra líder en transformación digital y tecnologías de la información, con motivo del lanzamiento del Informe Ascendant Madurez Digital 2024 que la compañía digital presenta todos los años y que, en esta ocasión, bajo el título “IA, radiografía de una revolución en marcha”, aborda el contexto y grado de adopción de la inteligencia artificial por parte de las empresas y las administraciones públicas.

Para ello, se ha analizado la información aportada por más de 900 organizaciones de España y otros países, que han participado en este estudio, procedentes de 15 sectores diferentes de actividad.

La mayoría de organizaciones que ya han implementado IA en sus procesos lo han hecho con la motivación puesta en la eficiencia operativa (72%), en la mejora de toma de decisiones (34%) y la evolución de la experiencia de sus clientes y usuarios internos (31%).

El Gobierno del Dato se confirma como paso previo para extraer el mayor valor de la información, avanzar hacia la inteligencia artificial y entrar en modelos más evolucionados, como la IA generativa; el 78% de las organizaciones ya cuenta con infraestructura en la nube para su escalado y una de cada tres tiene acuerdos con socios tecnológicos especializados.

Luis Abril advierte que solo un 10% de las empresas encuestadas en el último informe de Minsait tiene un plan de IA acabado. (Imagen: Minsait)

El informe muestra cómo es básico integrar la ética y la ciberseguridad en las etapas iniciales de los casos de uso que están abriendo la puerta a la IA en las organizaciones, para garantizar un uso responsable y seguro de los datos durante todo su ciclo de vida.

El 31% de las empresas consultadas destaca la inestabilidad de la regulación como una de las grandes barreras para la implementación de más casos de uso, algo que, con la reciente aprobación del Reglamento Europeo de IA, ha dado claridad a este escenario.

Una de cada cuatro empresas e instituciones consultadas cuenta con recursos humanos y económicos para evolucionar en IA, aunque aún se constata cierta falta de visión a nivel directivo, desconocimiento sobre sus capacidades o ausencia de profesionales especializados.

El Informe Ascendant de Minsait constata que la IA generativa se ha convertido, además, en el multiplicador para la implementación de casos de uso y acelerar su llegada a las empresas.

Luis Abril, responsable de Minsait, recuerda que es importante aprovechar este momento de oportunidad: “La inteligencia artificial es un recurso valioso para mejorar la competitividad de las empresas y las administraciones públicas en todo el mundo. Y, como siempre ha ocurrido con otras revoluciones de calado, la IA supone una disrupción en diversos ámbitos de la sociedad y viene acompañada de una serie de retos que habrá que gestionar».

La IA ya impacta en las organizaciones

Para Joaquín Muñoz, socio responsable del área de comercial y protección de datos de Bird & Bird, diseñar “un plan de IA requiere que las empresas identifiquen qué tipo de herramientas o sistemas que incorporan inteligencia artificial van a desplegar en sus sistemas para, en función de diferentes factores, identificar los riesgos e implementar las medidas de seguridad de cara a definir un entorno seguro que garantice la viabilidad del despliegue y el cumplimiento normativo”.

A juicio de este experto, “dichos factores van desde identificar si van a utilizar sistemas de terceros o desarrollar su propio software, si las finalidades para las que van a utilizar los sistemas de IA se encuadran en alguna de las categorías definidas como usos prohibidos o alto riesgo por el Reglamento de IA o el impacto que su uso en las personas”.

En su opinión, “con base en lo anterior, un buen plan de IA identificará los riesgos asociados para implementar medidas técnicas y organizativas que van desde un proceso de homologación de proveedores y su oferta de sistemas de IA, hasta herramientas de seguimiento del funcionamiento de los sistemas para identificar y corregir posibles defectos, pasando por una serie de adecuaciones técnicas, formativas y contractuales para limitar la responsabilidad y asegurar el cumplimiento de la empresa en el uso de la inteligencia artificial”.

Joaquín Muñoz advierte que “la IA ya está impactando la forma en la que las empresas se organizan para conseguir sus objetivos”. (Imagen: Bird & Bird)

En cuanto al impacto de la IA en las organizaciones, “la IA ya está impactando la forma en la que las empresas se organizan para conseguir sus objetivos”.

Así, destaca que “en algunos casos los sistemas de IA son ya el activo principal para el negocio y en otros, la mayoría, encontramos empresas sacando partido de funcionalidades específicas de sistemas de inteligencia artificial para mejorar la eficiencia, automatizar procesos, facilitar la toma de decisiones basada en datos y fomentar la innovación”.

Para este jurista, “también encontramos una amplia penetración actualmente de sistemas de IA enfocados en la mejora de la experiencia del cliente y el descubrimiento de nuevas oportunidades de negocio”.

En cuanto a la IA generativa, Muñoz destaca que “la IA generativa es atractiva porque permite crear contenido nuevo y original, como texto, imágenes y música, que puede ser personalizado y escalable. Esto abre posibilidades para la innovación en diversos campos, como el diseño, el entretenimiento y la publicidad”.

Respecto al entorno regulatorio, escenario que preocupa bastante a las empresas, este experto indica que “el entorno regulatorio preocupa a las empresas porque deben garantizar el cumplimiento si desarrollan, implementan y/o utilizan las tecnologías que incorporan inteligencia artificial.

“Esto implica desafíos adicionales en términos de cumplimiento para garantizar, por un lado, que los proveedores contratados no van a poner a la empresa en un riesgo de incumplimiento y, por otro, que se lleva a cabo el compliance by design ya extendido en todos los nuevos paquetes normativos que implica un ciclo de implementación, formación, revisión y actualización continua de las políticas internas para asegurar el cumplimiento”.

Para Joaquín Muñoz, “en este sentido, van a tener cada vez más importancia certificaciones externas y estándares de cumplimiento (ISO, UNE y similares), que permitan a las empresas garantizar a sus clientes que cumplen con la normativa, dando así también confort jurídico a la hora de contratar proveedores de sistemas que incorporan IA”.

Belén Arribas subraya el papel clave de la IA Generativa en las empresas por su flexibilidad y aplicación al entorno empresarial. (Imagen: Enatic)

La futura normativa de la IA es compleja

Belén Arribas, presidenta de Enatic, considera que un plan de IA “debería contener estos elementos clave: en primer lugar, el análisis de las necesidades y objetivos de la organización; a continuación, el análisis de los datos de que se dispone y que necesitan; la evaluación y la selección de tecnologías adecuadas a los objetivos”.

Junto a ello es necesario “el diseño del modelo y su despliegue, en su caso; la integración del sistema con posibles sistemas existentes en la organización y el diseño de la gobernanza del sistema. Y sin duda la necesidad de la evaluación continua del sistema (funcionamiento técnico, cumplimiento legal, ética y de gobernanza) a lo largo de todo el ciclo de vida del mismo”.

En cuanto a las aportaciones de la IA generativa, Arribas señala que a diferencia de otros tipos de IA que pueden realizar tareas más específicas, la IA generativa puede generar contenido completamente nuevo, ya sea en forma de imágenes, texto, música o incluso videos.

Además, la IA generativa puede ser utilizada para la generación de datos sintéticos para entrenar otros modelos de IA, lo que la convierte en una herramienta muy potente para centros de investigación y de desarrollo.

También indica que “es especialmente flexible y versátil, puede ser utilizada para una amplia gama de aplicaciones y puede ser entrenada para generar contenido que se ajuste a las necesidades y preferencias específicas de cada usuario u organización”.

En cuanto a las preocupaciones que genera el entorno regulatorio de la IA, viene dado por “la inseguridad jurídica por ser un campo relativamente nuevo y en constante evolución. Hasta recientemente ha habido falta de claridad en cuanto a las leyes y regulaciones que se aplican a su desarrollo y uso, lo cual va a verse mitigado, al menos en nuestro entorno europeo, en cuanto se apruebe la IA Act dentro de unas semanas”.

“La complejidad de una norma de nuevo cuño de más de 400 páginas y su necesaria traslación a casos de uso hace que hayan surgido cursos, postgrados y másteres por doquier. El interés por el Curso Experto de Derecho e IA de la UB-IL3, donde tenemos el placer de colaborar como docente y coordinadora, que puso el sold-out a las pocas semanas de publicarse, es una prueba de ello”.

Para esta experta, “la IA, por otro lado, puede plantear importantes cuestiones éticas y de responsabilidad, especialmente en protección de datos, posible discriminación algorítmica y otros aspectos de especial complejidad. De igual manera, el riesgo de sanciones por incumplimiento regulatorio o la posibilidad de litigios son significativos y, en algunos casos, pueden comprometer hasta la viabilidad de la organización”.

Francisco Pérez Bes destaca que las empresas desconfían del Reglamento de IA que deberá buscar un equilibrio entre la innovación y los derechos fundamentales de las personas. (Imagen: Ecix Group)

Las empresas desconfían de la normativa que viene

Por su parte, Francisco Pérez Bes, socio de derecho digital de Ecix Group y exsecretario general de Incibe, cualquier plan sobre IA que se defina “requiere de una estrategia con enfoque multidisciplinar, ya que para poder sopesar los riesgos de su uso se hace necesario evaluar cuáles son los motivos que llevan a la empresa a implantar este tipo de recursos y qué infraestructura se necesita para lograr tales fines”.

Para este jurista, “este plan director de IA requiere un análisis detallado y estructurado de todos estos aspectos, a riesgo de acometer una inversión importante que no ofrezca los resultados esperados”.

“A nivel de detalle, el plan debe incorporar un análisis de las capacidades tecnológicas (recursos y proveedores de nube, por ejemplo), de calidad de datos de entrenamiento (gobernanza del dato), aspectos legales y de gestión del riesgo de cumplimiento, aspectos éticos y de buen gobierno, planes de alfabetización y capacitación de los profesionales, etc.”, comenta.

Sobre la IA generativa que señala el informe de Minsait, “la posibilidad de generar contenidos es un recurso que, bien aplicado, puede mejorar sustancialmente la eficiencia de determinadas áreas corporativas, al acelerar sus procesos y, por tanto, reducir los tiempos de respuesta.

“Como también la posibilidad de procesar grandes volúmenes de información para establecer previsiones y detectar tendencias es una de las grandes apuestas de la industria con respecto a la IA, por no hablar de la toma de decisiones automatizadas, lo cual también es una funcionalidad muy valorada, aunque no considero que estemos aún en un nivel de madurez tecnológica suficiente para poderlo abordar con garantías”.

En cuanto al entorno regulatorio, que puede ser una preocupación para las empresas, Francisco Pérez Bes subraya que “la regulación se ha hecho necesaria si pretendemos alcanzar un uso responsable de esta tecnología. Una vez el legislador se ha dado cuenta de su verdadero potencial, no ha dudado en establecer ciertas reglas que son las que deben regir el uso adecuado y ético de la IA.

“En cierto modo, eso siempre supone una ralentización de las capacidades de investigación y desarrollo y, por ende, de la competitividad de las empresas sujetas a la regulación, frente a otras que no tienen este tipo de frenos. Sin embargo, a mi juicio, con la regulación Europa apuesta por dotar a las empresas de seguridad jurídica a la hora de implementar este tipo de soluciones, precisamente con el objetivo de alcanzar esa confiabilidad y seguridad tan demandadas, y garantizar el pleno respeto a los derechos fundamentales de las personas”, comenta.

A juicio de este jurista, “a pesar de ello, y conociendo cómo se elaboran las normas en Europa, es normal que las empresas desconfíen de que las nuevas normas que próximamente acompañarán al Reglamento de Inteligencia Artificial (RIA), no sólo protejan los derechos de los ciudadanos, sino que también fomenten el progreso industrial”.