Primer tratado internacional jurídicamente vinculante para garantizar el uso de los sistemas de IA, derechos humanos, democracia y Estado de Derecho

La Unión Europea ha autorizado la firma del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho, constituyendo el primer tratado internacional jurídicamente vinculante destinado a garantizar que el uso de los sistemas de inteligencia artificial (IA) sea coherente con estos cuatro aspectos: IA, Derechos Humanos, Democracia y el Estado de Derecho.

La Decisión (EU) 2024/2218 del Consejo, fechado el 28 de agosto de 2024, publicada en el DOUE y en el BOE del pasado 4 de septiembre, marca un parámetro significativo en la regulación de la inteligencia artificial dentro de la Unión Europea. Este documento simboliza el compromiso de la UE con la promoción y protección de los derechos humanos, la democracia y el Estado de Derecho en el contexto del desarrollo y uso de la IA.

Establece principios generales y obligaciones para las partes del convenio, asegurando que la implementación de sistemas de IA no comprometa los valores fundamentales de la sociedad y los proteja. Y por supuesto, que las actividades concernientes con la seguridad nacional están excluidas del ámbito de aplicación del Convenio.

La Unión Europea buscará, por tanto, una coordinación reforzada con sus Estados miembros para formular posiciones uniformes en la Conferencia de las Partes del Convenio. Además de la UE, los países que han firmado hasta el momento el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial incluyen Andorra, Georgia, Islandia, Noruega, República de Moldavia, San Marino, Reino Unido, Israel y los Estados Unidos.

El convenio focaliza la importancia de una IA ética y responsable, que respete la privacidad individual y fomente una sociedad justa e inclusiva. Además, reconoce la necesidad de transparencia en los algoritmos de IA y la rendición de cuentas de los desarrolladores y operadores de estos sistemas. La Decisión (EU) 2024/2218 es un reflejo de la voluntad política de la UE de liderar globalmente en la definición de estándares éticos para la IA, y de su deseo de colaborar con otros estados miembros del Consejo de Europa para lograr este objetivo.

El documento también destaca la exclusión de las actividades de IA relacionadas con la seguridad nacional del ámbito de aplicación del convenio, lo que subraya la delicada balanza entre la seguridad y la privacidad en la era digital. El Reglamento (UE) 2024/1689, mencionado en la Decisión, proporciona un marco legal para la aplicación del convenio en la UE, estableciendo normas armonizadas para la introducción, operación y uso de sistemas de IA en los estados miembros.

(Imagen: E&J)

La Decisión (EU) 2024/2218 significa un paso adelante en la consolidación de un enfoque coherente y unificado hacia la IA en Europa, buscando garantizar que su desarrollo se alinee con los valores y principios democráticos. Este documento no solo establece un marco legal para la IA, sino que también sirve como una declaración de los valores y aspiraciones de la UE en la era de la tecnología avanzada. La firma de este convenio por parte de la UE es un claro indicativo de su compromiso con la creación de un futuro donde la tecnología y la humanidad puedan coexistir en armonía, respetando los derechos y libertades fundamentales de todos los ciudadanos.

La ejecución del Convenio Marco del Consejo de Europa sobre Inteligencia Artificial varía según el país, pero en general, sigue estos principios:

1. Adaptación a la Legislación Nacional: Cada país firmante adaptará el Convenio a su legislación nacional. Esto puede implicar la creación de nuevas leyes o la modificación de las existentes para cumplir con los estándares del Convenio.
2. Enfoque Basado en el Riesgo: Los países aplicarán un enfoque basado en el riesgo para la regulación de los sistemas de IA. Esto significa que los sistemas de IA se evaluarán y regularán según el nivel de riesgo que representen para los derechos humanos, la democracia y el Estado de derecho.
3. Transparencia y Documentación: Se requerirá que los sistemas de IA sean transparentes y que se mantenga una documentación detallada, especialmente para aquellos sistemas considerados de alto riesgo.
4. Gestión de Riesgos: Los países implementarán obligaciones de gestión de riesgos para los sistemas de IA, con la posibilidad de prohibir aquellos que representen una amenaza clara para los derechos fundamentales.
5. Innovación Responsable: El Convenio promueve la innovación en el campo de la IA, pero de manera que se respeten los derechos humanos y se minimicen los riesgos asociados.
6. Cooperación Internacional: Los países cooperarán a nivel internacional para garantizar la implementación efectiva del Convenio y compartirán mejores prácticas y experiencias.

En el caso de la UE, el Convenio se regulará por medio de la Ley de la IA de la Unión Europea que define las normas armonizadas para introducir, desarrollar y uso de los sistemas de la IA.

Todos los Estados del globo terráqueo están invitados a adherirse, siempre y cuando asuman la obligación de aceptar las condiciones y los deberes previstos.

Noticias relacionadas:

La Corte Constitucional colombiana se pronuncia sobre el uso de la IA por los jueces: ordena regular su uso en el mundo judicial