Adrian Todolí: “Si no hay control humano, los algoritmos pueden acabar recortando derechos a los trabajadores”

El desarrollo de la Inteligencia Artificial (IA), a punto de contar con el Reglamento Europeo que regule su desarrollo, ha puesto en primer plano el papel de los algoritmos, elementos clave de esta tecnología disruptiva. Adrian Todolí,  profesor de Derecho del Trabajo y de la Seguridad Social en la Universidad de Valencia, especialista en retribución y plataformas, ha abordado esta cuestión en su libro “Algoritmos productivos y extractivos”.

Para este jurista, la evolución de los algoritmos en el tejido empresarial a medida que se ha ido desarrollando la IA es evidente. “Su avance es claro en empresas tecnológicas e industriales donde la gran mayoría utiliza estos algoritmos. Ahora es cuando más se desarrollan su potencial pero su uso se remonta a los años noventa”.

Este experto señala que “se han empleado para calcular la productividad en las empresas y tomar decisiones de producción y respecto al funcionamiento de la planta industrial. Antes eran más probablemente programas informáticos. Ahora su uso masivo nos deja claro que dicho desarrollo genera algunos riesgos a tener en cuenta”. En este contexto,  “al final es fundamental programar de manera correcta el algoritmo con transparencia en su actividad, porque de lo contrario puede acabar recortando derechos de los trabajadores. El papel clave es el control humano del algoritmo para un mejor uso”.

Todolí reconoce que en los últimos cinco años se analiza más en profundidad el uso de estos algoritmos. Hace algo más de un año el ministerio de Trabajo creó una comisión sobre el uso de los algoritmos que ha impulsado una guía de uso en la que participa con otros expertos. Está coordinada por Gemma Galdón y forman parte juristas expertos en derecho del trabajo como Anna Ginès; Ana Belén Muñoz; Javier Sánchez.

“Esa guía, subraya, orienta al empresario sobre la información que debe entregar a los trabajadores sobre el algoritmo. Todavía no hay datos oficiales pero sabemos que se está utilizando bastante, sobre todo en las negociaciones entre el comité de empresa y empresa, a la hora de decidir qué información hay que dar a esos trabajadores ”, aclara el jurista.

La Ley Rider española regula el uso de los algoritmos y qué información debe ofrecer la empresa a los representantes de los trabajadores (Imagen: Archivo))

De alguna manera, con esa publicación “se han reducido mucho los conflictos. En el caso de que los sindicatos pidan mucha información, mas de la que la ley le obliga, la empresa puede utilizar dicha guía donde deja claro cuál es el tipo de información que les pueden proporcionar. Y al revés, los sindicatos pueden reclamar a la empresa la información que necesiten de dichos algoritmos”.

Desde su punto de vista, “pese a la aparición de dicha guía, aún es pronto para saber cuál es el nivel de conflicto que pueden generar estos algoritmos en el seno de las empresas. Muchas veces, los trabajadores no son conscientes de que se están utilizando. Y ese el primer paso. De hecho, la conocida como Ley Rider española incluye en su articulado la necesidad de dar información de los algoritmos a los comités de empresa de su uso y de la propia lógica del algoritmo. Se trata de saber cómo funcionan y qué tipo de decisiones están tomando»,  advierte.

A partir de ahí, “si se descubre que ese algoritmo está generando discriminaciones de distinta índole en la empresa a determinados colectivos como pueden ser trabajadores temporales o a otros colectivos, entonces es cuando podría surgir el conflicto”.

A su juicio, “es más lógico que la empresa adapte el algoritmo que incorpora a su gestión a la filosofía de su empresa. Es algo que veremos más en el futuro.  Se trata de que realmente sea útil y evite cualquier tipo de discriminación con los trabajadores de cualquier compañía, que vulnere derechos fundamentales o que incluso pueda provocar problemas de salud».

Un uso extendido en la empresa

En su opinión, este uso generalizado se ha extendido sobre todo a empresas de un cierto tamaño. “Es posible que a pymes no haya llegado pero el resto ya lo utilizan de una forma u otra.  Aquí la cuestión es que los algoritmos presentan una serie de riesgos que hay que analizar”.

Desde esa perspectiva, ”es posible que un algoritmo pudiera discriminar en procesos de selección a las mujeres. Eso no se concebia y en los estudios que se han hecho estos años indican que hay este riesgo. Lo mismo para riesgos laborales en el trabajo que pueden provocar accidentes en el trabajo o provocar que el exceso de carga de trabajo que le da el algoritmo al trabajador acabe provocando este tipo de accidentes, cuando no estrés, burnout u otras cuestiones”. Para este jurista, “el reconocimiento de los riesgos no supone que se esté utilizando mal, lo que significa es que se tienen que analizar esos riesgos, sobre todo porque ahora hay conciencia que son discriminatorios y que pueden provocar este tipo de situaciones”. Así, considera que “lo primero que debe hacer un empresario es analizar sus algoritmos. Eso es básico por muchas razones, incluso por razones derivadas de la responsabilidad social corporativa pero también por razones legales”.

Si la Ley de Prevencion de Riesgos laborales señala al empresario como responsable de proteger a los trabajadores, debe estar atento si cualquier tecnología, algoritmos incluida puede generar esos riesgos laborales porque realmente esta normativa le obliga a ser responsable de la salud de sus profesionales y le obliga a esta supervisión, con la amenaza de ser fuertemente sancionado en el caso que surgieran problemas”.

Reglamento IA Europeo y algoritmos

Esta experto advierte que “en los próximos meses va a haber una regulación europea la IAC, es un Reglamento que tiene previsto la UE sacar, con lo cual tendrá la misma potencia que el ya conocido RGPD europeo en materia de protección de datos. La Comisión Europea se lo ha tomado muy en serio. Habrá que ver que huecos deja esta regulación y que cosas se puede adaptar en nuestro pais para tener una ley propia”.

Desde ese punto de vista, “parece claro que va a haber una normativa muy definida sobre los algoritmos en la empresa. Esta regulación tendrá carácter transversal, no solo pensada en el mercado de trabajo y por ello puede dejar algunos flecos, asi tras el RGPD la LOPD española añadió cinco artículos en materia laboral que son adicionales. Esta situación se va a repetir con el futuro Reglamento de IA Europeo”.

Hace algo mas de un año, el ministerio de Trabajo presentó una guía del uso de los algoritmos en la empresa, con Todoli como uno de los expertos (Imagen: ministerio de Trabajo)

A su juicio, “hay que estar muy pendiente de lo que está haciendo la Comisión Europea en materia de IA, sobre todo cuando se traiga a España, la normativa que se apruebe en nuestro país si deberá especificar cuestiones en materia laboral, pero hay que esperar a que la Comisión Europea de ese primer paso”.

Al mismo tiempo, aclara que “aunque aun no tenemos Reglamento de IA, el propio RGPD europeo de protección de datos ya regula ciertas cuestiones de los algoritmos. Su artículo 22 habla de las decisiones automatizadas y hay que cumplir, en el 35 se indica que el uso del algoritmo obliga a las empresas a realizar una evaluación de impacto. Y en otros artículos se señala que hay que dar información de esos algoritmos a los trabajadores afectados de manera individual”.

En el libro publicado recientemente por Todolí, se aborda “la diferencia los diferentes usos de los algoritmos. De ahí que hablemos de algoritmos productivos  y extractivos. Un buen uso de los algoritmos en la empresa puede mejorar su productividad, también la eficiencia de los propios trabajadores y que estos dejen de hacer tareas menos repetitivas para que esas las hagan los algoritmos”.

Desde su punto de vista, “estas situaciones ya las estamos viendo en sectores como el de la abogacía. En esta actividad, el desarrollo de los algoritmos ha impulsado las bases de datos automatizadas, de tal forma que si hace diez años el abogado miraba en papel repertorio de jurisprudencia y tardaba tres horas en localizar una sentencia, ahora mismo, con esas bases de datos, encuentran las sentencias en cinco minutos dedicando parte de ese tiempo sobrante a otras cuestiones de mayor relieve”.

Para Todolí, este tipo de situaciones se van generalizar en muchas situaciones “ y esta es la parte productiva del algoritmo que es muy positiva. Al mismo tiempo esta tecnología se puede utilizar de forma extractiva y es la parte que la ley tiene que intentar regular para que se eviten problemas. Ahí entrarían lo relacionado con accidentes de trabajo”.

Adrián Todoli es partidario del control humano de los algoritmos para evitar discriminaciones (Imagen: Universidad de Valencia)

Algoritmos y control de trabajadores

Nuestro interlocutor explica que “hay empresas que utilizan esos algoritmos para saber cuánto tardan sus trabajadores en un almacén dn el empaquetado de los paquetes haciendo, de alguna manera, competir a los trabajadores entre sí. Que esa información que tiene de lo que ha hecho el trabajador se pueda sistematizar conociendo cuáles son los profesionales más rentables en dicha actividad”.

Al mismo tiempo, nos aclara que “hay empresas que utilizan algoritmos para su despido automático porque si estás en el 10 por ciento final de la lista con menos productividad en tu empresa acabas siendo despedido. De hecho, ya hay sentencias sobre esa cuestión en Polonia. En ese pais han dicho que no es legal y hay dos sentencias que impiden este tipo de despidos”.

Estos algoritmos extractivos implican un aumento de la vigilancia sobre el trabajador. “Un control exhaustivo de su actividad al milímetro y estos usos son los que se tienen que regular y evitar. Lo fundamental es potenciar la parte del algoritmo productivo y controlar su uso desde el punto de vista extractivo”, aclara este experto en relaciones laborales».

Otro uso de ese algoritmo se percibe en el registro de jornada que las empresas están obligadas a realizar a sus trabajadores como obligación legal de los últimos años en nuestro país. “Se usa en dicho registro y también se puede llegar a saber si ese profesional cumple o no con su trabajo asignado. Puede avisar automáticamente de esa actividad, lo que ahora tiempo al departamento de RRHH en dicha supervisión”.

Al mismo tiempo, “los algoritmos están decidiendo en cada empresa qué trabajador desempeña su labor en cada turno. El algoritmo analiza la productividad del trabajador dependiendo de con qué compañero está trabajando y a qué horas trabaja y puede decidir que a unos les toque el turno de la mañana, a otros el de la tarde o el de la noche, por razones de productividad.

A su juicio, el peligro de estas decisiones es que no tiene en cuenta políticas de conciliación o de igualdad y puede acabar discriminando, como ya ha pasado en algunos casos. De ahí que, como señala el Reglamento de IA europeo que está a punto de aprobarse, sea necesario que estos algoritmos tengan siempre un control humano para evitar cualquier tipo de exceso en su uso”.