Todavía cuesta entender qué son los sistemas de inteligencia artificial y ya son muchas empresas las que están introduciendo distintos modelos que afectan a las condiciones de las trabajadoras. La regulación en esta materia es escasa, así como las decisiones judiciales que la interpreten, por lo que en este terreno debemos desarrollar nuestra actividad como abogadas y sindicalistas.
Pero empecemos por el principio: ¿qué es la inteligencia artificial y cómo se regula? El Reglamento de Inteligencia Artificial de la UE —RIA en adelante—, nos propone esta definición: sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe, la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales.
En el Estado español contamos con poca normativa, pero al mismo tiempo fundamental. Por un lado, tenemos el Reglamento General de Protección de Datos de la UE de 2016, —y la Ley Orgánica de Protección de Datos del año 2018—, que establece que todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente y que el interesado tendrá derecho a obtener del responsable del tratamiento, confirmación de si se están tratando o no datos personales que le conciernan y, en tal caso, el derecho de acceso a los datos personales, lo que incluirá la información sobre la existencia de decisiones automatizadas, incluida la elaboración de perfiles. Asimismo, también establece que el afectado por estas decisiones tendrá el derecho a impugnar las decisiones.
Por otro lado, nos encontramos con la llamada “Ley Rider”, que reconoce el derecho de información de la Representación Legal de las Personas Trabajadoras (RLPT) a conocer los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y el mantenimiento del empleo, incluida la elaboración de perfiles.
A nivel europeo, estamos pendientes de la publicación del Reglamento de Inteligencia Artificial de la Unión Europea —de aplicación directa por los Estados miembros— que impone obligaciones de transparencia, seguridad y registro a quienes fabriquen, comercien o implanten sistemas de inteligencia artificial, especialmente aquellos considerados de “alto riesgo” —por ejemplo, los empleados en la selección de personal y gestión de las relaciones laborales—. En concreto, recoge la obligación de los empresarios, antes de utilizar un sistema de IA, de informar a la RLPT y a la plantilla de que estarán expuestas a la utilización del sistema de IA de alto riesgo, pero sin establecer la obligación de informar sobre los parámetros de funcionamiento del sistema. Y es que la competencia de la RLT para conocer el código fuente, los criterios o los datos con los que se alimenta el sistema de inteligencia artificial es fundamental para poder fiscalizar el funcionamiento que puede ser discriminatorio, pero que se presenta como neutral y objetivo.
Pese a que el Reglamento no aventura grandes conquistas para las trabajadoras ni para las organizaciones sindicales, una vez entre en vigor, si lo aplicamos junto con el Reglamento General de Protección de Datos y el Estatuto de los Trabajadores, como RLPT podemos exigir que la empresa realice pruebas o ensayos antes de implantar definitivamente un sistema de IA, solicitar instrucciones de uso del sistema del proveedor, comprobar la formación de la persona responsable del sistema, exigir la vigilancia humana para prevenir los riesgos de afectación a los derechos fundamentales, supervisar que las decisiones que afectan a la plantilla no están únicamente basadas en tratamientos automatizados, solicitar a la empresa los criterios por los que se rige el sistema de IA y en qué ámbitos concretos se aplica por la empresa, exigir protocolos y procedimientos claros para que cada trabajador pueda acceder a una explicación sobre una decisión por un algoritmo o para impugnarla, exigir las previsiones de productividad y aumento de la productividad generada por la IA, conocer el nombre del responsable de desarrollo del sistema de IA, conocer qué datos está usando la IA y si son de carácter personal para fiscalizar si son adecuados y proporcionales para la finalidad que persigue la empresa. Igualmente podríamos solicitar información sobre el nombre del importador, el fabricante y distribuidor del sistema, así como la información depositada por éstos ante la autoridad nacional correspondiente. Contamos también con la posibilidad de formular denuncias a la Inspección de Trabajo y también a la Agencia Española de Protección de Datos, así como a los futuros organismos con competencia en materia de inteligencia artificial.
Pero las organizaciones sindicales y la Representación Legal de las Personas Trabajadoras no debemos contentarnos con el marco jurídico que se nos impone, sino que debemos de ampliar nuestra actividad sindical e intensificar la vigilancia frente a las empresas, forzándolas a entregar información más vasta y detallada que la prevista legalmente, formando a la plantilla para defenderse y no esperar concesiones del Estado ni del empleador. Porque no se trata simplemente de ser competentes en materias como protección de datos o inteligencia artificial, sino de organizarnos frente al poder patronal que ahora toma formas más oscuras y opacas.
Silvia Arribas
Abogada del Gabinete Jurídico Confederal de CGT
