La Inteligencia Artificial (IA) ha dejado de ser una promesa de futuro para convertirse en una herramienta cotidiana en muchas empresas. Y una de las áreas donde su implantación es más notable —y también más sensible— es la de Recursos Humanos.
El pasado 9 de julio en el webinar sobre Inteligencia Artificial y Recursos Humanos (RR. HH.), abordamos el impacto del nuevo Reglamento Europeo de Inteligencia Artificial (RIA) en los departamentos de RR. HH., abordando no solo los beneficios y riesgos del uso de esta tecnología, sino también las obligaciones legales que conlleva.
El auge de la IA en la gestión del talento
Según un estudio llevado a cabo por el proyecto de IA+Igual, el 67% del personal de RR. HH. planea aumentar el uso de sistemas de IA durante este nuevo año. Y, según los datos de Deel en colaboración con YouGov, el 38% de los responsables de RR.HH. la emplea actualmente en procesos como:
- Análisis de datos (46%)
- Desarrollo de empleados (35%)
- Evaluación del desempeño (32%)
- Onboarding (28%)
Además, hay estudios que estiman que el 58% de los empleados de las compañías ya utiliza herramientas de IA, muchas veces sin que estas hayan sido auditadas o validadas por la organización.
¿Qué beneficios aporta y qué riesgos implica?
La IA puede mejorar notablemente la eficiencia, ya que automatiza tareas repetitivas, optimiza procesos de selección y formación, y permite personalizar la experiencia del empleado. Pero estos beneficios no están exentos de riesgos:
- Discriminación algorítmica: si los datos de entrenamiento se encuentran sesgados o no debidamente representados.
- Falta de transparencia: especialmente en decisiones automatizadas (“cajas negras”).
- Vulneraciones respecto a datos personales: en caso aplicable.
- Impacto en derechos fundamentales (DD.FF.): como los relativos a la intimidad, igualdad o acceso al empleo.
Algunos ejemplos recientes, como los despidos automatizados en Amazon o el uso de agentes de IA para sustituir funciones administrativas en IBM, ilustran lo que está en juego.
El Reglamento de IA: conceptos clave que RR. HH. debe conocer
La RIA establece un marco normativo cuyas obligaciones son más exigentes para los sistemas de alto riesgo en el entorno laboral. En este sentido, dada la afectación a los derechos de los trabajadores y DD.FF., muchos de los usos de herramientas de IA utilizados en el ámbito laboral pueden enmarcarse dentro de los sistemas de alto riesgo.
Definiciones
En cuanto a la tipología de sistemas, nos encontramos con:
- Sistema de IA: conjunto completo de elementos que puede operar de forma autónoma, adaptarse y generar resultados. Incluye infraestructura, interfaces de usuarios, hardware, etc.
- Sistema de IA de uso general: basado en modelos de IA general.
- Modelo de IA de uso general: entrenado con un gran volumen de datos, capaz de realizar gran variedad de tareas distintas y que presentan un grado considerable de generalidad.
A este respecto, debe tenerse en cuenta que el RIA establece obligaciones distintas para los sistemas de IA y para los modelos de IA.
En cuanto a los roles que establece la RIA:
- Proveedor
- Responsable del despliegue (usuario)
- Distribuidor
- Importador
- Fabricante
Con carácter general, las entidades normalmente van a asumir los roles de proveedor y responsable de despliegue. Ojo: estos roles pueden acumularse. Además, si una empresa modifica un sistema (le pone su marca o cambia su finalidad prevista), puede convertirse automáticamente en proveedor, con todas las obligaciones que ello implica.
¿Qué prácticas están prohibidas?
Algunas prácticas están vetadas expresamente por el RIA, como:
- La inferencia de emociones de los trabajadores (salvo por motivos médicos o de seguridad).
- Categorización biométrica para obtener datos sensibles.
Se consideran sistemas de alto riesgo aquellos que puedan tener un riesgo significativo en los DD.FF., especialmente en:
- Procesos de selección, promoción o despido
- Evaluación del desempeño
- Acceso y mantenimiento del empleo
En cualquier caso, habrá que analizar, caso por caso, si efectivamente plantean un perjuicio importante en la salud, seguridad y DD.FF.
Obligaciones para sistemas de alto riesgo
A continuación, se indican algunas de las obligaciones que tienen las empresas que utilicen estos sistemas:
- Establecer un sistema de gestión de riesgos
- Asegurar la calidad de los datos, evitando sesgos o discriminación algorítmica
- Mantener documentación técnica y registros (logs)
- Garantizar la supervisión humana
- Informar y formar a los empleados afectados
¿Qué debe hacer RR. HH. para adaptarse?
La organización debe tener un plan de acción claro:
- Inventariar todos los sistemas de IA usados en la organización
- Clasificarlos según nivel de riesgo
- Evaluar el impacto sobre los DD.FF.
- Revisar proveedores y contratos
- Implementar un modelo de gobernanza de IA, con implicación de la alta dirección
El departamento de RR. HH. no solo debe formar parte de este proceso, sino asumir un papel protagonista como interlocutor, formador y garante de derechos.
¿Y si no cumplo con el Reglamento?
Las sanciones pueden llegar a ser considerables:
- Hasta 35 millones de euros o el 7% de la facturación global por infracciones muy graves
- Hasta 15 millones o el 3% por infracciones graves
- Hasta 7,5 millones o el 1% por infracciones leves
Además, se pueden imponer medidas correctivas (como la retirada del sistema) e incluso dar lugar a indemnizaciones por vulneración de derechos.
Conclusión
La IA puede ser una aliada potente para los departamentos de Recursos Humanos, pero su uso conlleva una enorme responsabilidad legal y ética. El nuevo Reglamento Europeo de la IA pone el foco precisamente en eso: en proteger a las personas frente a los posibles abusos de una tecnología que, aunque útil, no es infalible ni está exenta de riesgos.
En Metricson podemos ayudarte a identificar riesgos y a desarrollar un modelo de gobernanza de IA adaptado a tu organización. Si ya estás usando IA en procesos de RR. HH. o tienes previsto hacerlo, es el momento de actuar.
¿Tienes dudas? Escríbenos y te ayudamos a poner orden.
Artículo escrito por:
Equipo protección de datos
Sobre Metricson
Con oficinas en Barcelona, Madrid, y Valencia y una importante presencia internacional, Metricson es una firma pionera en servicios legales para empresas innovadoras y tecnológicas y especialistas en la protección, diseño de estrategias, así como en la defensa, judicial y extrajudicial, de derechos de propiedad intelectual e industrial. Desde su nacimiento en 2009, ha asesorado a más de 1.400 clientes de 15 países distintos, incluyendo startups, inversores, grandes corporaciones, universidades, instituciones y gobiernos.
Si quieres contactar con nosotros, no dudes en escribirnos a contacto@metricson.com. ¡Estamos deseando hablar contigo!
