Uso ético de IA y herramientas digitales en el reclutamiento
La incorporación de herramientas digitales y sistemas de inteligencia artificial (IA) en el proceso de selección aporta rapidez y eficiencia, pero también conlleva riesgos y responsabilidades éticas y legales.
Normativa para el uso de la IA
El Reglamento (UE) 2024/1689 de Inteligencia Artificial (AI Act) clasifica los sistemas de IA aplicados al empleo y a la selección de personal como de alto riesgo. Esto implica obligaciones estrictas tanto para proveedores de IA como para empresas usuarias.
Transparencia
Informar de manera clara y accesible sobre el uso de herramientas digitales o IA en las fases del proceso selectivo, incluyendo el tipo de datos que se recopilan y cómo se emplean.
Confidencialidad y protección de datos
Garantizar que la información personal recabada se tratará con estricta confidencialidad, conforme a la normativa vigente de protección de datos.
Evaluación de riesgos
Realizar auditorías frecuentes y ajustes en los algoritmos y plataformas de manera que no reproduzcan ni amplifiquen sesgos de género, edad, origen étnico u otras variables protegidas por la normativa de igualdad.
Responsabilidad
Asegurar que los equipos responsables de selección asuman la responsabilidad de supervisar el funcionamiento y los resultados de las herramientas.
Supervisión humana significativa
Mantener la supervisión y validación por parte de profesionales, especialmente en las fases críticas de cribado y valoración final, eliminando decisiones 100% automatizadas en fases críticas.
Prohibiciones
Se vetan usos considerados de "riesgo inaceptable", como las puntuaciones basadas en comportamiento o manipulación subliminal, que podrían clasificar las candidaturas por estereotipos.
Las sanciones por incumplimientos graves pueden alcanzar los 35 millones de euros o el 7 % de la facturación global anual.
Convenio Marco del Consejo de Europa sobre IA y Derechos Humanos (2024) alineado con el AI Act, enfatiza la no discriminación en usos laborales.
Aplicación en España
Como Estado miembro de la UE, España aplica directamente el AI Act. Además, se complementa con:
- Agencia Española de Supervisión de IA (AESIA): Creada por Real Decreto 729/2023, supervisa el cumplimiento, realiza inspecciones y sanciones. En 2025, ya publicó resoluciones para procesos selectivos relacionados con IA.
- Ley Orgánica de Protección de Datos Personales y Garantía de los Derechos Digitales (LOPDGDD): Refuerza el RGPD en contextos laborales, aplicable a IA en selección.
Recomendaciones para la implementación con un enfoque de género
El uso ético y responsable de las herramientas digitales o la IA en la selección no se limita a cumplir la normativa, sino que conlleva una serie de buenas prácticas que garanticen el enfoque de género. Estas prácticas se centran en las decisiones de diseño y control que reducen la discrecionalidad, mejoran la equidad y permiten rendición de cuentas (por ejemplo, métricas de seguimiento, controles de sesgo, criterios de transparencia o validación de pruebas).
Por ello, para garantizar que la adopción de tecnología en reclutamiento promueva la igualdad y reduzca las brechas de género, se proponen las siguientes acciones:
Datos de entrenamiento éticos y actualizados
Verificar que los datos de entrenamiento de sistemas de IA sean representativos, de fuentes diversas y estén libres de sesgos de género o discriminación indirecta.
Auditorías independientes y regulares de sesgos
Evaluar los resultados de los algoritmos, identificando posibles sesgos y corrigiendo desviaciones hacia la desigualdad. Usar técnicas de debiasing y fairness-aware ML.
Formación continua del equipo de RRHH
Capacitación en materia de ética, igualdad y riesgos asociados a la digitalización y la IA.
Canales de consultas
Facilitar canales para que las personas participantes en los procesos de selección puedan expresar dudas, ejercer derechos y solicitar explicaciones respecto a las decisiones automatizadas.
Explicabilidad
Proporcionar respuesta razonada si se rechaza la candidatura, evitar el silencio por respuesta.
Monitoreo de métricas de equidad
Registrar las cifras clave (candidaturas, puntuaciones medias, tasa de avance…) desagregadas por género.
Cumplimiento integrado en el plan de igualdad
Incluir el protocolo de IA en el plan haciendo hincapié en su uso para el diagnóstico de la selección en la organización.