A simple vista, puede parecer una solución que genere más rapidez y menos carga administrativa. Sin embargo, la gran pregunta que se está empezando a hacer es si la Inteligencia Artificial (IA) puede discriminar en un proceso de selección.
Es por esto que, cuando hablamos de IA en procesos de selección, debemos hablar de igualdad de oportunidades, perspectiva de género, transparencia, protección de datos, supervisión humana y cumplimiento normativo.
La discriminación algorítmica puede aparecer de forma directa o indirecta.
Si el sistema utiliza datos de procesos anteriores, puede aprender patrones discriminatorios del pasado. Esto es especialmente delicado en sectores, puestos, áreas o categorías donde históricamente ha existido segregación ocupacional.
Muchas herramientas filtran currículums según palabras concretas. Esto puede parecer práctico, pero también puede generar exclusiones injustas.
Desde la perspectiva de género, esto puede afectar especialmente a personas que han tenido carreras menos lineales, pausas por cuidados, cambios de sector o trayectorias profesionales menos ajustadas a patrones tradicionales.
La IA también puede intervenir antes de recibir candidaturas, por ejemplo, al dirigir anuncios de empleo a determinados perfiles en plataformas digitales. Si la segmentación no se revisa, la oferta puede mostrarse más a hombres que a mujeres, a determinados rangos de edad o a perfiles similares a los ya presentes en la empresa.
El Reglamento Europeo de Inteligencia Artificial incluye dentro de los sistemas de alto riesgo aquellos destinados a publicar anuncios de empleo específicos, analizar y filtrar solicitudes y evaluar candidaturas.
Algunas herramientas prometen analizar entrevistas, expresiones, tono de voz, lenguaje corporal, rapidez de respuesta o estilo comunicativo. Este tipo de soluciones deben analizarse con mucha atención.
No todas las personas comunican igual, ni todas tienen la misma seguridad en entrevista. Además, determinadas circunstancias personales, culturales, lingüísticas o de discapacidad pueden influir en la forma de responder sin que eso tenga relación real con la capacidad para desempeñar el puesto.
Utilizar estos indicadores sin supervisión puede provocar decisiones injustas y poco defendibles.
Otro riesgo importante es que la empresa convierta la IA en una especie de “decisor invisible”. La herramienta recomienda, ordena o descarta, y la persona responsable de selección acepta el resultado sin cuestionarlo.
La AEPD (Agencia Española de Protección de Datos) ha señalado que, en tratamientos con posibles decisiones automatizadas, es necesario evaluar el grado de participación humana y valorar aspectos como la autoridad, competencia, capacidad, diligencia o independencia de la persona que interviene.
Qué riesgos puede tener la empresa al utilizar la IA en estos procesos
El uso de IA en selección de personal puede generar riesgos desde varias perspectivas como igualdad, protección de datos, derechos laborales, y cumplimiento normativo.
- Riesgo de discriminación directa o indirecta:
La empresa puede enfrentarse a reclamaciones si una persona considera que ha sido descartada por criterios discriminatorios. El problema es que, si el proceso se apoya en una herramienta opaca, la empresa puede tener dificultades para explicar por qué una candidatura fue rechazada.
- Riesgo en protección de datos:
Los procesos de selección implican tratamiento de datos personales. Cuando se incorporan herramientas tecnológicas, el nivel de análisis debe ser mayor: qué datos se recogen, con qué finalidad, durante cuánto tiempo se conservan, quién accede a ellos, si hay elaboración de perfiles y si existen decisiones automatizadas.
La AEPD recuerda que la protección de datos en las relaciones laborales incluye cuestiones cada vez más frecuentes como la consulta de redes sociales, sistemas internos de denuncias, registro de jornada, datos de víctimas de acoso o el uso de tecnología como elemento de control.
- Riesgo reputacional:
Una mala práctica en selección puede tener un impacto importante en la imagen de la empresa. Si una empresa utiliza IA sin explicar cómo, sin revisar sesgos y sin ofrecer garantías, puede transmitir una imagen fría o poco comprometida con la igualdad.
- Riesgo de dependencia tecnológica:
La IA puede ayudar a organizar información, detectar coincidencias o reducir carga administrativa, pero no debe sustituir el análisis profesional.
Un buen proceso de selección requiere contexto, criterio y escucha. La tecnología puede apoyar, pero no debe dirigir el proceso sin control.
Errores frecuentes al usar IA en selección de personal
Para evitar riesgos, conviene identificar algunos errores habituales.
- Confiar en la herramienta sin revisar sus resultados.
- Usar IA sin adaptar el proceso de selección.
- No informar a las personas candidatas.
- No formar a quienes toman decisiones.
- No revisar el impacto por sexo.
Si tu empresa aún no tiene una guía de Selección de personal con Perspectiva de Género, rellena el siguiente formulario y nos pondremos en contacto contigo en la mayor brevedad posible.