¿La inteligencia artificial puede discriminarlo al buscar trabajo?

La inteligencia artificial ya forma parte de los procesos de contratación de muchas empresas, pero su uso también genera una preocupación: un algoritmo podría terminar descartando candidatos por razones que nada tienen que ver con su experiencia o capacidades.

Una investigación publicada en 2025 en PNAS Nexus evaluó cerca de 361 mil currículums ficticios mediante cinco modelos de inteligencia artificial. Los investigadores mantuvieron iguales la educación, experiencia y habilidades de los candidatos, pero modificaron características sociales para identificar posibles sesgos. Los resultados mostraron diferencias en las evaluaciones relacionadas con género y raza.

Para el ingeniero Rubén Fallas, docente de la Escuela de Informática de la Universidad Hispanoamericana y especialista en ciberseguridad e inteligencia artificial, el problema está en los patrones con los que los sistemas son entrenados.

“La inteligencia artificial en realidad aprende de lo que nosotros le enseñamos, de lo que nosotros configuramos”.

El experto advierte que una empresa puede tener políticas contra la discriminación y, aun así, utilizar una herramienta que produzca resultados desiguales.

“No es que la inteligencia artificial aprendió de malas y se volvió racista o se volvió xenofóbica o se volvió homofóbica. El riesgo está en que el algoritmo aprenda patrones existentes y los utilice posteriormente para tomar decisiones”.

Fallas señala que esto puede afectar especialmente a mujeres y personas afrodescendientes en procesos automatizados de reclutamiento, donde los sistemas revisan currículums, identifican palabras clave y determinan cuáles perfiles cumplen con determinados requisitos.

Por eso, considera fundamental que las compañías auditen de manera constante sus sistemas de inteligencia artificial, no solo desde el punto de vista tecnológico, sino también desde la ética, la seguridad y la protección de datos.

“Deben de tener siempre un departamento de tecnologías de la información o una empresa que está haciendo auditorías constantes de estos sistemas para verificar si el algoritmo (…) está funcionando de manera correcta”.

Además, los candidatos pueden consultar a las empresas sobre el tratamiento de sus datos personales. Fallas recuerda que la Ley de Protección de la Persona frente al Tratamiento de sus Datos Personales (Ley 8968) permite realizar este tipo de consultas.

“¿Tenemos nosotros el derecho a consultar? Claro que sí. La ley 8968 lo faculta. Pero hagámoslo. Preguntemos”.