Por: Patricia Ajeje
El avance de la Inteligencia Artificial (IA) marcó una nueva era en la forma en que las empresas y organizaciones llevan a cabo los procesos de reclutamiento y selección de candidatos. La capacidad de la IA para analizar datos, identificar patrones y tomar decisiones, aparentemente objetivas, generó optimismo en cuanto a la eficiencia y eficacia de estas herramientas. Sin embargo, esta revolución tecnológica ha planteado un debate ético crucial sobre los impactos de la IA en la vida de las personas, especialmente en lo que respecta a la diversidad, la equidad y la inclusión.
El debate ético en torno al desarrollo de la IA no es nuevo, pero ha ganado un destacado protagonismo en los últimos años. En las décadas de 1980 y 1990, Estados Unidos invirtió 400 millones de dólares en el desarrollo de la IA, lo que generó cuestionamientos morales sobre su impacto. Sin embargo, fue solo en 2016 que entidades gubernamentales y organizaciones de la sociedad civil comenzaron a producir publicaciones sobre la regulación de la IA, centrándose en la protección de los derechos humanos.
El uso de la IA en los procesos de reclutamiento ha crecido sustancialmente, especialmente con la pandemia de COVID-19. Muchas organizaciones han adoptado herramientas de IA para mejorar la eficiencia del reclutamiento en volumen y la gestión del lugar de trabajo. Sin embargo, en un estudio reciente, investigadores de la Universidad de Cambridge destacan preocupaciones cruciales. Cuestionan la afirmación de que la IA puede evaluar a los candidatos de manera objetiva, sin tener en cuenta el género y la raza. La realidad es que, a menudo, los intentos de “despojar” al género y la raza de los sistemas de IA no comprenden completamente estos conceptos y no son verdaderamente neutrales. Esto resulta en sesgos y refleja la relación de poder entre quienes desarrollan la IA y los candidatos.
Hoy en día, el desarrollo de la IA a menudo es realizado por grupos de personas altamente técnicas y homogéneas, lo que sienta un precedente para la creación de sistemas basados en una visión limitada del mundo. Las herramientas de reclutamiento basadas en IA ayudan a producir al “candidato ideal” que supuestamente identifican, construyendo asociaciones entre palabras. Es decir, no solo identifican los atributos de los candidatos, sino que también influyen en cómo los empleadores perciben esas características. Casos emblemáticos, como el de Amazon, que abandonó un mecanismo de reclutamiento debido a la discriminación de género, demuestran que el uso inadecuado de la IA puede tener graves consecuencias.
La Unión Europea ha dado pasos significativos para regular la IA, prohibiendo sistemas que refuercen desigualdades o discriminen a los candidatos. Sin embargo, en Estados Unidos, la regulación es fragmentada. La autoridad y la responsabilidad en la regulación y gobernanza de la IA se distribuyen entre las agencias federales. Los dos documentos que rigen esta área, el “Blueprint for an AI bill of rights” de la Casa Blanca y el “NIST risk management framework” del Instituto Nacional de Estándares y Tecnología, son de orientación voluntaria y no tienen fuerza de ley. Algunas ciudades, como Nueva York, han comenzado a tomar medidas por su cuenta, exigiendo auditorías de sesgo en los algoritmos de reclutamiento.
Aunque países como México, Brasil, Argentina, Colombia, Chile, Ecuador, Costa Rica, Paraguay, Perú, República Dominicana y Trinidad y Tobago han demostrado avances significativos en este tema, a nivel de América Latina todavía no hay una posición consolidada para establecer los principios éticos de uso de la IA. En Brasil, al menos cuatro proyectos de ley están en trámite en el Congreso Nacional, destacando el PL 2338/23, que considera de alto riesgo los sistemas de IA utilizados en el reclutamiento y sujetos a una evaluación de impacto algorítmico.
La trayectoria del impacto de la IA en la igualdad de género está intrínsecamente ligada a la forma en que se desarrolla, implementa, utiliza y gobierna la IA. La idea de que una única propuesta regulatoria pueda servir como una “bala de plata” capaz de resolver todos los problemas es ilusoria. La IA es una tecnología en constante evolución, y las leyes no siempre pueden seguir su ritmo frenético de desarrollo.
