El Reglamento de la Ley de Inteligencia Artificial busca que las compañías puedan adoptar un programa de gestión de riesgos, llevando a cabo un control adecuado y una debida diligencia, anota Andrea Zanusso, Directora de Tecnología, Innovación & IA del Estudio Olaechea.
La inteligencia artificial dejó de ser una tecnología incipiente para convertirse en una herramienta que empieza a transformar la forma en que las empresas operan y toman decisiones en el ámbito laboral.
Hoy, un sistema de IA puede ayudar a filtrar miles de hojas de vida en segundos, identificar perfiles que cumplen determinados criterios, analizar evaluaciones de desempeño o incluso recomendar candidatos para una posición determinada. Sin embargo, al tratarse de un ámbito tan sensible como la gestión de talento, es relevante que las compañías no solo se pregunten cuánto pueden optimizar sus procesos por medio de esta, sino también sobre cómo hacen estos sistemas para tratar información y qué consecuencias podría generar el no contar con los controles adecuados.
Además: La carrera por la IA ya cambió: gana quien la gobierna mejor
El nuevo Reglamento de la Ley de Inteligencia Artificial (IA), aprobado en septiembre del año pasado, parte precisamente de esta preocupación. La norma establece una clasificación de los sistemas de IA según el nivel de riesgo y considera como sistemas de alto riesgo, entre otros, aquellos utilizados para determinar procesos de selección, evaluación, contratación y cese de trabajadores o postulantes a un puesto de trabajo, así como los destinados a establecer condiciones laborales.
¿Por qué el uso de este tipo de herramientas podría conllevar un riesgo legal? La respuesta está en que el uso y el tipo de decisiones de estos sistemas pueden tener un impacto directo sobre derechos fundamentales.
Un ejemplo sencillo: si una empresa utiliza un sistema de IA para un proceso de selección de candidatos a un puesto de trabajo, y dicho sistema fue entrenado con datos que corresponden a información histórica respecto a la cual predominan determinados perfiles profesionales, el sistema podría terminar reproduciendo dichos patrones de contratación y, consecuentemente, aprender de esta y trasladarla a sus resultados. Este fenómeno, conocido como sesgo algorítmico, es uno de los principales desafíos en la gobernanza de la inteligencia artificial.
La presente regulación busca que la incorporación de IA en el ámbito laboral no se limite a una lógica de eficiencia operativa. Tiene el objetivo que las compañías puedan adoptar un programa de gestión de riesgos, llevando a cabo un control adecuado y una debida diligencia.
Frente a ello, las empresas que utilicen este tipo de sistemas deben cumplir con las obligaciones aplicables para sistemas de riesgo alto en materia de transparencia algorítmica, trazabilidad de las decisiones automatizadas, explicabilidad de los resultados y supervisión humana cuando la toma de decisiones pueda implicar un impacto significativo en temas de salud, educación, justicia, finanzas y acceso a programas y servicios básicos.
Este desafío cobra mayor relevancia con la aparición de agentes de IA, sistemas capaces no solo de analizar información, sino también de ejecutar acciones de manera más autónoma. Mientras una herramienta tradicional puede recomendar una lista de candidatos, un agente podría interactuar con postulantes, programar entrevistas o participar en distintas etapas del proceso de contratación. Esta mayor autonomía plantea nuevas preguntas sobre responsabilidad, control y supervisión.
Para las empresas, el reto no debería abordarse únicamente como una obligación regulatoria, sino como una oportunidad para establecer una adecuada gobernanza de la inteligencia artificial. Esto implica definir reglas internas de uso, revisar los controles establecidos y asegurar la participación coordinada de áreas legales, recursos humanos, TI y compliance.
Aunque el Reglamento de la Ley de IA establece que las evaluaciones de impacto algorítmico son facultativas para el sector privado, su realización resulta recomendable para aquellas organizaciones que incorporen sistemas de alto riesgo. Ello, para identificar anticipadamente posibles impactos negativos y adoptar medidas para reducir riesgos legales, operativos e incluso reputacionales.
El desarrollo de la regulación peruana sigue una tendencia global. Y en este nuevo escenario, una pregunta seguirá siendo relevante: ¿hasta dónde llegará la supervisión de las autoridades competentes? Si bien la Secretaría de Gobierno y Transformación Digital de la Presidencia del Consejo de Ministros (PCM) tiene un rol central en la supervisión del Reglamento de la Ley de IA, todavía queda por definirse cómo se desarrollarán los mecanismos de fiscalización y coordinación con otras entidades.
La inteligencia artificial seguirá incorporándose al mundo laboral porque sus beneficios son evidentes. El verdadero desafío será lograr que las organizaciones puedan aprovechar su potencial sin perder de vista los desafíos legales que implican la adopción de un marco de gobernanza efectivo y supervisado.
Sobre la autora:
Andrea Zanusso es Directora de Tecnología, Innovación & IA del Estudio Olaechea.
Las opiniones expresadas son solo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes Perú.Las opiniones expresadas son solo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes Perú.