Fallo contra la IA: Un software que filtra CVs va a juicio por discriminación
Una jueza de Estados Unidos determina que la empresa debe ir a juicio por acusaciones de que su software de IA descarta ilegalmente a candidatos por su edad, raza o discapacidad
La Inteligencia Artificial (IA) de la empresa Workday enfrenta acusaciones, pues descartaba a candidatos a puestos de trabajo en otras empresas, de maneras que infringía la legislación de California y la prohibición general de discriminar a los trabajadores con discapacidad, determinó una jueza federal.
Rita Lin, jueza federal de distrito de San Francisco, rechazó el argumento de Workday, en California, que las leyes estatales contra la discriminación no se aplicaban cuando la empresa selecciona a personas residentes fuera del estado, que soliciten empleo en otros estados y países.
En 2023, una demanda colectiva se centró, de manera general, en la toma de decisiones algorítmica en la que se basa el software de selección basado en IA, y que podría ayudar a definir cómo se llevan a cabo los litigios. El uso del software de IA para la selección de personal, se ha vuelto común en las grandes empresas.
La jueza rechazó, en primer lugar, los intentos de la empresa por desestimar el caso en 2024. Denegó la mayor parte de la solicitud de la empresa, de desestimar las recientes modificaciones introducidas en la demanda.
Señaló que Workday, supuestamente participó en conductas ilegales desde su sede en California, y podría ser responsable de discriminación en virtud de la legislación estatal.
También, se negó a desestimar el argumento de que el software de IA de Workday, puede descartar a candidatos a un puesto de trabajo, con base en “indicadores indirectos”, de discapacidades y enfermedades, como son las lagunas en el historial laboral de una persona, lo que sería una violación a la Ley Federal de Estadounidenses de Discapacidades.
Lo que sí desestimó la jueza, fue que el alegato de que el software de IA, discriminaba a los solicitantes de empleo de origen asiático-estadounidense, pues dijo que los demandantes no habían seguido el procedimiento adecuado para que se incluyera en la demanda.
Los demandantes alegan que Workday discriminó a los solicitantes de trabajo afroamericanos, a mujeres y personas mayores de 40 años
De acuerdo con el reporte de Reuters, ni Workday ni los abogados de los demandantes, respondieron de inmediato a la solicitud de comentarios.
Varias encuestas han revelado que, más del 80% de los empleadores estadounidenses, y prácticamente, todas las empresas de la lista Fortune 500, utilizan herramientas de IA, para procesos de contratación.
Las agencias de gobierno y defensores de trabajadores, han expresado su preocupación de que las herramientas de IA, pueden discriminar a los solicitantes de empleo, cuando se desarrollan a partir de datos que reflejan sesgos preexistentes.
Hasta la fecha, ha habido pocos litigios relacionados con el uso de las herramientas de IA, por parte de los empleadores.
Según expertos, muchos solicitantes de empleo, desconocen que los empleadores utilizan software de IA, y las complejidades que entraña presentar una demanda relacionada con la tecnología de vanguardia y que está de moda.
Con información de Reuters