La Inteligencia Artificial sigue con sesgos de género
La IA impulsa la productividad, pero también puede reproducir sesgos de género que refuerzan estereotipos y afectan a las mujeres.
La inteligencia artificial es una tecnología que está transformando a todas las industrias gracias a que impulsa la productividad; lamentablemente uno de sus principales problemas es que puede reproducir viejos estereotipos de género que afectan a las mujeres.
Jayathma Wickramanayake, líder en tecnologías digitales en la Organización de las Naciones Unidas (ONU) Mujeres, consideró que el sesgo de género proviene “de nosotros mismos”.
De décadas de textos escritos en un mundo donde las mujeres eran relegadas al ámbito del hogar y la familia, mientras que los hombres eran destinados al ámbito de los negocios y la carrera profesional”, afirmó en un análisis.
Esto se refleja en un estudio realizado por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) en 2024, ya que pidió a varios modelos de inteligencia artificial que completaran oraciones que comienzan con el género de una persona y cerca de 20% de las respuestas exhibieron actitudes sexistas y misóginas.
Algunos incluso describen a las mujeres como propiedad o como objetos, pero lo más preocupante según Wickramanayake es que no se trata sólo de un problema de diseño que se pueda solucionar fácilmente, sino de una brecha política real que ha sido dejada abierta.
Esto último porque los problemas de sesgo de género en los grandes modelos de lenguaje de inteligencia artificial son conocidos desde hace años.
Por ejemplo, un estudio realizado por Ishita Rustagi y Genevieve Smith que fue publicado en Standford en 2021 encontró que 44% de 133 sistemas de inteligencia artificial analizados tenía un sesgo de género, mientras que más de una cuarta parte mostraba sesgo tanto de género como racial.
A esto se añade que actualmente de 138 países con una estrategia nacional de inteligencia artificial, sólo 24 mencionan el género y de éstos únicamente 18 hacen algo significativo al respecto.
EL IMPACTO
De acuerdo con lo publicado por ONU Mujeres, esta tecnología no sólo genera que se refuercen los estereotipos, también puede utilizarse para causar otro tipo de daño.
El organismo encontró que casi una de cada cuatro defensoras de derechos humanos, activistas y periodistas consultadas ha sufrido violencia en línea asistida por inteligencia artificial.
Además, 12% afirmó que se compartieron imágenes personales sin su consentimiento, mientras que 6.0% fue blanco de deepfakes.
Por esto último, Wickramanayake consideró que el uso de esta tecnología provoca que haya una mayor preocupación con respecto al acoso, la manipulación y el abuso basado en imágenes sean más difíciles de detectar y prevenir.
LO QUE SE NECESITA
Esto significa que la mayor parte del mundo está construyendo el futuro de la inteligencia artificial sin incluir a las mujeres en absoluto en el diseño”, advirtió la líder de tecnología.
Consideró que la industria en general habla de estos sesgos como si fuera un error que se puede solucionar en la próxima actualización, cuando en realidad se requiere que se tomen decisiones sobre cómo diseñar esta tecnología, las políticas que se requieren y la manera en que se entrenan los datos.
Por esto, ONU Mujeres hizo un llamamiento para que en diversos eventos y conversaciones globales se trate de integrar la igualdad de género, los derechos y las experiencias de las mujeres y las niñas en cada etapa de desarrollo de la inteligencia artificial.
En varias naciones del mundo ya se trabaja en erradicar estos sesgos en la IA que vienen de origen en los entrenamientos.