La expansión de los sesgos de género con la inteligencia artificial

Abstract

En la era del big data y de los algoritmos y a las puertas de una aclamada cuarta revolución industrial comienzan a discutirse los riegos de las aplicaciones de la inteligencia artificial (IA) a nivel internacional en numerosos sectores: la pérdida de empleo o las armas, son las que más reflexiones ocupan, aunque, la equidad es una preocupación cada vez más importante. Los modelos de aprendizaje automático se utilizan para apoyar la toma de decisiones en aplicaciones de alto riesgo, como préstamos hipotecarios, contratación y sentencias de prisión. El Foro Económico y Mundial alerta del escaso análisis con perspectiva de género para conocer cómo afectarán estos avances a la vida de las mujeres, tanto en el ámbito público como en el privado y desde UNESCO se reclama una mayor presencia de mujeres en las investigaciones que se desarrollan con inteligencia artificial, la incorporación de "auditorías algorítmicas" para mapear y etiquetar las fuentes de esta discriminación para crear estrategias para repararlo y prevenirlo, y la financiación de estudios para identificar los tipos, dimensiones y severidad del sesgo de género en estas aplicaciones. La información recogida en este capítulo pretende establecer un contexto, un punto de partida en la investigación del origen de los sesgos algorítmicos de género: confirmando la persistencia de las brechas digitales de las mujeres en las carreras STEM; reuniendo ejemplos de sesgos de género provocados por la inteligencia artificial que ya se han dado a conocer, y mostrando, finalmente, las herramientas informáticas actuales que pueden ayudar a detectarlos.