LA INTELIGENCIA ARTIFICIAL Y EL OLVIDO DE LAS MUJERES

LA INTELIGENCIA ARTIFICIAL Y EL OLVIDO DE LAS MUJERES

Por Alejandra Neira, pedagoga especializada en igualdad e inclusión con perspectiva de género, con experiencia en proyectos coeducativos e intervención con mujeres en situación de violencia de género y/o en riesgo de exclusión social

Sin duda, uno de los grandes cambios que se han introducido en nuestra sociedad en los últimos años es el uso cada vez más generalizado de la IA (inteligencia artificial). Con tan solo un clic, podemos pedirles a diferentes asistentes virtuales, como ChatGPT, que nos planifiquen un viaje o que nos den información sobre cualquier aspecto que deseemos. Hace unos días, en la sesión formativa de la Comunidad PeriFéricas "Rompiendo el Código: Estrategias para Mitigar la Brecha de Género en la IA", Gabriela Espinoza Picado nos trajo información crucial para el debate: la IA está ganando cada vez mayor presencia, pero, ¿qué pasa si los sesgos de estas están presentes y reproducen diferentes desigualdades? ¿Cómo será el futuro si esas IA se entrenan considerando que las mujeres no estamos capacitadas para desempeñar ciertos trabajos o para posiciones de liderazgo? ¿Qué sucederá cuando tales ideas discriminatorias se trasladen, con el tiempo, al diseño del mundo real?

La inteligencia artificial (IA) es un conjunto de técnicas y algoritmos que permiten a las máquinas realizar tareas que normalmente requieren inteligencia humana. Estas tareas incluyen el aprendizaje, la comprensión del lenguaje, la percepción visual y la toma de decisiones. En esencia, la IA trata de dotar a las máquinas de capacidades que les permitan entender, razonar y actuar de manera similar a como lo haría un ser humano. Sin embargo, en el desarrollo y la implementación de estas tecnologías, ha surgido un problema significativo: la falta de perspectiva de género. Como mencionó Gabriela, los sesgos se producen cuando un modelo produce resultados sistemáticamente perjudiciales para ciertos grupos. Las mujeres y las poblaciones racializadas son los más habituales.

Y es que los sesgos de género no son los únicos que afectan a la inteligencia artificial; también existen sesgos de raza, socioeconómicos y otros que, de manera significativa, perpetúan diversas desigualdades. Estos sesgos surgen a menudo por la falta de datos representativos o por decisiones de diseño tomadas por quienes desarrollan estas tecnologías. Por ejemplo, si los datos utilizados para entrenar un modelo de IA no representan a todas las personas, el modelo tenderá a favorecer a los grupos más representados en su elaboración, generalmente hombres blancos y europeos. Esta falta de diversidad en los datos puede tener como resultado, por ejemplo, que sistemas como el reconocimiento facial funcionen mejor para hombres blancos que para mujeres negras, exacerbando y amplificando las desigualdades preexistentes en nuestra sociedad.

 

Sesgos de género y desiguladades 

El impacto de estos sesgos puede ser profundo y de largo alcance. Y es que las decisiones basadas en IA se utilizan cada vez en más áreas de la vida cotidiana como, por ejemplo, el ámbito de recursos humanos, en la contratación de personas. Si estas decisiones están sesgadas, pueden exacerbar las desigualdades existentes y crear nuevas barreras para las mujeres y otros grupos minoritarios. A modo de ejemplo, imaginemos un sistema de contratación que no tiene en cuenta de la misma forma a hombres y a mujeres: esto dificultará la contratación de las últimas, existiendo además una posible intersección entre diferentes variables como la raza o la clase social, que se suman al sesgo de género inicial. 

Para abordar y mitigar estos problemas, es esencial integrar una perspectiva de género en cada fase del desarrollo de la inteligencia artificial. Esto implica no solo recopilar y utilizar datos de manera inclusiva, sino también garantizar la diversidad en los equipos de desarrollo y someter los algoritmos a evaluaciones rigurosas para detectar y corregir sesgos. Es evidente que la inteligencia artificial ha llegado para quedarse y jugará un papel crucial en el futuro de nuestras sociedades. Por lo tanto, es esencial asegurar que esta tecnología evolucione de manera equitativa y justa, promoviendo un desarrollo que refleje y respete la diversidad humana en toda su amplitud. Solo así podremos maximizar los beneficios de la IA y evitar que perpetúe o agrave las desigualdades ya existentes.

Las inteligencias artificiales y las nuevas tecnologías sin duda ofrecen numerosos beneficios, pero también presentan desafíos y aspectos negativos que no debemos pasar por alto. En un artículo reciente del blog profundizamos, por ejemplo, en el tema del control y la violencia en la era tecnológica: https://perifericas.es/blogs/blog/la-jaula-digital-control-y-violencia-en-la-era-tecnologica

Regresar al blog

Deja un comentario

Ten en cuenta que los comentarios deben aprobarse antes de que se publiquen.