Por Estefanía Ros Cordón, criminóloga y consultora especializada en prevención de la violencia, compliance e igualdad de género. Es la fundadora de Ethikos & Compliance, desde donde asesora a entidades en la protección de menores y la gestión del riesgo en entornos educativos y empresariales
La inteligencia artificial (IA) ha transformado numerosos aspectos de nuestra vida, desde la forma en que trabajamos hasta cómo interactuamos y tomamos decisiones. Sin embargo, lejos de ser una tecnología neutral, puede reflejar y amplificar los sesgos existentes en la sociedad, perpetuando desigualdades, especialmente hacia las mujeres.
La discriminación de género en la IA se manifiesta en diversas áreas:
• Reclutamiento y selección de personal: los sistemas de IA utilizados en procesos de contratación pueden replicar patrones históricos que favorecen a los hombres. Un estudio de la Fundación Alternativas (2023) señala que los algoritmos entrenados con datos sesgados pueden perpetuar estereotipos de género, afectando negativamente a las mujeres en el ámbito laboral
• Reconocimiento facial: diversas investigaciones han demostrado que los sistemas de reconocimiento facial tienen mayores tasas de error al identificar a mujeres, especialmente a mujeres de color, lo que puede derivar en consecuencias graves en seguridad y vigilancia, tal y como alerta la ONU
• Asistentes virtuales y estereotipos de género: muchos asistentes de IA, como Siri o Alexa, utilizan voces femeninas y suelen estar programados para responder de manera sumisa o servicial, reforzando estereotipos de género tradicionales
• Acceso a créditos y financiación: algunos sistemas de IA han sido acusados de otorgar límites de crédito más bajos a las mujeres que a los hombres con perfiles financieros similares, algo que también ha puesto de manifiesto al ONU
• Diagnósticos médicos y salud: los algoritmos de IA en medicina pueden mostrar sesgos al analizar datos de salud predominantemente masculinos, lo que conduce a diagnósticos menos precisos en mujeres.
Estrategias para una IA más inclusiva
A nivel global, la regulación sobre IA y equidad de género es un área en desarrollo. Sin embargo, ya existen iniciativas legales que buscan garantizar una IA más inclusiva. En nuestro contexto más inmediato, la Unión Europea está impulsando una normativa que establece categorías de riesgo para la IA y exige transparencia en los algoritmos utilizados para decisiones de alto impacto, como la contratación o el acceso a crédito.
A nivel internacional, en 2021, la UNESCO aprobó una recomendación ética para garantizar que la IA respete los derechos humanos y promueva la equidad de género. En el caso español, existe una Estrategia Nacional de Inteligencia Artificial, que busca reducir la brecha de género en la IA y fomentar la participación de mujeres en el sector tecnológico. Se trata de una iniciativa impulsada desde el Ministerio de Asuntos Económicos y Transformación Digital.
Además de la regulación, es esencial adoptar medidas concretas desde el desarrollo tecnológico y la investigación que permitan desarrollar una IA más inclusiva. Algunas de las medidas que se pueden poner en marcha son las siguientes:
1. Diversidad en los equipos de desarrollo: la inclusión de más mujeres y minorías en el diseño y programación de algoritmos puede reducir la probabilidad de sesgos
2. Datos representativos: es fundamental que los conjuntos de datos utilizados en el entrenamiento de la IA sean diversos y reflejen la realidad de la población
3. Auditorías algorítmicas: implementar revisiones periódicas para detectar y corregir posibles sesgos en los sistemas es también esencial
4. Educación en ética e IA: los y las profesionales de la tecnología deben recibir formación en ética digital para comprender el impacto social de sus creaciones
5. Transparencia y explicabilidad: se deben exigir algoritmos que sean comprensibles y cuyas decisiones puedan ser explicadas, evitando la "caja negra" de la IA
6. Participación pública: es necesario involucrar a la sociedad civil en la discusión y regulación del impacto de la IA, dejando claro que se trata de una tecnología que ha venido para quedarse y que tiene profundas implicaciones en nuestras vidas.
Si te interesa seguir aprendiendo sobre el tema de la inteligencia artificial desde la perspectiva de género, te invitamos a leer el siguiente artículo: https://perifericas.es/blogs/blog/la-inteligencia-artificial-y-el-olvido-de-las-mujeres