¿La inteligencia artificial también discrimina? Los sesgos de género detrás de los algoritmos
¿Puede una inteligencia artificial ser machista?
La pregunta parece contradictoria. Después de todo, un algoritmo no tiene emociones, opiniones ni creencias propias. Sin embargo, investigaciones del Instituto Tecnológico de Massachusetts (MIT), ONU Mujeres y la UNESCO han demostrado que estos sistemas pueden reproducir prejuicios cuando aprenden a partir de información creada por personas.
En otras palabras, la inteligencia artificial no inventa la discriminación: la aprende.
Cada vez que una herramienta genera una imagen, recomienda a una persona para un empleo o responde una pregunta, toma decisiones con base en millones de datos recopilados durante su entrenamiento. Si esos datos contienen estereotipos, los resultados también pueden reflejarlos.
Cuando los algoritmos aprenden prejuicios
Uno de los casos más conocidos ocurrió en 2018, cuando Amazon canceló un sistema de inteligencia artificial diseñado para seleccionar personal.
El algoritmo comenzó a favorecer automáticamente los currículums de hombres porque había sido entrenado con información de contrataciones realizadas durante varios años en una industria donde predominaban los perfiles masculinos. Como resultado, reducía la calificación de solicitudes que contenían palabras relacionadas con mujeres o provenían de universidades exclusivamente femeninas.
LEE: El pacto del silencio digital: cómo las deepfakes perpetúan la violencia contra las mujeres
Ese mismo año, la investigadora Joy Buolamwini, del MIT, publicó el estudio Gender Shades, que evidenció otro problema.
La investigación mostró que varios sistemas de reconocimiento facial identificaban correctamente a hombres de piel clara en casi todos los casos. Sin embargo, el margen de error aumentaba al analizar rostros de mujeres, especialmente de mujeres con piel oscura.
Los resultados demostraron que la tecnología también puede reflejar las desigualdades presentes en la sociedad.
La inteligencia artificial también puede reproducir violencia
Los sesgos no solo aparecen en procesos de contratación o reconocimiento facial.
Actualmente, la inteligencia artificial también facilita la creación de deepfakes, imágenes, videos o audios manipulados que aparentan ser reales.
De acuerdo con ONU Mujeres y la UNESCO, una parte importante de los deepfakes que circulan en internet tiene contenido sexual generado sin consentimiento de las personas afectadas. En la mayoría de los casos, las víctimas son mujeres.
En México, estas prácticas pueden relacionarse con la Ley Olimpia, que reconoce la violencia digital y sanciona la difusión de contenido íntimo sin autorización. No obstante, organizaciones como Luchadoras MX y Artículo 19 advierten que el avance de la inteligencia artificial plantea nuevos desafíos para proteger a las víctimas y actualizar los marcos legales.
CONTINÚA LEYENDO: Inteligencia Artificial en el ahorro de energía
SimSimi: cuando una IA aprendió a insultar
Otro ejemplo ocurrió con SimSimi, un chatbot que alcanzó gran popularidad hace algunos años.
Su funcionamiento consistía en aprender directamente de las conversaciones que mantenía con las personas usuarias.
Con el tiempo comenzó a responder con insultos, expresiones misóginas, comentarios racistas y mensajes violentos.
El problema no era que el programa “pensara” de esa manera. Simplemente repetía el lenguaje que encontraba en internet y en las conversaciones de quienes interactuaban con él.
El caso se convirtió en uno de los ejemplos más claros de cómo una inteligencia artificial puede reproducir conductas discriminatorias cuando no existe supervisión adecuada.
¿Se pueden reducir estos sesgos?
Organismos internacionales como la UNESCO, ONU Mujeres y la OCDE coinciden en que sí.
PUEDE INTERESARTE: Granjas de contenido en Internet: ¿Qué son y cómo afectan la información en línea?
Entre las principales estrategias se encuentra entrenar los algoritmos con bases de datos más diversas y representativas, incorporar equipos multidisciplinarios donde participen mujeres y especialistas en derechos humanos, además de mantener supervisión humana durante el desarrollo de estas tecnologías.
La UNESCO, a través de su Recomendación sobre la Ética de la Inteligencia Artificial, también propone impulsar regulaciones que permitan identificar y corregir decisiones discriminatorias antes de que afecten a las personas.
La inteligencia artificial seguirá formando parte de la vida cotidiana. Hoy ya está presente en la educación, la salud, el trabajo y la comunicación.
El reto ya no consiste únicamente en desarrollar tecnologías más avanzadas. También implica construir herramientas más justas.
Los algoritmos aprenden de la sociedad, una inteligencia artificial libre de prejuicios solo será posible cuando también logremos reducir las desigualdades que existen fuera de la pantalla.
- ¿La inteligencia artificial también discrimina? Los sesgos de género detrás de los algoritmos
- Las mujeres que sostienen el mundo
- Reconocen a la primera mujer notaria de Hidalgo con la Presea al Mérito Jurídico 2026
