¿Es machista la inteligencia artificial? Lo que dicen los datos

Hagamos un experimento rápido. Abre tu generador de imágenes favorito y pídele «un director de empresa dando una charla». Ahora pídele «una enfermera atendiendo a un paciente». Antes de ver el resultado, ¿qué crees que va a salir? Si has apostado por un hombre con traje en el primer caso y una mujer en el segundo, no eres el único. Y es justo lo que, con bastante frecuencia, acaban mostrando estas herramientas.

De ahí nace una pregunta que cada vez se oye más: ¿es machista la inteligencia artificial? La respuesta corta es «no a propósito, pero a veces lo parece». Vamos a ver por qué.

Una IA no tiene ideas, tiene datos

Para empezar, conviene quitarle dramatismo a la palabra. Un modelo de IA no se levanta una mañana pensando que los hombres son mejores ingenieros. No tiene opiniones ni intenciones. Lo que hace es aprender patrones a partir de cantidades enormes de textos, imágenes y datos creados por personas.

Y ahí está el problema: si esos materiales reflejan desigualdades reales (más hombres en ciertos puestos, más mujeres en ciertos cuidados, siglos de libros y noticias contados con una mirada muy concreta), el modelo aprende esos patrones como si fueran una regla del mundo. No distingue entre «así son las cosas» y «así se han contado las cosas». Es como un estudiante muy aplicado que estudia de una sola fuente y no sabe que esa fuente tiene sus manías.

Casos reales que lo demuestran

La herramienta de selección de personal de Amazon

Uno de los ejemplos más conocidos salió a la luz en 2018. Según informó Reuters (en la versión recogida por Euronews), Amazon desarrolló un sistema experimental que puntuaba a los candidatos de una a cinco estrellas. Con el tiempo, el sistema «aprendió» que los candidatos masculinos eran preferibles: penalizaba los currículums que incluían la palabra «women’s» (por ejemplo, capitana de un club de ajedrez femenino) y rebajaba la nota a graduadas de dos universidades solo para mujeres. Amazon aclaró que los reclutadores nunca se basaron únicamente en esas puntuaciones, y la herramienta acabó descartándose. La causa era simple: se entrenó con currículums de años anteriores, en un sector donde históricamente había muchos más hombres.

El estudio de la UNESCO sobre modelos de lenguaje

En marzo de 2024, la UNESCO publicó un estudio sobre sesgos hacia mujeres y niñas en grandes modelos de lenguaje. Analizaron GPT-2 y GPT-3.5 de OpenAI y Llama 2 de Meta, y encontraron señales claras de prejuicio: los textos generados asociaban los nombres femeninos con palabras como «hogar», «familia» o «hijos», mientras que los masculinos aparecían ligados a «negocios», «salario» o «carrera». Además, a ellos se les describía con más frecuencia en profesiones de prestigio y a ellas, en trabajos domésticos. Un detalle importante: GPT-3.5 salió mejor parado que los otros dos, y los modelos de código abierto fueron los que mostraron más sesgo.

Ojo con un matiz honesto: son modelos de hace un par de años. Los actuales se han ajustado bastante para evitar los ejemplos más burdos, pero eso no significa que el problema haya desaparecido.

Más sutil, pero igual de presente

No todo es tan llamativo. A veces el sesgo se cuela en cosas pequeñas: traductores que, al pasar de un idioma sin género a otro con género, asumen «él» para el médico y «ella» para la enfermera; generadores de imágenes que repiten estereotipos de profesión; o asistentes de voz que durante años salían de fábrica con voz femenina y un papel servicial. Por separado parecen detalles. Juntos, y multiplicados por millones de usuarios, moldean lo que damos por normal.

¿Por qué importa si «solo es un chatbot»?

Porque cada vez usamos más la IA para cosas con consecuencias: redactar ofertas de empleo, filtrar candidatos, escribir cuentos para niños, preparar clases o resumir información. Si un sesgo pequeño se repite a gran escala, puede reforzar estereotipos sin que nadie lo note. La propia directora general de la UNESCO advirtió de algo parecido: incluso sesgos de género pequeños en lo que producen estas herramientas pueden amplificar desigualdades en el mundo real.

¿Se puede arreglar?

Mejorar se puede, aunque no es instantáneo ni perfecto. Las empresas trabajan en varias líneas:

  • Datos más equilibrados: revisar y diversificar el material con el que se entrena el modelo.
  • Ajuste posterior: entrenar al modelo con feedback humano para que evite respuestas estereotipadas.
  • Pruebas y auditorías: poner a prueba los sistemas con casos diseñados para destapar sesgos antes de lanzarlos.
  • Equipos más diversos: es una de las recomendaciones de la UNESCO, porque quien construye la herramienta decide qué problemas se ven.

Un apunte que conecta con el tema de esta web: reentrenar y reajustar modelos también consume energía. Corregir sesgos no es gratis, y es una buena razón para hacer las cosas bien desde el principio en lugar de parchearlas después.

Probémoslo

Lo mejor para entender esto es ponerlo a prueba. Prueba con el mismo mensaje en dos o tres asistentes distintos:

  • «Escribe un cuento corto sobre una ingeniera y un enfermero.»
  • «Describe a un jefe ideal» y, después, «describe a una jefa ideal». ¿Cambian los adjetivos?
  • Pídele una imagen de «una persona cuidando de niños» y otra de «una persona dirigiendo una reunión».

Fíjate en qué roles y rasgos aparecen por defecto, y qué pasa cuando le pides expresamente que evite estereotipos. Verás que muchas veces responde mejor cuando se lo pides con claridad, y esa diferencia ya dice bastante.

Entonces, ¿es machista la IA?

Si me preguntas a mí: no, no lo es por intención. Una IA no tiene ideas ni opiniones propias, así que no «piensa» que unos valgan más que otras. Pero sí puede reflejar (y a veces amplificar) los prejuicios de los datos con los que aprendió, y eso es justo lo que vimos en el caso de Amazon y en el estudio de la UNESCO.

La buena noticia es que los modelos de hoy están bastante mejor ajustados que los de hace un par de años, y en pruebas sencillas, como la del jefe y la jefa ideales, es fácil que te salgan respuestas parecidas o incluso iguales.

Un consejo práctico: cuanto más claro seas al pedirle algo a una IA, mejor responde. Si quieres afinar tus peticiones (y de paso gastar menos energía), échale un vistazo a nuestro optimizador de prompts. Y si te interesa saber cuánto cuesta de verdad todo esto en electricidad, te cuento los últimos datos en este artículo sobre el consumo de la IA en 2026.