Inauguramos sección en el blog con la colaboración de Sandra Garrido.
Hola, soy Sandra, y esto es Rise Up Tech Women, el podcast donde la tecnología también tiene alma.
Hoy vamos a hablar de un tema que no siempre se ve… pero que afecta a millones de personas todos los días: los sesgos en los algoritmos. Y especialmente a las mujeres, que siguen siendo invisibles en muchos de los datos con los que estas tecnologías aprenden.
La cuestión no es si los algoritmos son malos o buenos. La cuestión es: ¿qué pasa cuando los datos que les damos están llenos de desigualdades? Vamos a explorar esto juntos, de forma sencilla, con ejemplos que todas vivimos sin darnos cuenta.
¿Qué es un sesgo algorítmico? Ejemplos
Un sesgo algorítmico es una distorsión o error sistemático que ocurre cuando una inteligencia artificial aprende de datos que representan mal la realidad.
Y aquí viene la clave: los algoritmos aprenden del pasado. Y el pasado… no siempre ha sido justo.
- Ejemplo 1 – Las predicciones basadas en historial. Si en el pasado solo se contrató a hombres para puestos técnicos, un algoritmo entrenado con esos datos puede ‘aprender’ que los hombres son mejores candidatos. No lo hace por maldad. Lo hace porque copia patrones antiguos.
- Ejemplo 2 – Datos incompletos. Si entrenamos un sistema de reconocimiento facial con millones de fotos… pero el 80% son de hombres blancos, ¿qué crees que pasa? El sistema se vuelve muy bueno reconociendo hombres blancos… y pésimo con mujeres racializadas.
- Ejemplo 3 – Asumir que lo más frecuente es lo normal. Si la mayoría de los datos médicos proceden de cuerpos masculinos, los diagnósticos automáticos pueden fallar más en mujeres. Por ejemplo, los modelos de riesgo cardíaco fallaban más en mujeres porque la investigación histórica se centró en hombres.
Un algoritmo no decide discriminar. Solo repite lo que aprendió. El problema no es la inteligencia artificial.
El problema es que hemos construido tecnología a partir de una realidad desigual.
¿Cómo reducir estos sesgos?
- Equipos diversos. Cuantas más mujeres y personas diversas hay en tecnología, más ojos hay para detectar problemas en los datos.
- Datos representativos y equilibrados. No podemos aspirar a tecnología justa con datos incompletos.
- Auditorías y explicabilidad en modelos. Necesitamos modelos que no sean cajas negras, sino sistemas comprensibles.
- Educación digital como habilidad básica. Comprender cómo funcionan los algoritmos ya no es opcional. Es una habilidad cívica.
Un algoritmo no nos define. Pero sí puede influir en quién recibe oportunidades, atención médica o incluso crédito bancario. Y por eso es tan importante hablar de esto.
Recomendación
La mujer invisible, de Caroline Criado Pérez. Un libro imprescindible para entender cómo los datos afectan nuestra vida diaria y cómo la falta de datos sobre mujeres nos hace invisibles:
Ya has oído hablar de la brecha salarial. Ahora vamos a hablar de la brecha de datos que separa a hombres y mujeres.
¿Te imaginas cómo sería vivir en un mundo en el que tu teléfono móvil es demasiado grande para tu mano? ¿En el que tienes un 47 % más de probabilidades de morir que tu pareja en caso de sufrir un accidente? ¿En el que un fármaco prescrito por el médico produce efectos secundarios en tu organismo? Si estás familiarizada con estas situaciones, con toda probabilidad eres una mujer.
Este libro saca a la luz el alto precio que las mujeres deben pagar por vivir en una sociedad construida a medida de los hombres, en muchas ocasiones a costa de su salud y bienestar. «Ésta es la historia de lo que sucede cuando nos olvidamos de hablar de la mitad de la humanidad. Y es también una llamada al cambio», resume en sus páginas Caroline Criado Perez.
Galardonado con Premio de la Royal Society al mejor libro de ciencia del año, La mujer invisible es un ensayo único y riguroso que expone, a través de estadísticas e historias personales recogidas por todo el mundo, cómo los datos que conforman la sociedad, lejos de ser objetivos, también están marcados por un sesgo masculino.
La tecnología puede ser una herramienta increíble para crear mundos más justos. Pero para eso, necesitamos ver lo invisible, cuestionar lo que damos por hecho y construir algoritmos que representen a todas las personas
Sandra Garrido
Noviembre 2025
