Lo esencial
- El sesgo de la IA es una desviación sistemática y repetible en las salidas de un sistema, que produce resultados injustos o inexactos para determinadas personas o grupos.
- La taxonomía de referencia, del NIST SP 1270, distingue tres categorías: sesgo sistémico, estadístico y humano.
- Con el artículo 10 del reglamento europeo de IA, examinar y mitigar el sesgo de los datos de entrenamiento pasa a ser una obligación jurídica desde el 2 de agosto de 2026, no una buena práctica opcional.
- Los fallos más conocidos (COMPAS, la herramienta de selección de Amazon, el algoritmo sanitario de Optum) eran previsibles y evitables con un examen documentado del sesgo.
- El sesgo se gobierna: con registros adecuados, funciones claras, métricas y supervisión continua se convierte en un control auditable en lugar de una mala sorpresa.
¿Qué es el sesgo de la IA?
El sesgo de la IA es un error sistemático en la forma en que un sistema representa el mundo, una desviación que favorece o perjudica de manera regular a ciertas personas. No es un fallo aislado ni una respuesta errónea puntual. Es un patrón: el mismo tipo de persona obtiene el mismo tipo de resultado injusto, una y otra vez, porque ese patrón está inscrito en los datos, en el modelo o en cómo se lee su salida.
Conviene separar dos sentidos de la palabra. En estadística, el sesgo es una magnitud neutra: la distancia entre la predicción media de un modelo y el valor real. En la sociedad, el sesgo designa un resultado injusto que sufre una persona por lo que es. El sesgo de la IA se sitúa justo donde ambos se encuentran: una desviación estadística medible que aterriza como un daño real sobre personas reales.
Por eso el NIST describe el sesgo como sociotécnico y no meramente computacional. No se corrige solo con una función de pérdida más limpia, porque sus causas se remontan a la recogida de datos, a la elección del problema y a la lectura humana de los resultados. Para un equipo de gobernanza, la consecuencia es clara: los controles deben cubrir datos, modelos y personas.
Los tres tipos de sesgo de la IA
La taxonomía de referencia procede del NIST SP 1270, que ordena el sesgo en tres categorías: sistémico, estadístico y humano. La mayoría de los incidentes reales combina las tres, pero nombrarlas por separado permite asignar a cada una un responsable y un control.
Sesgo sistémico
El sesgo sistémico nace de la sociedad y las instituciones y acaba codificado en los datos. Si un proceso de selección favoreció a un grupo durante diez años, un modelo entrenado con ese historial aprende la misma preferencia como si fuera una regla. El modelo no inventa la injusticia: la hereda y la amplifica.
Sesgo estadístico y computacional
El sesgo estadístico procede de los datos y de las matemáticas. Los mecanismos habituales son el desequilibrio estadístico (algunos grupos están infrarrepresentados), las variables sustitutas (un código postal o un coste sanitario que reemplaza a un atributo protegido) y el desajuste de contexto (un modelo entrenado en un ámbito y usado en otro). Son los fallos más accesibles a la detección técnica.
Sesgo humano y cognitivo
El sesgo humano entra a través de las personas que diseñan, etiquetan y usan el sistema. El sesgo de automatización, la tendencia a confiar en la máquina más que en el propio juicio, es especialmente relevante para la gobernanza: un modelo bien calibrado puede causar daño si el operador lo sigue sin espíritu crítico.
Dónde se cuela el sesgo en el ciclo de vida de la IA
El sesgo no se inyecta en un solo punto. Se acumula a lo largo de todo el ciclo de vida, y por eso un control aislado lo pasa por alto. El informe técnico ISO/IEC TR 24027 describe técnicas para evaluar el sesgo en cada fase, desde la recogida de datos hasta el uso.
Los principales puntos de entrada merecen una lista, porque cada uno exige su propio control:
- Recogida y muestreo: quién está sobrerrepresentado o infrarrepresentado en el conjunto de entrenamiento.
- Etiquetado: etiquetas subjetivas codifican los supuestos de quien anota.
- Selección de variables: incluir un sustituto de un atributo protegido reintroduce el sesgo que se creía eliminado.
- Entrenamiento y decisiones de diseño: el objetivo optimizado define qué se juzga bueno y puede cambiar equidad por precisión.
- Prueba y evaluación: medir solo la precisión global deja invisible el daño por grupo.
- Despliegue y bucles de realimentación: un modelo sesgado moldea los datos con los que se reentrenará, y la desviación se refuerza.
Un programa de gobernanza asocia un control a cada una de estas fases, en lugar de tratar el sesgo como una verificación de último minuto.
Ejemplos reales de sesgo de la IA
La manera más clara de entender el sesgo de la IA pasa por casos en los que causó un daño documentado. Cada ejemplo es célebre por el fallo, pero la lección más útil es lo que un proceso gobernado habría detectado primero.
La herramienta COMPAS, usada por tribunales estadounidenses para estimar el riesgo de reincidencia, fue analizada por ProPublica. Los acusados negros que no reincidieron eran clasificados de alto riesgo casi el doble que acusados blancos comparables, alrededor del 44,9 % frente al 23,5 %. Lección de gobernanza: las tasas de error por grupo, y no solo la precisión global, deben figurar en cada informe de evaluación.
Amazon construyó una herramienta de selección experimental que aprendió de diez años de currículos mayoritariamente masculinos y empezó a penalizar las candidaturas que mencionaban a mujeres. La empresa la retiró en 2018. Lección: los datos históricos transportan la discriminación histórica.
Un algoritmo de predicción del riesgo sanitario, estudiado por Obermeyer y colegas en Science, afectaba a unos 200 millones de personas. Usaba el coste de la atención como sustituto de la necesidad de atención. Como históricamente se gastaba menos en pacientes negros con la misma patología, el modelo subestimaba sus necesidades. Junto con el proveedor, los investigadores redujeron el sesgo cerca de un 80 %. Lección: las variables sustitutas exigen un examen explícito.
Los sistemas de reconocimiento facial han mostrado repetidamente tasas de error más altas para los grupos infrarrepresentados en sus imágenes de entrenamiento. Lección: la representatividad es una propiedad medible, comprobable antes del despliegue.
Sesgo de la IA y derecho: AI Act, NIST, ISO
Aquí el sesgo deja de ser un debate ético y se convierte en una obligación de cumplimiento. El artículo 10 del reglamento de IA obliga a los proveedores de sistemas de alto riesgo a examinar los conjuntos de entrenamiento, validación y prueba en busca de posibles sesgos que puedan afectar a la salud, la seguridad o los derechos fundamentales, y a adoptar medidas para detectarlos, prevenirlos y mitigarlos. Los datos deben ser pertinentes, suficientemente representativos y apropiados para las personas afectadas.
Una disposición merece atención especial. El artículo 10, apartado 5 crea una excepción estrecha y condicionada: el proveedor puede tratar categorías especiales de datos exclusivamente para detectar y corregir el sesgo, con garantías. Dicho de otro modo, demostrar la equidad de un sistema puede exigir a veces datos sobre atributos protegidos, y el derecho deja espacio para ello.
El artículo 15 añade requisitos de exactitud, robustez y ciberseguridad, y el artículo 27 introduce una evaluación de impacto sobre los derechos fundamentales para determinados responsables del despliegue. Estas obligaciones de alto riesgo se aplican desde el 2 de agosto de 2026. En España, la AEPD y la AESIA ya trabajan sobre los riesgos de datos y algoritmos, lo que ancla el tema en un marco nacional concreto.
Un matiz sutil pero importante de la investigación: las métricas de equidad y la no discriminación jurídica no son lo mismo. Como señala un análisis del reglamento, no existe una única métrica de equidad que optimizar. La obligación es examinar el sesgo y mitigarlo donde sea factible, documentando las decisiones. Dos marcos traducen estos deberes a la práctica: el NIST AI Risk Management Framework sitúa la equidad en sus funciones Measure y Manage, y la ISO/IEC 42001 aporta la estructura de gestión para ejecutar el examen del sesgo como un proceso repetible y certificable.
Detectar y medir el sesgo de la IA
Solo se gobierna lo que se mide, y medir el sesgo significa probar los resultados por grupo, no solo la precisión global. Algunas métricas se repiten en la práctica:
- Paridad estadística: ¿la tasa de resultado favorable es igual entre grupos?
- Igualdad de oportunidades: entre las personas aptas, ¿se seleccionan a tasas similares con independencia del grupo?
- Impacto desproporcionado, a menudo expresado como ratio de impacto adverso o regla de los cuatro quintos: ¿un grupo se selecciona a menos del 80 % de la tasa del grupo más favorecido?
Ninguna métrica es completa, y algunas son matemáticamente incompatibles, por lo que la elección de la métrica es en sí misma una decisión de gobernanza que hay que registrar. En paralelo, los equipos deben rastrear las variables sustitutas y documentar la representatividad de los datos. El hilo conductor es la repetibilidad: una prueba de sesgo ejecutada una vez antes del lanzamiento demuestra la intención; una prueba ejecutada con cadencia demuestra el control.
Mitigar el sesgo de la IA
Cuando una prueba revela sesgo, las técnicas de mitigación se reparten en tres fases de la cadena. El preprocesamiento actúa sobre los datos: remuestreo de los grupos infrarrepresentados o reponderación de los ejemplos. El procesamiento durante el entrenamiento actúa sobre el modelo: desescalado adversario o restricciones de equidad añadidas al objetivo. El posprocesamiento actúa sobre la salida: ajuste de los umbrales de decisión por grupo para igualar las tasas de error.
Ninguna de ellas es una solución milagrosa, y cada una implica compromisos que un proceso de gobernanza debería exponer en lugar de ocultar. La revisión de variables neutraliza los sustitutos. El cierre de lagunas de datos corrige el desequilibrio estadístico. Sobre todo, la supervisión humana mantiene a una persona responsable de la decisión, lo que es una buena práctica y, para los sistemas de alto riesgo, una expectativa legal.
Gobernar el sesgo de la IA: un programa operativo
Lo que distingue a una organización sorprendida por un modelo sesgado de otra que no lo es rara vez está en el algoritmo. Está en el programa que lo rodea. La gobernanza del sesgo convierte correcciones dispersas en un control permanente con cuatro ingredientes.
Primero, los registros: un registro de examen del sesgo para cada sistema de alto riesgo, que anote qué datos se comprobaron, qué métricas se usaron, qué se encontró y qué se hizo. Es exactamente la prueba que espera el artículo 10. Segundo, las funciones: claridad sobre quién responde del sesgo de un sistema dado y cómo se reparte la responsabilidad entre el proveedor y el responsable del despliegue. Tercero, la supervisión continua: el sesgo deriva cuando cambian los datos y los usos, así que el examen se repite con cadencia. Cuarto, una traza de auditoría: aprobaciones, versiones y pruebas ligadas a cada sistema de IA, para que un evaluador o una autoridad pueda seguir la decisión.
Aquí una plataforma de gobernanza de la IA encuentra su lugar frente a una carpeta de hojas de cálculo. Cuando cada prueba, cada mitigación y cada aprobación vive en un único sistema de registro, ligado al sistema de IA y a la obligación concreta, el programa se vuelve auditable por diseño. Para los controles adyacentes, nuestro espacio Industry Insights trata la gobernanza de datos y la supervisión humana con las que se conecta el examen del sesgo.
Preguntas frecuentes
¿Cuáles son los tres tipos de sesgo de la IA?
La taxonomía del NIST SP 1270 nombra tres categorías: el sesgo sistémico, que la sociedad y las instituciones codifican en los datos; el sesgo estadístico o computacional, que nace de los datos y el modelo, incluidos el desequilibrio y las variables sustitutas; y el sesgo humano, que entra a través de las personas que diseñan, etiquetan y usan el sistema. La mayoría de los incidentes los combina, de ahí el interés de asignar un control a cada uno.
¿Cuál es un ejemplo de sesgo de la IA?
Un caso bien documentado es el algoritmo sanitario de Optum estudiado en Science, que afectaba a unos 200 millones de pacientes. Usaba el coste de la atención como aproximación de la necesidad; como históricamente se gastaba menos en pacientes negros con la misma patología, subestimaba sus necesidades. Identificado el sustituto, los investigadores redujeron el sesgo cerca de un 80 %.
¿Se puede eliminar por completo el sesgo de la IA?
No, y afirmar lo contrario debe alertar. El sesgo se mide, se reduce y se controla, pero casi siempre queda una desviación residual, y distintas métricas de equidad pueden entrar en conflicto. El objetivo realista, el que fija el reglamento, es examinar el sesgo, mitigarlo donde sea factible y documentar los compromisos.
¿Es ilegal el sesgo de la IA según el AI Act?
El sesgo en sí no está penado, pero para los sistemas de alto riesgo la falta de examen y mitigación constituye un incumplimiento del artículo 10 desde el 2 de agosto de 2026. El proveedor debe verificar los datos, garantizar la representatividad y conservar las pruebas. El artículo 10, apartado 5, permite incluso un uso limitado de datos sensibles para detectar y corregir el sesgo, con garantías.
¿Cómo se prueba el sesgo de un sistema de IA?
Se miden los resultados por grupo protegido con métricas como la paridad estadística, la igualdad de oportunidades y el impacto desproporcionado (la regla de los cuatro quintos), en vez de fiarse solo de la precisión global. También se buscan las variables sustitutas y se documenta la representatividad. Sobre todo, la prueba debería ejecutarse con cadencia para producir una prueba continua de control.
¿Cuál es la diferencia entre sesgo y equidad en la IA?
El sesgo es la desviación sistemática en el comportamiento de un sistema; la equidad es el objetivo de resultados que no dependan injustamente de quién es una persona. Reducir el sesgo es la manera de perseguir la equidad, pero como la equidad tiene varias definiciones que compiten, eliminar una forma de sesgo puede ir en detrimento de otra. Esa tensión hace de la equidad una decisión de gobernanza.
Conclusión
El sesgo de la IA no es un debate ético que resolver algún día. Es una propiedad concreta y medible de un sistema y, según el reglamento europeo, es ahora un deber documentado y auditable, con una fecha límite. Las organizaciones que se mantienen fuera de peligro tratan el sesgo como cualquier otro riesgo: nombran sus tipos, lo prueban a lo largo de todo el ciclo de vida, lo mitigan con técnicas conocidas y conservan las pruebas en un mismo lugar. Así el sesgo deja de ser un titular en espera y se convierte en un control que se puede demostrar. Descubra cómo AI Sigil ayuda a los equipos a gobernar el sesgo y la equidad de forma sistemática.