Auditabilidad de la IA: qué hace que un sistema sea auditable (y cómo demostrarlo)

Lo esencial

• La auditabilidad es el grado en que los datos, las decisiones y el comportamiento de un sistema de IA pueden examinarse y verificarse de forma independiente, después de los hechos.
• Ya no es una buena práctica opcional: el artículo 12 del Reglamento de IA exige el registro automático de eventos para los sistemas de alto riesgo durante toda su vida útil.
• Cinco componentes hacen auditable un sistema: trazabilidad, registro de eventos, documentación, registro de decisiones y supervisión humana, y pruebas vinculadas a cada medida.
• La auditabilidad se distingue de la transparencia, la explicabilidad y la responsabilidad: es la propiedad que permite a un tercero reconstruir lo ocurrido y comprobarlo.
• El caso más difícil es la IA no determinista (grandes modelos de lenguaje y agentes), donde el rastro de auditoría debe capturar los pasos de razonamiento y las llamadas a herramientas, no solo la respuesta final.

¿Qué es la auditabilidad?

La auditabilidad es la medida en que los datos, las acciones y las decisiones de un sistema pueden examinarse y verificarse de forma independiente una vez ocurridos. Un sistema es auditable cuando un tercero (un auditor interno, una autoridad, el equipo de riesgos de un cliente) puede reconstruir qué hizo, con qué datos de entrada y bajo qué autoridad, y después confirmar que el registro está completo y no ha sido alterado.

El término se parece a « audibilidad », que se refiere al sonido, pero ambas nociones no guardan relación. En investigación, la auditabilidad tiene un sentido más estrecho (la posibilidad de que otro investigador siga y confirme el procedimiento), pero el principio es el mismo: un rastro documentado y comprobable.

Durante gran parte de la historia de la informática, la auditabilidad se trató como una propiedad de los sistemas financieros y de los controles de TI. La IA cambia lo que está en juego. Cuando un modelo toma o condiciona una decisión que afecta a una persona (un crédito, un diagnóstico, un cribado de candidaturas), responder « lo decidió el sistema » no se sostiene. La auditabilidad convierte una salida opaca en una prueba que se puede defender.

Auditabilidad frente a transparencia, trazabilidad, explicabilidad y responsabilidad

Estos términos se solapan, pero no son intercambiables:

• La transparencia es divulgación: comunicar que se usa IA y cómo funciona a grandes rasgos.
• La explicabilidad es justificación: mostrar por qué un modelo produjo una salida concreta.
• La trazabilidad es procedencia: vincular una salida con los datos, la versión del modelo y la configuración que la generaron.
• La responsabilidad indica quién responde del resultado.
• La auditabilidad es la propiedad que hace comprobables a las otras cuatro. Es el rastro registrado e inalterable que permite a un tercero verificar las afirmaciones.

Un modelo puede ser transparente y, aun así, no ser auditable, si ningún rastro duradero demuestra qué ocurrió realmente en producción.

Por qué importa la auditabilidad en la IA

El software tradicional es determinista: la misma entrada produce la misma salida y el código es la explicación. Los sistemas de IA funcionan de otro modo. Su comportamiento depende de los datos de entrenamiento, los pesos del modelo, la configuración y unas entradas que cambian con el tiempo. Así se desplaza lo que la gobernanza debe demostrar: de « confiar en la salida » a « probar el proceso ».

Cuatro fuerzas hacen que la auditabilidad sea ineludible para la IA:

• La regulación. El Reglamento de IA, las normas sectoriales y las nuevas leyes nacionales exigen ya registros, documentación y constancias que puedan presentarse cuando se soliciten.
• La investigación tras un incidente. Cuando un sistema de IA causa un daño o se comporta de forma inesperada, la primera pregunta es « ¿qué ha pasado? ». Sin un rastro de auditoría, queda sin respuesta.
• La deriva. Los modelos se degradan y se desplazan. Solo un registro continuo permite detectar que un sistema ya no se comporta como fue validado.
• La confianza comercial. Los grandes compradores y los departamentos de compras exigen cada vez más pruebas de gobernanza antes de firmar. La auditabilidad es esa prueba.

Qué hace auditable a un sistema de IA: cinco componentes

La auditabilidad no es una función que se active. Es el resultado de cinco componentes que actúan juntos.

1. Trazabilidad. Cada salida debería poder vincularse con los datos utilizados, la versión del modelo que la produjo y la configuración vigente en ese momento. La procedencia de los datos y de los modelos es su columna vertebral.
2. Registro de eventos. El sistema debe registrar automáticamente los eventos significativos: entradas, salidas, errores, cambios de configuración, intervenciones humanas. Los registros deben ser inmutables e inalterables, para que quien los examine pueda confiar en un rastro no retocado.
3. Documentación. La documentación técnica, las fichas de modelo y las fichas de los conjuntos de datos describen qué es el sistema, con qué se entrenó y cuáles son sus límites conocidos. Es la contraparte estática de los registros dinámicos.
4. Registro de decisiones y supervisión. Cuando una persona revisa, aprueba o anula una decisión de la IA, ese acto debe quedar registrado. La supervisión humana solo tiene sentido si deja rastro.
5. Pruebas vinculadas a las medidas. Cada medida de gobernanza (pruebas de sesgo, control de acceso, conservación) debería remitir a una prueba concreta de su aplicación. Quien audita comprueba las medidas a partir de pruebas, no de promesas.

Las guías genéricas se quedan en « transparencia, responsabilidad, trazabilidad, integridad, documentación ». Para la IA, la aportación decisiva es el vínculo entre cada medida y la prueba que la respalda, porque eso es justamente lo que una auditoría comprueba.

El mandato normativo: qué exige realmente la ley

La auditabilidad fue durante mucho tiempo una cuestión de buena práctica. Para la IA se convierte en una obligación jurídica.

Reglamento de IA, artículo 12 (conservación de registros)

El Reglamento de IA es explícito. El artículo 12, apartado 1, dispone: « Los sistemas de IA de alto riesgo permitirán técnicamente el registro automático de acontecimientos (archivos de registro) a lo largo del ciclo de vida del sistema. » La palabra decisiva es « automático »: un cuaderno llevado a mano no basta.

Los registros deben servir a tres finalidades: (a) detectar situaciones en las que el sistema pueda presentar un riesgo, (b) facilitar la vigilancia poscomercialización prevista en el artículo 72 y (c) supervisar el funcionamiento del sistema conforme al artículo 26, apartado 5. Para la identificación biométrica remota, el artículo 12 va más lejos y enumera campos mínimos, entre ellos el periodo de cada uso, la base de datos de referencia, los datos de entrada y las personas que verificaron los resultados.

La conservación se rige por los artículos 19 y 26, que fijan un mínimo de seis meses, salvo que otra norma exija periodos más largos. Las obligaciones para los sistemas de alto riesgo del anexo III se aplican a partir del 2 de agosto de 2026, y los incumplimientos exponen a sanciones de hasta 15 millones de euros o el 3 % del volumen de negocios anual mundial. El texto no prescribe un formato de registro. Las normas técnicas (como prEN 18229-1 e ISO/IEC DIS 24970) siguen en elaboración: conviene diseñar desde ya un registro sólido en lugar de esperar.

Reglamento de IA, artículo 11 y anexo IV (documentación técnica)

Los registros son la mitad dinámica de la auditabilidad. El artículo 11 cubre la mitad estática: la documentación técnica, elaborada antes de introducir un sistema de alto riesgo en el mercado y mantenida al día, conforme a la estructura del anexo IV. Juntos, los artículos 11 y 12 definen el registro documental y operativo que un sistema de alto riesgo debe mantener.

ISO/IEC 42001

La norma ISO/IEC 42001:2023, la primera norma certificable de sistema de gestión de la IA, traduce estas expectativas en medidas auditables. El control A.6.2.8 del anexo A (registro de eventos) es, en la práctica, el control del rastro de auditoría: es lo que un auditor de certificación inspecciona para confirmar que existe un rastro. La certificación exige además la trazabilidad de las decisiones de la IA, de las evaluaciones de riesgo y de las medidas aplicadas a lo largo del ciclo de vida.

NIST AI RMF

El marco de gestión de riesgos de IA del NIST organiza la gobernanza en cuatro funciones (Govern, Map, Measure, Manage). La trazabilidad y la documentación las atraviesan todas. El NIST no certifica, pero orienta cómo implantar las medidas y encaja de forma natural con el marco de la ISO 42001.

Cómo hacer auditables sus sistemas de IA: un modelo operativo

Cumplir estos requisitos es un programa, no un proyecto aislado. Una secuencia practicable:

1. Inventaríe sus sistemas de IA. No se audita lo que no se ha catalogado. La shadow AI, es decir, las herramientas adoptadas al margen de la gobernanza, es el punto ciego más frecuente.
2. Defina qué registrar en cada sistema. Vincule cada sistema a las tres finalidades del artículo 12 y decida qué eventos importan: entradas, salidas, anulaciones, cambios de configuración.
3. Haga los registros inmutables y fije una conservación. Use un almacenamiento inalterable y un periodo de al menos seis meses, mayor cuando lo exija el derecho sectorial.
4. Mantenga al día la documentación técnica y las fichas de modelo. Hágalas vivir con cada cambio, no una sola vez en el lanzamiento.
5. Registre la supervisión humana. Anote cada revisión, aprobación y anulación para que la supervisión sea demostrable y no presunta.
6. Vincule cada medida con su prueba. Para cada medida, conserve el artefacto que acredita su aplicación y mantenga el vínculo activo.
7. Realice auditorías de preparación. Ponga a prueba el rastro antes de que lo haga una autoridad o un cliente. Una auditoría socio-técnica de principio a fin, como describen los trabajos del CEPD sobre auditoría algorítmica, examina conjuntamente los datos, el modelo y el proceso, no solo las salidas.

El pensamiento de control interno ayuda aquí: trate cada capacidad de IA como algo que debe producir pruebas de auditoría, igual que los controles financieros bajo marcos como el COSO. En España, la AEPD y la AESIA ofrecen referencias útiles sobre registro y seguridad de los tratamientos.

El caso difícil: auditar la IA no determinista (LLM y agentes)

Registrar un motor de reglas determinista es sencillo. Registrar un gran modelo de lenguaje o un agente autónomo lo es menos, porque la misma solicitud puede producir salidas distintas y el sistema encadena acciones a través de varias herramientas y fuentes de datos.

Para estos sistemas, el rastro de auditoría debe capturar mucho más que la respuesta final: la solicitud y la respuesta, el modelo y su versión, las llamadas a herramientas que hizo el agente y los pasos intermedios. El control A.6.2.8 de la ISO/IEC 42001 se convierte, de hecho, en el registro del razonamiento del agente. El objetivo no es hacer determinista un sistema probabilístico, lo cual es imposible, sino hacer reconstruible cada ejecución: qué se pidió, qué hizo el sistema y qué devolvió. Cuando un agente actúa a través de sistemas conectados, ese rastro reconstruible es la única base para atribuir responsabilidades después de los hechos.

Preguntas frecuentes

¿Qué significa auditabilidad? La auditabilidad es la medida en que los datos, las acciones y las decisiones de un sistema pueden examinarse y verificarse de forma independiente después de ocurrir. Para la IA significa que un tercero puede reconstruir qué hizo un sistema, con qué entradas y bajo qué autoridad, y puede confiar en un rastro completo e intacto.

¿Por qué es importante la auditabilidad? Porque convierte una salida de IA opaca en una prueba defendible. Es la base del cumplimiento normativo, de la investigación tras un incidente, de la detección de la deriva y de la confianza comercial que hoy exigen los compradores. Sin ella, « lo decidió el modelo » es la única explicación, y no convence ni a una autoridad ni a un juez.

Auditabilidad o audibilidad: ¿cuál es la diferencia? Son dos palabras distintas. La audibilidad se refiere a lo que puede oírse. La auditabilidad se refiere a lo que puede auditarse, examinarse y verificarse después de los hechos. El parecido está solo en la grafia.

¿Cuál es la diferencia entre auditabilidad y responsabilidad? La responsabilidad indica quién responde de un resultado. La auditabilidad es la prueba registrada que hace comprobable esa responsabilidad. Se puede asignar responsabilidad sobre el papel, pero sin auditabilidad no se puede demostrar quién hizo qué, y la responsabilidad se vuelve difícil de exigir.

¿Exige el Reglamento de IA la auditabilidad? Sí, para los sistemas de alto riesgo. El artículo 12 exige el registro automático de eventos a lo largo del ciclo de vida, el artículo 11 exige la documentación técnica y los artículos 19 y 26 fijan una conservación mínima de seis meses. Estas obligaciones del anexo III se aplican a partir del 2 de agosto de 2026, con sanciones de hasta 15 millones de euros o el 3 % del volumen de negocios mundial.

¿Cómo se hace auditable un sistema de IA? Inventaríe el sistema, defina qué eventos registrar según las finalidades del artículo 12, conserve los registros de forma inmutable con un periodo de conservación, mantenga al día la documentación técnica y las fichas de modelo, registre la supervisión humana y vincule cada medida con la prueba que la respalda. Después, realice una auditoría de preparación para poner a prueba el rastro antes de que lo haga otro.

¿Cuál es la diferencia entre auditabilidad y explicabilidad? La explicabilidad muestra por qué un modelo produjo una salida concreta. La auditabilidad muestra que existe un rastro completo y verificable de lo ocurrido. Un sistema puede ser explicable en una demostración y, aun así, no superar una auditoría porque en producción no se registró nada. La auditabilidad es lo que hace comprobables las explicaciones más adelante.

Conclusión

La auditabilidad es la capa de prueba de la gobernanza de la IA. Es lo que separa un sistema que se puede defender de otro del que solo se espera que se comporte bien. El Reglamento de IA, la ISO/IEC 42001 y el NIST AI RMF convergen en la misma expectativa: los sistemas de IA deben conservar registros que un tercero independiente pueda examinar y en los que pueda confiar. El trabajo consiste en construir esa capacidad de forma deliberada, mediante la trazabilidad, un registro inmutable, una documentación al día, el registro de la supervisión y pruebas vinculadas a las medidas. AI Sigil ofrece a los equipos de gobernanza un único lugar para recoger esas pruebas, vincularlas a las medidas y producir el rastro de auditoría cuando se solicite, de modo que, cuando la pregunta sea « demuéstrelo », la respuesta ya esté archivada.