Auditabilidade da IA: o que torna um sistema auditável (e como prová-lo)

O essencial

• A auditabilidade é o grau em que os dados, as decisões e o comportamento de um sistema de IA podem ser examinados e verificados de forma independente, depois dos factos.
• Já não é uma boa prática opcional: o artigo 12.º do Regulamento da IA exige o registo automático de acontecimentos para os sistemas de risco elevado, ao longo de todo o seu ciclo de vida.
• Cinco componentes tornam um sistema auditável: rastreabilidade, registo de acontecimentos, documentação, registo das decisões e da supervisão humana e provas associadas a cada medida.
• A auditabilidade distingue-se da transparência, da explicabilidade e da responsabilização: é a propriedade que permite a um terceiro reconstituir o que aconteceu e verificá-lo.
• O caso mais difícil é a IA não determinista (grandes modelos de linguagem e agentes), em que o rasto de auditoria tem de captar os passos de raciocínio e as chamadas a ferramentas, e não apenas a resposta final.

O que é a auditabilidade?

A auditabilidade é a medida em que os dados, as ações e as decisões de um sistema podem ser examinados e verificados de forma independente depois de ocorrerem. Um sistema é auditável quando um terceiro (um auditor interno, uma autoridade, a equipa de risco de um cliente) consegue reconstituir o que fez, sobre que dados de entrada e sob que autoridade, e depois confirmar que o registo está completo e não foi alterado.

O termo assemelha-se a « audibilidade », que diz respeito ao som, mas as duas noções não têm relação. Na investigação, a auditabilidade tem um sentido mais restrito (a possibilidade de outro investigador seguir e confirmar o procedimento), mas o princípio é o mesmo: um rasto documentado e verificável.

Durante grande parte da história da informática, a auditabilidade foi tratada como uma propriedade dos sistemas financeiros e dos controlos de TI. A IA muda o que está em jogo. Quando um modelo toma ou condiciona uma decisão que afeta uma pessoa (um crédito, um diagnóstico, uma triagem de candidaturas), responder « foi o sistema que decidiu » não se sustenta. A auditabilidade transforma um resultado opaco numa prova que se pode defender.

Auditabilidade face à transparência, rastreabilidade, explicabilidade e responsabilização

Estes termos sobrepõem-se, mas não são intercambiáveis:

• A transparência é divulgação: comunicar que há IA em uso e como funciona em termos gerais.
• A explicabilidade é fundamentação: mostrar por que razão um modelo produziu um determinado resultado.
• A rastreabilidade é proveniência: ligar um resultado aos dados, à versão do modelo e à configuração que o geraram.
• A responsabilização indica quem responde pelo resultado.
• A auditabilidade é a propriedade que torna verificáveis as outras quatro. É o rasto registado e à prova de adulteração que permite a um terceiro verificar as afirmações.

Um modelo pode ser transparente e, ainda assim, não ser auditável, se nenhum rasto durável provar o que realmente aconteceu em produção.

Porque é que a auditabilidade importa para a IA

O software tradicional é determinista: a mesma entrada produz a mesma saída e o código é a explicação. Os sistemas de IA funcionam de outra forma. O seu comportamento depende dos dados de treino, dos pesos do modelo, da configuração e de entradas que mudam ao longo do tempo. Desloca-se assim aquilo que a governação tem de provar: de « confiar na saída » para « provar o processo ».

Quatro forças tornam a auditabilidade incontornável para a IA:

• A regulação. O Regulamento da IA, as regras setoriais e as novas leis nacionais exigem agora registos, documentação e elementos que possam ser apresentados quando solicitados.
• A investigação após incidente. Quando um sistema de IA causa danos ou se comporta de forma inesperada, a primeira pergunta é « o que aconteceu? ». Sem um rasto de auditoria, fica sem resposta.
• A deriva. Os modelos degradam-se e desviam-se. Só um registo contínuo permite detetar que um sistema já não se comporta como foi validado.
• A confiança comercial. Os grandes compradores e os departamentos de compras exigem cada vez mais provas de governação antes de assinar. A auditabilidade é essa prova.

O que torna auditável um sistema de IA: cinco componentes

A auditabilidade não é uma funcionalidade que se ativa. É o resultado de cinco componentes que atuam em conjunto.

1. Rastreabilidade. Cada resultado deve poder ser ligado aos dados utilizados, à versão do modelo que o produziu e à configuração em vigor nesse momento. A proveniência dos dados e dos modelos é a sua espinha dorsal.
2. Registo de acontecimentos. O sistema tem de registar automaticamente os acontecimentos significativos: entradas, saídas, erros, alterações de configuração, intervenções humanas. Os registos devem ser imutáveis e à prova de adulteração, para que quem os examina possa confiar num rasto não retocado.
3. Documentação. A documentação técnica, as fichas de modelo e as fichas dos conjuntos de dados descrevem o que é o sistema, em que foi treinado e quais são os seus limites conhecidos. É a contraparte estática dos registos dinâmicos.
4. Registo das decisões e da supervisão. Quando uma pessoa analisa, aprova ou anula uma decisão da IA, esse ato deve ficar registado. A supervisão humana só tem sentido se deixar rasto.
5. Provas associadas às medidas. Cada medida de governação (testes de enviesamento, controlo de acessos, conservação) deve remeter para uma prova concreta da sua aplicação. Quem audita verifica as medidas a partir de provas, não de promessas.

Os guias genéricos ficam-se por « transparência, responsabilização, rastreabilidade, integridade, documentação ». Para a IA, o acrescento decisivo é a ligação entre cada medida e a prova que a sustenta, porque é exatamente isso que uma auditoria verifica.

O mandato regulamentar: o que a lei exige de facto

A auditabilidade foi durante muito tempo uma questão de boa prática. Para a IA torna-se uma obrigação jurídica.

Regulamento da IA, artigo 12.º (conservação de registos)

O Regulamento da IA é explícito. O artigo 12.º, n.º 1, estabelece: « Os sistemas de IA de risco elevado permitem tecnicamente o registo automático de acontecimentos (registos) ao longo do ciclo de vida do sistema. » A palavra decisiva é « automático »: um caderno preenchido à mão não basta.

Os registos devem servir três finalidades: (a) identificar situações em que o sistema possa apresentar um risco, (b) facilitar a monitorização pós-comercialização prevista no artigo 72.º e (c) acompanhar o funcionamento do sistema nos termos do artigo 26.º, n.º 5. Para a identificação biométrica à distância, o artigo 12.º vai mais longe e enumera campos mínimos, incluindo o período de cada utilização, a base de dados de referência, os dados de entrada e as pessoas que verificaram os resultados.

A conservação é regida pelos artigos 19.º e 26.º, que fixam um mínimo de seis meses, salvo se outra lei exigir períodos mais longos. As obrigações relativas aos sistemas de risco elevado do anexo III aplicam-se a partir de 2 de agosto de 2026, e os incumprimentos expõem a coimas até 15 milhões de euros ou 3 % do volume de negócios anual mundial. O texto não prescreve um formato de registo. As normas técnicas (como prEN 18229-1 e ISO/IEC DIS 24970) continuam em elaboração: é preferível conceber desde já um registo sólido em vez de esperar.

Regulamento da IA, artigo 11.º e anexo IV (documentação técnica)

Os registos são a metade dinâmica da auditabilidade. O artigo 11.º cobre a metade estática: a documentação técnica, elaborada antes de um sistema de risco elevado ser colocado no mercado e mantida atualizada, segundo a estrutura do anexo IV. Em conjunto, os artigos 11.º e 12.º definem o registo documental e operacional que um sistema de risco elevado deve manter.

ISO/IEC 42001

A norma ISO/IEC 42001:2023, a primeira norma certificável de sistema de gestão da IA, traduz estas expectativas em medidas auditáveis. O controlo A.6.2.8 do anexo A (registo de acontecimentos) é, na prática, o controlo do rasto de auditoria: é o que um auditor de certificação inspeciona para confirmar que existe um rasto. A certificação exige ainda a rastreabilidade das decisões da IA, das avaliações de risco e das medidas aplicadas ao longo do ciclo de vida.

NIST AI RMF

O quadro de gestão de riscos de IA do NIST organiza a governação em quatro funções (Govern, Map, Measure, Manage). A rastreabilidade e a documentação atravessam todas elas. O NIST não certifica, mas orienta a forma de implementar as medidas e conjuga-se naturalmente com o enquadramento da ISO 42001.

Como tornar auditáveis os seus sistemas de IA: um modelo operacional

Cumprir estes requisitos é um programa, não um projeto isolado. Uma sequência praticavel:

1. Inventárie os seus sistemas de IA. Não se audita o que não foi catalogado. A shadow AI, ou seja, as ferramentas adotadas à margem da governação, é o ponto cego mais frequente.
2. Defina o que registar em cada sistema. Associe cada sistema às três finalidades do artigo 12.º e decida que acontecimentos importam: entradas, saídas, anulações, alterações de configuração.
3. Torne os registos imutáveis e fixe uma conservação. Use um armazenamento à prova de adulteração e um período de pelo menos seis meses, mais longo quando o direito setorial o exigir.
4. Mantenha atualizadas a documentação técnica e as fichas de modelo. Faça-as viver a cada alteração, e não uma única vez no lançamento.
5. Registe a supervisão humana. Anote cada análise, aprovação e anulação para que a supervisão seja demonstrável e não presumida.
6. Associe cada medida à sua prova. Para cada medida, guarde o artefacto que comprova a sua aplicação e mantenha a ligação ativa.
7. Realize auditorias de preparação. Ponha o rasto à prova antes de o fazer uma autoridade ou um cliente. Uma auditoria socio-técnica de ponta a ponta, como descrevem os trabalhos do CEPD sobre auditoria algorítmica, examina em conjunto os dados, o modelo e o processo, e não apenas as saídas.

O pensamento de controlo interno ajuda aqui: trate cada capacidade de IA como algo que tem de produzir provas de auditoria, tal como os controlos financeiros sob quadros como o COSO. Em Portugal, a CNPD fornece referências úteis sobre registo e segurança dos tratamentos.

O caso difícil: auditar a IA não determinista (LLM e agentes)

Registar um motor de regras determinista é simples. Registar um grande modelo de linguagem ou um agente autónomo é menos, porque o mesmo pedido pode produzir saídas diferentes e o sistema encadeia ações através de várias ferramentas e fontes de dados.

Para estes sistemas, o rasto de auditoria tem de captar muito mais do que a resposta final: o pedido e a resposta, o modelo e a sua versão, as chamadas a ferramentas feitas pelo agente e os passos intermédios. O controlo A.6.2.8 da ISO/IEC 42001 torna-se, na prática, o registo do raciocínio do agente. O objetivo não é tornar determinista um sistema probabilístico, o que é impossível, mas tornar reconstituível cada execução: o que foi pedido, o que o sistema fez e o que devolveu. Quando um agente atua através de sistemas interligados, esse rasto reconstituível é a única base para atribuir responsabilidades depois dos factos.

Perguntas frequentes

O que significa auditabilidade? A auditabilidade é a medida em que os dados, as ações e as decisões de um sistema podem ser examinados e verificados de forma independente depois de ocorrerem. Para a IA, significa que um terceiro consegue reconstituir o que um sistema fez, sobre que entradas e sob que autoridade, e pode confiar num rasto completo e intacto.

Porque é que a auditabilidade é importante? Porque transforma uma saída de IA opaca numa prova defensável. É a base do cumprimento regulamentar, da investigação após incidente, da deteção da deriva e da confiança comercial que hoje os compradores exigem. Sem ela, « o modelo decidiu » é a única explicação, e não convence nem uma autoridade nem um tribunal.

Auditabilidade ou audibilidade: qual é a diferença? São duas palavras distintas. A audibilidade diz respeito ao que pode ser ouvido. A auditabilidade diz respeito ao que pode ser auditado, examinado e verificado depois dos factos. A semelhança está apenas na grafia.

Qual é a diferença entre auditabilidade e responsabilização? A responsabilização indica quem responde por um resultado. A auditabilidade é a prova registada que torna verificável essa responsabilidade. Pode atribuir-se responsabilidade no papel, mas sem auditabilidade não se consegue provar quem fez o quê, e a responsabilidade torna-se difícil de exigir.

O Regulamento da IA exige auditabilidade? Sim, para os sistemas de risco elevado. O artigo 12.º exige o registo automático de acontecimentos ao longo do ciclo de vida, o artigo 11.º exige a documentação técnica e os artigos 19.º e 26.º fixam uma conservação mínima de seis meses. Estas obrigações do anexo III aplicam-se a partir de 2 de agosto de 2026, com coimas até 15 milhões de euros ou 3 % do volume de negócios mundial.

Como se torna auditável um sistema de IA? Inventárie o sistema, defina que acontecimentos registar em função das finalidades do artigo 12.º, conserve os registos de forma imutável com um período de conservação, mantenha atualizadas a documentação técnica e as fichas de modelo, registe a supervisão humana e associe cada medida à prova que a sustenta. Depois, realize uma auditoria de preparação para pôr o rasto à prova antes de o fazer outra pessoa.

Qual é a diferença entre auditabilidade e explicabilidade? A explicabilidade mostra por que razão um modelo produziu uma determinada saída. A auditabilidade mostra que existe um rasto completo e verificável do que aconteceu. Um sistema pode ser explicável numa demonstração e, ainda assim, falhar uma auditoria por nada ter sido registado em produção. A auditabilidade é o que torna as explicações verificáveis mais tarde.

Conclusão

A auditabilidade é a camada de prova da governação da IA. É o que separa um sistema que se pode defender de um sistema que apenas se espera que se comporte bem. O Regulamento da IA, a ISO/IEC 42001 e o NIST AI RMF convergem para a mesma expectativa: os sistemas de IA têm de manter registos que um terceiro independente possa examinar e em que possa confiar. O trabalho consiste em construir essa capacidade de forma deliberada, através da rastreabilidade, de um registo imutável, de uma documentação atualizada, do registo da supervisão e de provas associadas às medidas. A AI Sigil oferece às equipas de governação um único lugar para recolher essas provas, associá-las às medidas e produzir o rasto de auditoria quando solicitado, para que, quando a pergunta for « prove-o », a resposta já esteja arquivada.