O essencial
- A garantia de IA é o processo através do qual se mede, se avalia e se comunica aquilo que um sistema de inteligência artificial faz na realidade. Produz provas, não opiniões.
- Garantia, auditoria, avaliação da conformidade, certificação e acreditação designam cinco realidades distintas, e confundi-las é a forma mais rápida de contratar o serviço errado.
- Nos termos do regulamento europeu, a maioria dos prestadores de sistemas de risco elevado autoavalia-se. O dispositivo interno de garantia de IA não prepara, por isso, a avaliação da conformidade: constitui-a.
- A norma
ISO/IEC 42001certifica o sistema de gestão, ao passo que aISO/IEC 42006:2025regula quais os organismos autorizados a emitir esse certificado. Este segundo nível falta em quase todas as explicações. - Um certificado tem uma data e um modelo tem uma versão. Por isso a garantia tem de ser contínua em vez de anual.
O que significa realmente a garantia de IA
A definição de referência vem do Governo britânico, que descreve esta disciplina como o processo de medir, avaliar e comunicar a fiabilidade de um sistema de inteligência artificial. Cada um destes três verbos introduz uma exigência própria, e é ao omitir qualquer um deles que a maioria dos programas falha.
Medir implica recolher dados sobre o comportamento efetivo do sistema: acerto por subgrupos, modos de falha, resposta sob carga e reação a entradas que nunca surgiram durante o treino. Avaliar consiste em confrontar essas medições com um padrão que outros reconheçam, seja uma norma, um limiar regulamentar ou uma propensão ao risco formalizada. Comunicar significa apresentar o resultado a quem tem de decidir, numa forma que lhes permita também contestá-lo.
A distinção decisiva separa a garantia da própria fiabilidade. A fiabilidade é uma propriedade que se afirma de um sistema. A garantia é o dispositivo que torna essa afirmação verificável. Uma organização pode dispor de um modelo genuinamente bem construído e não ter garantia nenhuma, simplesmente por não conseguir demonstrar essa qualidade perante terceiros. O caso inverso também existe e é mais perigoso: documentação abundante que nenhuma medição sustenta.
É por esta razão que a garantia de IA se situa dentro da governação da IA e não ao lado dela. A governação decide o que a organização pretende e não pretende fazer com inteligência artificial, quem responde por isso e que limiares se aplicam. A garantia é a maquinaria probatória que indica se essas decisões se mantêm em produção.
Garantia, auditoria, certificação e avaliação da conformidade não são o mesmo
Estes termos circulam como se fossem permutáveis. Não são, e as diferenças determinam quem se contrata, o que se obtém e se uma autoridade o aceitará.
| Termo | O que é | Quem o executa | O que produz | Obrigatório? |
|---|---|---|---|---|
| Garantia | O processo global de medir, avaliar e comunicar a fiabilidade | Equipas internas, clientes, prestadores independentes | Provas e uma afirmação sustentada | Não, mas é assim que se satisfaz o que o é |
| Auditoria | Um mecanismo concreto dentro daquele: um exame estruturado face a critérios definidos | Auditoria interna ou uma firma externa | Um relatório com constatações | Por vezes, consoante as regras setoriais |
| Avaliação da conformidade | O procedimento regulamentar europeu que demonstra que um produto cumpre os requisitos legais antes da colocação no mercado | O próprio prestador ou um organismo notificado | Declaração de conformidade e marcação CE | Sim, para sistemas de risco elevado |
| Certificação | A atestação por terceiros de que um sistema de gestão cumpre uma norma | Um organismo de certificação acreditado | Um certificado com prazo de validade | Não, é voluntária |
| Acreditação | A verificação de que o organismo de certificação é competente | O organismo nacional de acreditação, em Portugal o IPAC | A acreditação do certificador | Diz respeito ao certificador, não a si |
Daí decorre uma consequência prática: um certificado ISO/IEC 42001 não extingue qualquer obrigação decorrente do regulamento europeu, e passar numa avaliação da conformidade não torna madura uma governação. Cada um responde a perguntas diferentes perante interlocutores diferentes. A auditoria de IA é um dos instrumentos com que se gera garantia de IA, e a qualidade das provas depende em larga medida de quão auditável o sistema foi concebido desde o início. Acrescentar essa característica depois da entrada em serviço sai caro e deixa quase sempre lacunas.
Os sete mecanismos de garantia e o que cada um demonstra
O guia britânico apresenta uma caixa de ferramentas de mecanismos de garantia de IA. A leitura mais útil não é a de um catálogo de atividades, mas a de uma lista de provas, porque é a prova que sobrevive à reunião.
- A análise de riscos identifica o que pode correr mal e com que gravidade. Prova produzida: um registo de riscos com responsáveis, valorações e decisões de tratamento.
- A avaliação de impacto olha para fora, para as pessoas, os direitos e a igualdade de tratamento. Prova produzida: uma avaliação que nomeia os grupos afetados e as medidas de mitigação.
- A auditoria de enviesamentos examina entradas e saídas em busca de disparidades injustificadas. Prova produzida: métricas por subgrupo, com a definição de equidade adotada explicitamente indicada. O tema é desenvolvido no artigo sobre enviesamentos da IA.
- A auditoria de conformidade verifica o cumprimento de políticas internas, normas legais e compromissos contratuais. Prova produzida: um registo de constatações controlo a controlo.
- A avaliação da conformidade demonstra que um produto cumpre os requisitos legais antes de entrar no mercado. Prova produzida: documentação técnica e declaração de conformidade.
- A verificação formal recorre a métodos matemáticos para provar que um sistema satisfaz uma especificação. Prova produzida: uma demonstração cujos pressupostos têm de ficar escritos. Rara fora de domínios críticos e nunca mais sólida do que os seus pressupostos.
- Os testes de desempenho confrontam o sistema com conjuntos de referência e limiares. Prova produzida: resultados datados e associados a uma versão concreta do modelo. É o terreno da avaliação comparativa de modelos.
Seis dos sete mecanismos geram um documento cujo valor se degrada com o tempo. Essa caducidade constitui o verdadeiro problema operacional da garantia de IA, bem resolvido num programa maduro de gestão de risco de IA e negligenciado quase em todo o lado.
Quem realiza a garantia de IA: primeira, segunda e terceira parte
A garantia de IA classifica-se consoante quem a executa, e o grau de independência altera por completo o valor da afirmação obtida.
A garantia de primeira parte é uma autoavaliação: a equipa que construiu o sistema avalia-o por si própria. Rápida, económica, profundamente informada e estruturalmente em conflito de interesses. A garantia de segunda parte provém de um interveniente com interesse comercial no resultado, tipicamente um cliente que examina o seu fornecedor durante a contratação. A garantia de terceira parte é conduzida por um prestador independente sem interesse no desfecho, e é a única modalidade que pesa perante uma autoridade ou um comprador cético.
Porque o mercado de terceira parte continua imaturo
O roteiro britânico sobre garantia de terceira parte, publicado em setembro de 2025, quantificou o fenómeno. O mercado britânico reunia em 2024 cerca de 524 empresas, com um valor próximo de 1,01 mil milhões de libras e uma projeção de 18,8 mil milhões até 2035 caso os obstáculos sejam removidos.
Vale a pena nomear esses obstáculos, porque explicam a dificuldade atual em contratar garantia de IA. O documento assinala uma lacuna nos padrões de qualidade, dado que as certificações de IA existentes raramente estão acreditadas, uma escassez de perfis que cruzem aprendizagem automática, direito, ética e normalização, um acesso restrito à informação, uma vez que os prestadores não partilham dados de treino nem detalhes internos dos modelos, e poucos fóruns dedicados ao desenvolvimento de técnicas de garantia contínua.
A resposta organiza-se em três modelos sucessivos: primeiro a certificação de profissionais a título individual, depois a certificação de processos e por fim a acreditação de firmas. Um fundo de inovação de 11 milhões de libras e um consórcio presidido pela BCS acompanham o percurso. Para quem compra, a mensagem é simples: durante alguns anos será necessário verificar pessoalmente as credenciais do prestador escolhido, porque o mercado ainda não fixou o que significa ser competente nesta matéria.
Como a garantia de IA alimenta a cadeia probatória do regulamento europeu
É aqui que a maioria dos guias se detém, e é exatamente isto que determina a exposição jurídica.
O artigo 43.º do regulamento europeu prevê duas vias de avaliação da conformidade para os sistemas de risco elevado. A primeira assenta no controlo interno do anexo VI e não envolve qualquer organismo notificado. A segunda, regulada no anexo VII, faz intervir um organismo notificado que examina tanto o sistema de gestão da qualidade como a documentação técnica.
Qual das vias se aplica não é uma escolha livre para a maioria dos prestadores. Para os sistemas de risco elevado do ponto 1 do anexo III, relativo à biometria, o prestador pode optar por qualquer uma delas. Para os pontos 2 a 8 do anexo III, que abrangem infraestruturas críticas, educação, emprego, serviços essenciais, atividades policiais, migração e administração da justiça, vigora a via do controlo interno. Uma exceção restrita atribui o papel de organismo notificado à autoridade de fiscalização do mercado quando os sistemas são colocados em serviço por autoridades policiais, de imigração ou de asilo, ou por instituições da União.
A consequência merece ser dita sem rodeios. Para a esmagadora maioria dos sistemas de risco elevado, ninguém virá de fora inspecionar o sistema antes da sua colocação no mercado. É o próprio prestador que assina a declaração. Ou seja, o dispositivo interno de garantia de IA não prepara a avaliação da conformidade: constitui-a, e apenas a qualidade das provas internas separa uma declaração verdadeira de uma falsa.
Essas provas alimentam depois uma cadeia de obrigações sucessivas: a documentação técnica do anexo IV, a declaração UE de conformidade, a marcação CE, o registo na base de dados europeia e o acompanhamento pós-comercialização. Cada elo consome artefactos que o processo de garantia de IA deveria ter gerado. Definir cedo os requisitos de documentação torna tudo o resto exequível, e o panorama regulamentar mais alargado acrescenta obrigações paralelas noutras jurisdições. Em Portugal, as orientações da CNPD cruzam-se de forma útil com estas expectativas em matéria de proteção de dados.
O que o adiamento do Digital Omnibus concede na prática
O calendário mudou. O Digital Omnibus entrou em vigor a 27 de julho de 2026 e, segundo a Comissão Europeia, as regras aplicáveis aos sistemas autónomos de risco elevado do anexo III passam a vigorar a partir de 2 de dezembro de 2027, ao passo que as relativas à IA incorporada em produtos regulados do anexo I só se aplicam a partir de 2 de agosto de 2028.
A aplicabilidade geral e as obrigações de transparência não foram adiadas e produziram efeitos a 2 de agosto de 2026. A leitura correta não é, portanto, a de uma anulação. Os prestadores obtiveram tempo adicional precisamente porque as normas e as ferramentas não estavam prontas. As organizações que tratarem este intervalo como tempo de construção terão uma cadeia probatória a funcionar quando a data chegar. As que o interpretarem como uma trégua acabarão a reconstituir três anos de documentação a posteriori, que é justamente a falha que o adiamento pretendia evitar.
As normas tornam a garantia de IA aceitável para uma autoridade
O guia britânico formula-o sem rodeios: «sem normas temos conselhos, não garantia». Uma medição só significa alguma coisa se o padrão for partilhado.
Contam três camadas. A norma ISO/IEC 42001 especifica o sistema de gestão da inteligência artificial, ou seja, o aparelho organizacional que governa a IA ao longo do seu ciclo de vida. Abaixo dela, a norma ISO/IEC 42006:2025, publicada a 7 de julho de 2025 pelo ISO/IEC JTC 1/SC 42, fixa os requisitos aplicáveis aos organismos que auditam e certificam um sistema de gestão de IA, apoiando-se na ISO/IEC 17021-1. É a camada que quase todas as explicações omitem, e responde à pergunta que qualquer comprador deveria fazer sempre: quem certificou o certificador, e segundo que critérios de competência?
Acima situa-se o mecanismo das normas harmonizadas. Nos termos do artigo 40.º do regulamento, a conformidade com uma norma harmonizada publicada no Jornal Oficial confere uma presunção de conformidade com o requisito legal correspondente. Os organismos europeus de normalização preparam projetos ao abrigo do mandato M/593; ainda não estão publicados como normas harmonizadas e, até lá, cabe ao prestador fundamentar a suficiência dos seus próprios métodos. Quanto ao vocabulário da medição, o NIST AI Risk Management Framework continua a ser a língua comum mais difundida, em particular a sua função Measure. Uma comparação dos referenciais ajuda a decidir em qual assentar.
Certificado pontual ou garantia de IA contínua
Um certificado tem uma data. Um modelo tem uma versão, e a versão muda.
Reside aqui a tensão estrutural que a conformidade tradicional nunca teve de enfrentar. Um controlo financeiro testado em março comporta-se da mesma maneira em setembro. Um modelo retreinado com três meses de dados novos, não necessariamente. Desvio das distribuições, deriva de conceito, um modelo de base atualizado por baixo da sua aplicação, uma instrução alterada ou uma nova fonte de dados: qualquer destes acontecimentos pode invalidar um resultado de teste sem que tenha sido apresentado qualquer pedido de alteração.
A resposta do regulamento chama-se acompanhamento pós-comercialização, obrigação permanente de seguir o comportamento do sistema no terreno e de agir sobre o que dele resultar. A noção de alteração substancial opera no mesmo sentido, ao definir o limiar a partir do qual se impõe nova avaliação. Ambas convergem: a garantia de IA é uma função contínua, e uma auditoria anual é um instantâneo já desatualizado no momento da assinatura.
Na prática, isto obriga a instrumentar o sistema para que as provas se regenerem segundo uma cadência e não ao sabor dos projetos. Métricas de desempenho em intervalos regulares, deteção de deriva com limiares definidos e um percurso estabelecido entre a anomalia detetada e a decisão documentada. A comunicação de incidentes fecha o ciclo, ao transformar as falhas em acontecimentos rastreados em vez de anedotas de corredor.
Construir um modelo operacional de garantia de IA
A unidade básica da garantia de IA é a prova, e um modelo operacional viável resume-se no essencial a manter cinco campos associados a cada uma delas: a afirmação que sustenta, o controlo que satisfaz, a própria prova, o seu responsável e a data em que foi produzida. Se faltar um só, o artefacto não resistirá ao escrutínio.
A repartição de responsabilidades segue razoavelmente bem o modelo das três linhas. A primeira linha, as equipas que constroem e operam os sistemas, produz as provas. A segunda, risco e conformidade, define que provas são exigidas e confirma que existem. A terceira, a auditoria interna, verifica de forma independente se as duas anteriores estão a cumprir o seu papel. O Institute of Internal Auditors atribui expressamente à auditoria interna a função de prestador de garantia sobre a IA, validando os controlos internos usados para gerir os respetivos riscos.
Um conjunto documental mínimo abrange o registo de riscos, os resultados de teste e avaliação associados a versões do modelo, a documentação dos dados com proveniência e limitações conhecidas, os registos de supervisão humana que comprovem que os revisores reviram efetivamente, um registo de alterações e outro de incidentes. O modelo de autoavaliação de segurança publicado pelo Alan Turing Institute, na sua série com licença aberta dedicada à ética e à governação da IA, constitui um ponto de partida gratuito e credível. Organiza a segurança em torno do desempenho, da fiabilidade, da segurança e da robustez, em estreita correspondência com os requisitos de exatidão, robustez e cibersegurança do artigo 15.º
O teste do modelo é simples. Escolha uma afirmação que a sua organização faça sobre um sistema de IA e tente ligá-la a um artefacto datado com um responsável identificado. Na maioria dos casos a cadeia parte-se logo no segundo passo, e é exatamente essa lacuna que um programa de conformidade da IA existe para fechar.
Perguntas frequentes
O que é a garantia de IA?
A garantia de IA é o processo através do qual se mede, se avalia e se comunica a fiabilidade de um sistema de inteligência artificial. Medir recolhe dados sobre o comportamento real, avaliar confronta-os com um padrão reconhecido e comunicar leva o resultado a quem tem de decidir. O produto final é uma prova que permite a alguém distinto da equipa que o construiu verificar uma afirmação.
É o mesmo que uma auditoria de IA?
Não. A auditoria é um dos mecanismos da garantia de IA: um exame estruturado face a critérios definidos que culmina num relatório com constatações. A garantia de IA é o processo que os engloba a todos, incluindo a análise de riscos e de impactos, os testes de desempenho, a monitorização contínua e a comunicação dos resultados. Uma auditoria isolada continua a ser um instantâneo e não equivale a uma capacidade permanente.
O regulamento europeu exige garantia de terceira parte?
Na maioria dos casos não. O artigo 43.º encaminha os sistemas de risco elevado dos pontos 2 a 8 do anexo III para o controlo interno do anexo VI, sem qualquer organismo notificado. Apenas os sistemas do ponto 1 do anexo III, relativos à biometria, abrem uma escolha, com uma exceção restrita que confere esse papel à autoridade de fiscalização do mercado. A autoavaliação é assim a regra, o que eleva e não baixa a fasquia exigível às provas internas.
Que normas sustentam a garantia de IA?
A norma ISO/IEC 42001 define o sistema de gestão da IA. A norma ISO/IEC 42006:2025 estabelece os requisitos para os organismos que auditam e certificam face à anterior. O NIST AI RMF fornece um vocabulário de medição amplamente partilhado. Nos termos do artigo 40.º do regulamento, as normas harmonizadas publicadas no Jornal Oficial conferirão uma presunção de conformidade, embora os projetos europeus correspondentes ainda não tenham sido publicados nessa qualidade.
Quem pode realizar a garantia de IA?
Podem fazê-lo as equipas internas, os clientes e os prestadores independentes, e o rótulo importa. A garantia de primeira parte é uma autoavaliação informada mas em conflito de interesses. A de segunda parte provém de um interveniente comercialmente interessado, muitas vezes um cliente comprador. A de terceira parte é independente e pesa mais perante o exterior. Como o mercado ainda não estabilizou, convém verificar diretamente credenciais e metodologia em vez de confiar num selo.
Com que frequência deve repetir-se?
Com a mesma frequência com que o sistema muda, o que para a maioria dos sistemas de aprendizagem automática significa de forma contínua e não uma vez por ano. Convém ligar a regeneração das provas a fatores desencadeantes: um retreino, a mudança do modelo de base subjacente, uma nova fonte de dados, a ultrapassagem de um limiar de deriva ou um incidente comunicado. Uma revisão meramente calendarizada deixá-lo-á a defender um certificado que descreve uma versão que já não está em produção.
Conclusão
A garantia de IA é menos um projeto do que um hábito: produzir provas de forma contínua para que qualquer afirmação sobre um sistema possa ser sustentada no dia em que alguém a questionar. As organizações que atravessarem com folga os próximos anos não serão as de políticas mais volumosas. Serão as capazes de ligar uma afirmação a um artefacto datado, nomear o seu responsável e indicar quando foi revalidado pela última vez.
Os prazos europeus adiados, dezembro de 2027 para os sistemas autónomos de risco elevado e agosto de 2028 para os produtos que incorporam IA, são tempo de construção. As obrigações não diminuíram e, uma vez que a autoavaliação é a regra, a qualidade das suas provas internas é o único controlo efetivo. Comece por um sistema de risco elevado e percorra uma única afirmação de uma ponta à outra. As lacunas que encontrar dirão aquilo de que o seu programa realmente precisa.