O essencial
- A explicabilidade é a capacidade de descrever, em termos que uma pessoa possa compreender, por que motivo um sistema de IA produziu um determinado resultado. Não coincide com a interpretabilidade, que diz respeito ao funcionamento interno do modelo.
- Com o Regulamento europeu da IA, a explicabilidade passa de boa prática a obrigação jurídica: o artigo 13.º exige aos sistemas de risco elevado uma transparência suficiente, e o artigo 86.º reconhece às pessoas afetadas um direito a uma explicação a partir de 2 de agosto de 2026.
- O quadro de gestão do risco do NIST coloca a IA explicável e interpretável entre as suas sete características de uma IA fiável, e a norma ISO/IEC 42001 espera que a explicabilidade seja gerida e documentada.
- Um programa de governação deve produzir vários tipos de explicação, que abranjam a fundamentação, a responsabilidade, os dados, a equidade, a segurança e o impacto, e não um único dado técnico.
- A explicabilidade é auditável. O verdadeiro trabalho consiste em documentar que explicações presta, a quem, e como as assegura ao longo de todo o ciclo de vida da IA.
O que significa a explicabilidade na IA (e o que não é)
A explicabilidade designa a faculdade de descrever o comportamento de um sistema de IA numa linguagem acessível a uma pessoa. A distinção mais útil para nos orientarmos regressa sem cessar nas páginas que dominam os resultados de pesquisa. Como afirma a Splunk, a explicabilidade responde à pergunta sobre por que motivo um modelo produziu um resultado, ao passo que a interpretabilidade responde a como o modelo funciona por dentro. As duas noções estão ligadas, confundem-se com frequência, mas não são permutáveis. Uma segunda distinção apura o quadro. O Alan Turing Institute separa a transparência, o facto de ser aberto sobre como e por que motivo um sistema é utilizado, da explicabilidade, o facto de poder dar razões claras e acessíveis para um resultado específico. A transparência é uma postura. A explicabilidade é um produto: um relato que um público definido pode efetivamente utilizar. Convém ainda separar as explicações globais das locais. Uma explicação global descreve o comportamento de um modelo em geral, em todo o seu espaço de entrada. Uma explicação local dá conta de uma decisão concreta, o empréstimo recusado ou a transação assinalada. As questões de conformidade são quase sempre locais, porque a pessoa afetada quer compreender o seu caso, e não o modelo em abstrato. Uma plataforma de governação da IA tem de suportar ambas as perspetivas, sem nunca as confundir.
Explicabilidade e interpretabilidade
Se deste guia retiver apenas uma distinção, que seja esta, porque a procura de pesquisa a este respeito não abranda e o que está em jogo no plano regulamentar depende dela. A interpretabilidade é uma propriedade do modelo. Uma regressão linear ou uma árvore de decisão curta são interpretáveis porque uma pessoa pode seguir o percurso da entrada até ao resultado lendo o próprio modelo. A explicabilidade é mais ampla. É a aptidão para produzir um relato compreensível de um resultado mesmo quando o modelo é uma rede profunda cujos pesos internos ninguém pode ler diretamente. O quadro de gestão do risco da IA do NIST propõe uma formulação que as equipas de governação podem adotar: a explicabilidade diz respeito aos mecanismos que estão na base do funcionamento de um sistema de IA, ao passo que a interpretabilidade diz respeito ao significado do seu resultado no contexto da finalidade para que foi concebido. Na prática, a interpretabilidade é muitas vezes tratada como um subconjunto da explicabilidade. É possível dispor de um relato explicável de um modelo não interpretável, e é exatamente a situação da maioria das empresas.
Por que motivo a explicabilidade se torna um requisito de conformidade
Durante anos, a explicabilidade viveu nos artigos de investigação e nos manifestos sobre IA responsável. Vive agora na lei e em normas certificáveis, o que muda quem se tem de ocupar dela e porquê. O quadro do NIST nomeia a IA explicável e interpretável como uma das sete características de uma IA fiável, a par de válida e fiável, segura, protegida e resiliente, responsável e transparente, respeitadora da privacidade, e equitativa com os enviesamentos nocivos sob controlo. O NIST é voluntário, mas tornou-se a linguagem comum do risco da IA, e a maioria dos programas empresariais nele ancora os seus controlos. A ISO/IEC 42001, primeira norma certificável de sistemas de gestão da IA, transforma essa linguagem em algo auditável. A organização que procura a certificação tem de demonstrar que a explicabilidade é governada: que é considerada ao escolher os modelos, que se produzem explicações onde as partes interessadas delas precisam, e que existe a prova que o sustenta. O NIST diz o que abordar; a ISO 42001 fornece um sistema de gestão para demonstrar que o abordou. Os dois completam-se, e muitos programas fazem funcionar o quadro dentro da norma. A viragem decisiva é jurídica. O Regulamento da IA faz de um grau suficiente de explicação uma obrigação vinculativa para os sistemas de risco elevado e oferece às pessoas uma via para a reclamar. É um mundo diferente de uma lista de boas práticas, e é a razão pela qual a explicabilidade pertence agora a um roteiro de conformidade e não apenas à lista de tarefas dos cientistas de dados.
O que exige o Regulamento da IA, por papel e por nível de risco
O Regulamento não impõe uma obrigação uniforme. Atribui deveres distintos aos prestadores e aos responsáveis pela implementação, e modula-os consoante o nível de risco. Estabelecer bem essa correspondência é a diferença entre um programa defensável e um exercício de burocracia.
Prestadores de sistemas de risco elevado (artigo 13.º)
A obrigação central recai sobre quem coloca no mercado um sistema de risco elevado. O artigo 13.º, n.º 1 estabelece que «os sistemas de IA de risco elevado são concebidos e desenvolvidos de modo a assegurar que o seu funcionamento seja suficientemente transparente para permitir que os responsáveis pela implementação interpretem e utilizem adequadamente os resultados de um sistema». O verbo interpretar é deliberado: o responsável pela implementação tem de poder atribuir um sentido ao que o sistema indica. Esse dever passa sobretudo pelas instruções de utilização. O artigo 13.º exige que sejam concisas, completas, corretas e claras, e o seu n.º 3 enumera o que devem conter, incluindo as características do sistema, o seu nível de exatidão, os seus limites conhecidos e as suas capacidades técnicas para explicar o seu resultado. A explicação não é, pois, um suplemento; faz parte da documentação que o prestador entrega. Sustenta também o artigo 14.º sobre a supervisão humana, porque uma pessoa não pode supervisionar verdadeiramente um sistema cujo resultado não sabe interpretar.
Responsáveis pela implementação e direito a uma explicação (artigo 86.º)
O Regulamento alcança também a organização que utiliza o sistema. O artigo 86.º prevê que qualquer pessoa afetada sujeita a uma decisão tomada pelo responsável pela implementação com base no resultado de um sistema de risco elevado enumerado no anexo III, quando essa decisão produza efeitos jurídicos ou a afete de forma analogamente significativa e adversa para a sua saúde, a sua segurança ou os seus direitos fundamentais, «tem o direito de obter do responsável pela implementação explicações claras e significativas sobre o papel do sistema de IA no procedimento de tomada de decisão e sobre os principais elementos da decisão tomada». É um direito das pessoas e um dever dos responsáveis pela implementação, e torna-se aplicável a 2 de agosto de 2026. Um banco, uma seguradora ou um empregador que opere um sistema de risco elevado tem de estar preparado para explicar uma decisão desfavorável concreta à pessoa que a sofre, em termos claros, mediante pedido. É uma explicação local, a pedido, com um prazo.
A transparência do artigo 50.º não é explicabilidade
Vale a pena nomear uma armadilha. O artigo 50.º impõe deveres de transparência a certos sistemas de risco limitado, por exemplo avisar uma pessoa de que está a interagir com um agente conversacional ou rotular os conteúdos sintéticos. São obrigações de divulgação, e não equivalem a explicar uma decisão. Um sistema pode cumprir a divulgação do artigo 50.º e nada dever ao abrigo dos artigos 13.º ou 86.º, e vice-versa. Trate as duas coisas como linhas distintas do seu programa de conformidade, para que um aviso nunca seja confundido com uma explicação.
Os seis tipos de explicação que um programa de governação deve produzir
A maioria dos conteúdos concorrentes fica-se por uma única explicação técnica, um gráfico de importância das variáveis, e dá a tarefa por concluída. Um programa de governação exige mais, porque públicos diferentes precisam de relatos diferentes da mesma decisão. O Alan Turing Institute traça seis tipos de explicação que, em conjunto, dão um quadro completo e que correspondem bem ao que as autoridades e as pessoas afetadas pedem de facto.
- Fundamentação: as razões de um resultado, expressas em termos acessíveis em vez de através das engrenagens do modelo.
- Responsabilidade: quem responde pelo sistema e como uma pessoa pode contestar uma decisão ou pedir a sua reapreciação.
- Dados: que dados foram utilizados, de onde provêm e como influenciaram o resultado.
- Equidade: as medidas adotadas para assegurar uma decisão não discriminatória, o que liga diretamente a explicabilidade ao controlo dos enviesamentos.
- Segurança: a exatidão, a fiabilidade, a segurança e a robustez por trás do resultado.
- Impacto: os efeitos da decisão sobre a pessoa e sobre a sociedade.
A mesma fonte ordena a disciplina em torno de quatro máximas: ser transparente, ser responsável, considerar o contexto e refletir sobre os impactos. São compromissos operacionais mais do que palavras de ordem. Pedem a uma equipa que adapte cada explicação ao seu público, que atribua uma responsabilidade clara e que pondere as consequências de dar, ou de recusar, uma explicação. Uma autoridade que examina uma decisão desfavorável raramente se contenta com a fundamentação isolada; vai querer também os relatos de responsabilidade, dados e equidade.
Técnicas de explicabilidade e os seus compromissos de governação
As explicações vêm de algum lado, e o método escolhido acarreta consequências de governação. Existem duas grandes famílias. A explicabilidade intrínseca nasce do uso de um modelo interpretável por conceção, como um modelo linear, um modelo aditivo generalizado ou uma árvore de decisão pouco profunda. A explicação é o próprio modelo. O compromisso está em que estes modelos podem render menos em problemas complexos. A explicabilidade a posteriori assenta sobre um modelo opaco. Técnicas como o SHAP e o LIME aproximam que variáveis impulsionaram uma previsão concreta. As explicações contrafactuais descrevem a mais pequena alteração que teria mudado o resultado, muitas vezes o relato mais intuitivo para uma pessoa afetada, porque responde à pergunta sobre o que teria de ter sido diferente. Os modelos substitutos e os métodos de importância das variáveis oferecem uma visão global do comportamento. O compromisso principal opõe o desempenho preditivo à facilidade de explicação. O reflexo de escolher o modelo mais exato e de lhe acrescentar depois um explicador é compreensível, mas as explicações a posteriori são aproximações e podem induzir em erro se forem tomadas pela verdade. A decisão de governação não é qual a técnica melhor em abstrato, mas qual oferece ao público que tem à frente, uma autoridade, um auditor ou uma pessoa afetada, um relato fiável para aquela decisão. Registe o método, os seus limites e a razão da sua escolha.
Tornar a explicabilidade um controlo auditável
A distância entre um princípio de IA responsável e uma auditoria superada é a documentação. A explicabilidade torna-se um controlo quando consegue mostrar, para um dado sistema, que explicações presta, a quem, por que método e quem aprovou. O Alan Turing Institute associa ao seu princípio de explicabilidade um modelo de gestão da garantia de explicabilidade, uma ferramenta iterativa para planear, aplicar e evidenciar as atividades de explicação ao longo do ciclo de vida, para que o esclarecimento dos resultados às partes afetadas fique registado em vez de improvisado. A estrutura importa mais do que o modelo concreto. Um controlo viável tem quatro partes: um registo dos tipos de explicação que cada sistema deve prestar e a que públicos; a técnica utilizada para produzir cada um; a prova de que a explicação estava efetivamente disponível quando foi necessária; e um responsável nomeado que a reaprecia à medida que o modelo muda. É aqui que a explicabilidade deixa de ser um assunto de ciência de dados e se torna um programa. Associar cada sistema de risco elevado às suas obrigações ao abrigo dos artigos 13.º e 86.º, anexar os artefactos de explicação e manter a prova atualizada a cada novo treino é exatamente o trabalho para que uma plataforma de governação da IA foi feita. Feito uma vez, à mão, é um projeto. Feito de forma contínua, sobre toda uma carteira, exige um sistema de referência.
Perguntas frequentes
Qual é a diferença entre explicabilidade e interpretabilidade? A interpretabilidade é uma propriedade do modelo: um modelo simples, cuja lógica uma pessoa pode ler diretamente, é interpretável. A explicabilidade é a aptidão mais ampla de dar um relato compreensível de um resultado, mesmo para um modelo complexo que ninguém pode ler diretamente. Uma fórmula difundida diz que a interpretabilidade responde a como funciona o modelo, ao passo que a explicabilidade responde a por que motivo surgiu um certo resultado. Na governação, pode dever uma explicação para um modelo que em si não é interpretável, que é a situação da maioria das empresas. O direito a uma explicação do Regulamento da IA já está em vigor? Ainda não. O artigo 86.º, o direito das pessoas afetadas de obter do responsável pela implementação explicações claras e significativas sobre uma decisão de risco elevado, torna-se aplicável a 2 de agosto de 2026. As obrigações de transparência do artigo 13.º para os prestadores de sistemas de risco elevado seguem o calendário previsto para esses requisitos. As organizações que operam sistemas de risco elevado devem preparar desde já a capacidade de explicação, em vez de esperar pela data. A explicabilidade aplica-se a todo o sistema de IA? Não. As obrigações vinculativas do Regulamento centram-se nos sistemas de risco elevado. Os sistemas de risco limitado têm deveres de divulgação ao abrigo do artigo 50.º, como declarar que um conteúdo é gerado por IA, algo diferente de explicar uma decisão. Os sistemas de risco mínimo não têm qualquer dever específico de explicabilidade ao abrigo do Regulamento. Dito isto, o NIST e a ISO 42001 tratam a explicabilidade como uma característica geral de uma IA fiável, pelo que a maioria dos programas maduros aplica uma versão proporcionada a toda a carteira. O que conta como boa explicação para uma autoridade? Um único gráfico de importância das variáveis raramente basta. Uma autoridade que examina uma decisão desfavorável quer, em regra, vários relatos em conjunto: a fundamentação do resultado, quem é responsável e como o contestar, que dados foram utilizados, as medidas de equidade adotadas e a base de segurança do resultado. Adaptar a explicação ao público e documentá-la conta tanto como o método técnico subjacente. Bastam o SHAP ou o LIME para falar de explicabilidade? Estas técnicas são úteis, mas são aproximações a posteriori de um modelo opaco, não a explicabilidade inteira. Podem induzir em erro se forem tomadas como verdade exata, e respondem a uma pergunta técnica, não às perguntas de governação sobre responsabilidade, dados e impacto. Use-as como um dos elementos, registe os seus limites e combine-as com a documentação e a responsabilidade que tornam a explicabilidade auditável. Que relação existe entre explicabilidade e supervisão humana? Estreita. O artigo 14.º do Regulamento exige uma supervisão humana efetiva dos sistemas de risco elevado, e uma pessoa não pode supervisionar verdadeiramente um sistema cujo resultado não sabe interpretar. A explicabilidade é a condição prévia da supervisão: sem um relato compreensível do motivo por que o sistema produziu um resultado, o ser humano no circuito aprova resultados às cegas.
Conclusão
A explicabilidade deu o passo do princípio para a obrigação. Já não basta dizer que um modelo é exato; ao abrigo do Regulamento da IA, do NIST e da ISO 42001, uma organização tem de poder dizer por que motivo um sistema chegou a uma decisão, em termos que o público certo possa utilizar, e prová-lo. As equipas que abordam isto como um problema de documentação e de governação, e não como um truque técnico pontual, estarão prontas para o artigo 86.º em 2026 e para as auditorias que se seguirão. O primeiro passo concreto é modesto: enumere os seus sistemas de risco elevado, decida que explicações cada um deve prestar e a quem, e comece a conservar a prova. Descubra como a plataforma AI Sigil transforma tudo isto num controlo repetível.