O essencial
- O viés da IA é um desvio sistemático e repetível nas saídas de um sistema, que produz resultados injustos ou inexatos para determinadas pessoas ou grupos.
- A taxonomia de referência, do NIST SP 1270, distingue três categorias: viés sistémico, estatístico e humano.
- Com o artigo 10 do regulamento europeu de IA, examinar e mitigar o viés dos dados de treino passa a ser uma obrigação jurídica a partir de 2 de agosto de 2026, e não uma boa prática opcional.
- As falhas mais conhecidas (COMPAS, a ferramenta de recrutamento da Amazon, o algoritmo de saúde da Optum) eram previsíveis e evitáveis com um exame documentado do viés.
- O viés governa-se: com registos adequados, papéis claros, métricas e monitorização contínua, torna-se um controlo auditável em vez de uma má surpresa.
O que é o viés da IA?
O viés da IA é um erro sistemático na forma como um sistema representa o mundo, um desvio que favorece ou prejudica regularmente certas pessoas. Não é uma avaria isolada nem uma resposta errada pontual. É um padrão: o mesmo tipo de pessoa obtém o mesmo tipo de resultado injusto, repetidamente, porque esse padrão está inscrito nos dados, no modelo ou na forma como se lê a sua saída.
Convém separar dois sentidos da palavra. Em estatística, o viés é uma grandeza neutra: a distância entre a previsão média de um modelo e o valor real. Na sociedade, o viés designa um resultado injusto sofrido por uma pessoa por aquilo que ela é. O viés da IA situa-se exatamente onde os dois se encontram: um desvio estatístico mensurável que se traduz em dano concreto sobre pessoas reais.
É por isso que o NIST descreve o viés como sociotécnico e não meramente computacional. Não se corrige apenas com uma função de perda mais limpa, porque as suas causas remontam à recolha de dados, à escolha do problema e à leitura humana dos resultados. Para uma equipa de governança, a consequência é clara: os controlos têm de cobrir dados, modelos e pessoas.
Os três tipos de viés da IA
A taxonomia de referência vem do NIST SP 1270, que organiza o viés em três categorias: sistémico, estatístico e humano. A maioria dos incidentes reais combina as três, mas nomeá-las separadamente permite atribuir a cada uma um responsável e um controlo.
Viés sistémico
O viés sistémico nasce da sociedade e das instituições e acaba codificado nos dados. Se um processo de recrutamento favoreceu um grupo durante dez anos, um modelo treinado nesse histórico aprende a mesma preferência como se fosse uma regra. O modelo não inventa a injustiça: herda-a e amplia-a.
Viés estatístico e computacional
O viés estatístico vem dos dados e da matemática. Os mecanismos comuns são o desequilíbrio estatístico (alguns grupos estão sub-representados), as variáveis de substituição (um código postal ou um custo de saúde que substitui um atributo protegido) e o desajuste de contexto (um modelo treinado num âmbito e usado noutro). São as falhas mais acessíveis à deteção técnica.
Viés humano e cognitivo
O viés humano entra através das pessoas que concebem, anotam e usam o sistema. O viés de automação, a tendência para confiar mais na máquina do que no próprio juízo, é particularmente relevante para a governança: um modelo bem calibrado pode causar dano se o operador o seguir sem espírito crítico.
Onde o viés se instala no ciclo de vida da IA
O viés não se injeta num único ponto. Acumula-se ao longo de todo o ciclo de vida, e por isso um controlo isolado deixa-o passar. O relatório técnico ISO/IEC TR 24027 descreve técnicas para avaliar o viés em cada fase, da recolha de dados até ao uso.
Os principais pontos de entrada merecem uma lista, porque cada um exige o seu próprio controlo:
- Recolha e amostragem: quem está sobre ou sub-representado no conjunto de treino.
- Anotação: rótulos subjetivos codificam os pressupostos de quem anota.
- Seleção de variáveis: incluir um substituto de um atributo protegido reintroduz o viés que se julgava removido.
- Treino e escolhas de conceção: o objetivo otimizado define o que é considerado bom e pode trocar equidade por precisão.
- Teste e avaliação: medir apenas a precisão global torna invisível o dano por grupo.
- Implementação e ciclos de retorno: um modelo enviesado molda os dados com que será retreinado, e o desvio reforça-se.
Um programa de governança associa um controlo a cada uma destas fases, em vez de tratar o viés como uma verificação de última hora.
Exemplos reais de viés da IA
A forma mais clara de compreender o viés da IA passa por casos em que causou um dano documentado. Cada exemplo é célebre pela falha, mas a lição mais útil é o que um processo governado teria detetado primeiro.
A ferramenta COMPAS, usada por tribunais norte-americanos para estimar o risco de reincidência, foi analisada pela ProPublica. Os arguidos negros que não reincidiram eram classificados como de alto risco quase o dobro das vezes face a arguidos brancos comparáveis, cerca de 44,9 % contra 23,5 %. Lição de governança: as taxas de erro por grupo, e não apenas a precisão global, devem constar de cada relatório de avaliação.
A Amazon construiu uma ferramenta de recrutamento experimental que aprendeu com dez anos de currículos maioritariamente masculinos e começou a penalizar as candidaturas que mencionavam mulheres. A empresa abandonou-a em 2018. Lição: os dados históricos transportam a discriminação histórica.
Um algoritmo de previsão do risco de saúde, estudado por Obermeyer e colegas na Science, abrangia cerca de 200 milhões de pessoas. Usava o custo dos cuidados como substituto da necessidade de cuidados. Como historicamente se gastava menos com doentes negros com a mesma patologia, o modelo subestimava as suas necessidades. Em conjunto com o fornecedor, os investigadores reduziram o viés em cerca de 80 %. Lição: as variáveis de substituição exigem um exame explícito.
Os sistemas de reconhecimento facial mostraram repetidamente taxas de erro mais altas para os grupos sub-representados nas suas imagens de treino. Lição: a representatividade é uma propriedade mensurável, testável antes da implementação.
Viés da IA e direito: AI Act, NIST, ISO
É aqui que o viés deixa de ser um debate ético e se torna uma obrigação de conformidade. O artigo 10 do regulamento de IA obriga os fornecedores de sistemas de alto risco a examinar os conjuntos de treino, validação e teste em busca de possíveis vieses que possam afetar a saúde, a segurança ou os direitos fundamentais, e a adotar medidas para os detetar, prevenir e mitigar. Os dados devem ser pertinentes, suficientemente representativos e apropriados para as pessoas afetadas.
Uma disposição merece atenção especial. O artigo 10, n.º 5 cria uma exceção estreita e condicionada: o fornecedor pode tratar categorias especiais de dados exclusivamente para detetar e corrigir o viés, com garantias. Por outras palavras, demonstrar a equidade de um sistema pode por vezes exigir dados sobre atributos protegidos, e o direito deixa espaço para isso.
O artigo 15 acrescenta requisitos de exatidão, robustez e cibersegurança, e o artigo 27 introduz uma avaliação de impacto sobre os direitos fundamentais para certos responsáveis pela implementação. Estas obrigações de alto risco aplicam-se a partir de 2 de agosto de 2026. Em Portugal, a CNPD já tratou riscos ligados a dados e algoritmos, o que ancora o tema num quadro nacional concreto.
Um ponto subtil mas importante da investigação: as métricas de equidade e a não discriminação jurídica não coincidem. Como nota uma análise do regulamento, não existe uma métrica única de equidade a otimizar. A obrigação é examinar o viés e mitigá-lo onde for exequível, documentando as escolhas. Dois referenciais traduzem estes deveres em prática: o NIST AI Risk Management Framework coloca a equidade nas suas funções Measure e Manage, e a ISO/IEC 42001 fornece a estrutura de gestão para conduzir o exame do viés como um processo repetível e certificável.
Detetar e medir o viés da IA
Só se governa o que se mede, e medir o viés significa testar os resultados por grupo, não apenas a precisão global. Algumas métricas repetem-se na prática:
- Paridade estatística: a taxa de resultado favorável é igual entre grupos?
- Igualdade de oportunidades: entre as pessoas elegíveis, são selecionadas a taxas semelhantes independentemente do grupo?
- Impacto desproporcionado, muitas vezes expresso como rácio de impacto adverso ou regra dos quatro quintos: um grupo é selecionado a menos de 80 % da taxa do grupo mais favorecido?
Nenhuma métrica é completa, e algumas são matematicamente incompatíveis, pelo que a escolha da métrica é, em si mesma, uma decisão de governança a registar. Em paralelo, as equipas devem procurar as variáveis de substituição e documentar a representatividade dos dados. O fio condutor é a repetibilidade: um teste de viés executado uma vez antes do lançamento demonstra a intenção; um teste executado com cadência demonstra o controlo.
Mitigar o viés da IA
Quando um teste revela viés, as técnicas de mitigação distribuem-se por três fases da cadeia. O pré-processamento atua sobre os dados: reamostragem dos grupos sub-representados ou reponderação dos exemplos. O processamento durante o treino atua sobre o modelo: mitigação adversarial ou restrições de equidade acrescentadas ao objetivo. O pós-processamento atua sobre a saída: ajuste dos limiares de decisão por grupo para igualar as taxas de erro.
Nenhuma delas é uma solução milagrosa, e cada uma implica compromissos que um processo de governança deve expor em vez de esconder. A revisão de variáveis neutraliza os substitutos. O preenchimento de lacunas nos dados corrige o desequilíbrio estatístico. Sobretudo, a supervisão humana mantém uma pessoa responsável pela decisão, o que é boa prática e, para os sistemas de alto risco, uma expectativa legal.
Governar o viés da IA: um programa operacional
O que distingue uma organização surpreendida por um modelo enviesado de outra que não o é raramente está no algoritmo. Está no programa que o rodeia. A governança do viés transforma correções dispersas num controlo permanente com quatro ingredientes.
Primeiro, os registos: um registo de exame do viés para cada sistema de alto risco, que anote que dados foram verificados, que métricas foram usadas, o que foi encontrado e o que foi feito. É exatamente a prova que o artigo 10 espera. Segundo, os papéis: clareza sobre quem responde pelo viés de um dado sistema e como a responsabilidade se reparte entre o fornecedor e o responsável pela implementação. Terceiro, a monitorização contínua: o viés deriva quando os dados e os usos mudam, por isso o exame repete-se com cadência. Quarto, uma trilha de auditoria: aprovações, versões e provas ligadas a cada sistema de IA, para que um avaliador ou uma autoridade possa seguir a decisão.
É aqui que uma plataforma de governança de IA encontra o seu lugar face a uma pasta de folhas de cálculo. Quando cada teste, cada mitigação e cada aprovação vive num único sistema de registo, ligado ao sistema de IA e à obrigação concreta, o programa torna-se auditável desde a conceção. Para os controlos adjacentes, o nosso espaço Industry Insights trata a governança de dados e a supervisão humana a que o exame do viés se liga.
Perguntas frequentes
Quais são os três tipos de viés da IA?
A taxonomia do NIST SP 1270 nomeia três categorias: o viés sistémico, que a sociedade e as instituições codificam nos dados; o viés estatístico ou computacional, que nasce dos dados e do modelo, incluindo o desequilíbrio e as variáveis de substituição; e o viés humano, que entra através das pessoas que concebem, anotam e usam o sistema. A maioria dos incidentes combina-os, daí o interesse em atribuir um controlo a cada um.
Qual é um exemplo de viés da IA?
Um caso bem documentado é o algoritmo de saúde da Optum estudado na Science, que abrangia cerca de 200 milhões de doentes. Usava o custo dos cuidados como aproximação da necessidade; como historicamente se gastava menos com doentes negros com a mesma patologia, subestimava as suas necessidades. Identificado o substituto, os investigadores reduziram o viés em cerca de 80 %.
É possível eliminar por completo o viés da IA?
Não, e afirmar o contrário deve servir de alerta. O viés mede-se, reduz-se e controla-se, mas quase sempre resta um desvio residual, e diferentes métricas de equidade podem entrar em conflito. O objetivo realista, o que o regulamento fixa, é examinar o viés, mitigá-lo onde for exequível e documentar os compromissos.
O viés da IA é ilegal ao abrigo do AI Act?
O viés em si não é sancionado, mas para os sistemas de alto risco a falta de exame e de mitigação constitui um incumprimento do artigo 10 a partir de 2 de agosto de 2026. O fornecedor deve verificar os dados, garantir a representatividade e conservar provas. O artigo 10, n.º 5, permite mesmo um uso limitado de dados sensíveis para detetar e corrigir o viés, com garantias.
Como se testa o viés de um sistema de IA?
Medem-se os resultados por grupo protegido com métricas como a paridade estatística, a igualdade de oportunidades e o impacto desproporcionado (a regra dos quatro quintos), em vez de confiar apenas na precisão global. Procuram-se também as variáveis de substituição e documenta-se a representatividade. Sobretudo, o teste deve executar-se com cadência para produzir uma prova contínua de controlo.
Qual é a diferença entre viés e equidade na IA?
O viés é o desvio sistemático no comportamento de um sistema; a equidade é o objetivo de resultados que não dependam injustamente de quem uma pessoa é. Reduzir o viés é a forma de procurar a equidade, mas como a equidade tem várias definições concorrentes, eliminar uma forma de viés pode fazer-se em detrimento de outra. Essa tensão faz da equidade uma decisão de governança.
Conclusão
O viés da IA não é um debate ético a resolver um dia. É uma propriedade concreta e mensurável de um sistema e, ao abrigo do regulamento europeu, é agora um dever documentado e auditável, com um prazo. As organizações que se mantêm fora de perigo tratam o viés como qualquer outro risco: nomeiam os seus tipos, testam-no ao longo de todo o ciclo de vida, mitigam-no com técnicas conhecidas e conservam as provas no mesmo lugar. Assim, o viés deixa de ser um título de jornal em espera e torna-se um controlo que se pode demonstrar. Descubra como a AI Sigil ajuda as equipas a governar o viés e a equidade de forma sistemática.