Deriva do modelo de IA: deteção, regras e resposta

A deriva do modelo de IA é o momento em que um modelo validado deixa, sem alarde, de ser o modelo que foi validado. Ninguém mexeu no código nem publicou uma nova versão, e no entanto as previsões mudaram, porque o mundo que lhes serve de base mudou. A maior parte dos guias trata o fenómeno como um incómodo de engenharia, resolvido com um novo treino agendado. À luz do Regulamento da IA da União Europeia, do princípio da exatidão do RGPD e da supervisão bancária, a questão é bem mais séria: é o ponto em que um sistema que passou a avaliação da conformidade pode deixar de cumprir a exatidão que declarou, sem que ninguém tenha aprovado essa alteração.

Gráfico de monitorização que mostra a deriva do modelo de IA a afastar-se da exatidão declarada

O essencial

  • A deriva do modelo de IA é a perda de desempenho preditivo depois da entrada em produção, causada por mudanças nos dados de entrada (deriva dos dados) ou na relação entre entradas e resultados (deriva de conceito).
  • O artigo 15.º do Regulamento da IA exige um desempenho coerente ao longo de todo o ciclo de vida e obriga a declarar níveis de exatidão. Uma deriva não detetada torna essa declaração falsa.
  • O artigo 72.º impõe o acompanhamento pós-comercialização. O Omnibus Digital trocou o ato de execução por orientações da Comissão, com um modelo até 2 de setembro de 2027.
  • Retreinar dentro de um perímetro documentado na avaliação inicial não é modificação substancial (artigo 43.º, n.º 4).
  • Nos LLM, a deriva vem muitas vezes do fornecedor: fixar versões e exigir aviso prévio por contrato são controlos de pleno direito.

O que é a deriva do modelo de IA?

A deriva do modelo de IA (em inglês, “model drift”) é a perda gradual ou súbita de qualidade preditiva de um modelo de aprendizagem automática quando passa a trabalhar com dados reais. A definição da IBM resume a ideia: o modelo foi ajustado a uma fotografia da realidade, e a realidade continuou a mexer-se. Por trás do termo há três mecanismos, cada um com a sua resposta.

  • Deriva dos dados (covariate shift). Muda a distribuição das entradas. Um modelo antifraude treinado com pagamentos de cartão presencial passa a ver sobretudo pagamentos por carteira digital, zonas do espaço de entrada que quase não conheceu no treino.
  • Deriva de conceito. Muda a relação entre as entradas e a variável-alvo. O perfil de rendimento e endividamento que indicava risco baixo numa economia estável indica risco mais alto num choque inflacionista.
  • Deriva das etiquetas (label drift). Muda a taxa de base do resultado. Se a prevalência de fraude duplicar, um modelo calibrado para a taxa antiga gera alertas a menos.

A deriva do modelo de IA pode ser súbita (uma pandemia, uma alteração legislativa), gradual (uma mudança demográfica lenta), sazonal (a procura no retalho) ou recorrente. Atenção aos falsos culpados: um campo renomeado no pipeline ou uma unidade que passou de euros para cêntimos produz sintomas idênticos, mas é um defeito de qualidade dos dados. Distinguir as duas situações é o primeiro passo de qualquer resposta.

Deriva do modelo de IA, deriva dos dados e deriva de conceito

<table header-row=”true”> <tr> <td>Termo</td> <td>O que muda</td> <td>Sinal típico</td> <td>Primeira resposta</td> </tr> <tr> <td>Deriva dos dados</td> <td>Distribuição das entradas</td> <td>Teste PSI ou KS sobre as variáveis</td> <td>Verificar o pipeline, depois avaliar o impacto</td> </tr> <tr> <td>Deriva de conceito</td> <td>Relação entre entradas e resultado</td> <td>Queda de exatidão sobre resultados etiquetados</td> <td>Revalidar e, provavelmente, retreinar</td> </tr> <tr> <td>Deriva das etiquetas</td> <td>Taxa de base do resultado</td> <td>Desvio entre taxas previstas e observadas</td> <td>Recalibrar os limiares</td> </tr> <tr> <td>Deriva do modelo de IA</td> <td>Desempenho global (o efeito)</td> <td>Qualquer um dos anteriores</td> <td>Diagnosticar a causa antes de agir</td> </tr> </table> Em suma, a deriva dos dados e a deriva de conceito são causas; a deriva do modelo de IA é o efeito observável no desempenho.

Porque é que a deriva do modelo de IA é um problema de conformidade, e não só de MLOps

As explicações mais visíveis ficam pelos painéis e pelos calendários de retreino. Falta-lhes a pergunta de um auditor, que não é “retreinaram?”, mas “como souberam, o que decidiram e onde está o registo?”. Três âncoras jurídicas fazem da deriva do modelo de IA um evento de conformidade. A exatidão que declarou. O artigo 15.º do Regulamento da IA exige que os sistemas de risco elevado atinjam um nível adequado de exatidão, solidez e cibersegurança e tenham um desempenho coerente nesses aspetos durante todo o ciclo de vida; o n.º 3 manda declarar os níveis de exatidão e as métricas nas instruções de utilização. Um prestador que declarou 94% de sensibilidade na avaliação da conformidade e hoje opera a 86% vende um produto que a sua documentação já não descreve. O mesmo artigo pede aos sistemas que continuam a aprender que tratem os circuitos de retroalimentação, em que resultados enviesados se tornam os dados de treino de amanhã. A exatidão na proteção de dados. Quando um modelo apoia decisões sobre pessoas, previsões degradadas são dados pessoais inexatos na aceção do artigo 5.º, n.º 1, alínea d), do RGPD. A Autoridade Europeia para a Proteção de Dados tornou-o explícito nas orientações de novembro de 2025 sobre gestão do risco da IA, que identificam o risco de resultados inexatos devido à deriva dos dados. O exemplo é um modelo de pontuação de crédito treinado numa economia estável e usado em plena crise, com inflação e desemprego a oscilar. As medidas: deteção de deriva, monitorização da qualidade dos dados, retreino periódico ou desencadeado pela deriva detetada, e canais de feedback dos utilizadores. O texto dirige-se às instituições da União, mas a lógica serve o setor privado, e a CNPD terá boas razões para a usar como referência. A equidade que se degrada. Um modelo pode manter a exatidão agregada enquanto o erro de um subgrupo sobe, porque só os dados desse subgrupo mudaram. Uma monitorização limitada a métricas globais não o deteta, e por isso as métricas de equidade pertencem ao mesmo plano, como explicamos no guia sobre viés na IA.

O que as regras exigem perante a deriva do modelo de IA

Nenhum diploma define a deriva como termo jurídico, mas vários exigem exatamente o que a sua gestão produz. <table header-row=”true”> <tr> <td>Regime</td> <td>Disposição</td> <td>O que significa para a deriva</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 15.º, n.os 1 e 3</td> <td>Desempenho coerente no ciclo de vida; métricas de exatidão declaradas</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 9.º, n.º 2, alínea c)</td> <td>A gestão de riscos avalia os dados do acompanhamento pós-comercialização</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 12.º</td> <td>Registo automático de eventos que permite monitorizar após a implantação</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 26.º, n.º 5</td> <td>O responsável pela implantação monitoriza e informa o prestador</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 72.º</td> <td>Sistema e plano documentados de acompanhamento pós-comercialização</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 73.º</td> <td>Incidentes graves comunicados em 15 dias, ou 10 ou 2 dias em casos específicos</td> </tr> <tr> <td>NIST AI RMF</td> <td>MEASURE 2.4, MANAGE 4.1</td> <td>Comportamento em produção comparado com os testes prévios</td> </tr> <tr> <td>ISO/IEC 42001</td> <td>Cláusula 9.1 e controlo de operação e monitorização do Anexo A</td> <td>Monitorização, medição e avaliação do desempenho</td> </tr> <tr> <td>Banca nos EUA</td> <td>SR 26-2 (abril de 2026)</td> <td>Gestão do risco de modelos baseada no risco, substitui a SR 11-7</td> </tr> </table> Acompanhamento pós-comercialização. O artigo 72.º obriga os prestadores de sistemas de risco elevado a criar e documentar um sistema que recolha e analise, de forma ativa e sistemática, dados de desempenho ao longo de toda a vida do sistema; o plano integra a documentação técnica do Anexo IV. O texto original previa um ato de execução com modelo até 2 de fevereiro de 2026. O Regulamento (UE) 2026/1744, o Omnibus Digital sobre a IA (JO de 24 de julho de 2026, em vigor desde 27 de julho), substituiu-o por orientações da Comissão, com modelo, até 2 de setembro de 2027. Os sistemas autónomos do Anexo III ficam abrangidos a partir de 2 de dezembro de 2027 e os integrados em produtos do Anexo I a partir de 2 de agosto de 2028. Não vale a pena esperar pelo modelo: os elementos de um plano credível já são conhecidos. Em Portugal, a ANACOM foi designada em setembro de 2025 autoridade de fiscalização do mercado e ponto de contacto único, e será o interlocutor natural. NIST AI RMF. A subcategoria MEASURE 2.4 determina que o funcionamento do sistema é monitorizado em produção, e o playbook nomeia a deriva como razão. Pede que se comparem as métricas de produção com os testes anteriores à implantação e que se emitam alertas quando as distribuições divergem. Banca: o BCE e a lacuna americana. Para os bancos sob supervisão do Banco Central Europeu, a referência é o Guia do BCE sobre modelos internos, revisto em julho de 2025 com uma secção sobre aprendizagem automática (explicabilidade, desempenho face à complexidade, validação), e o Banco de Portugal acompanha essa linha. Nos EUA, a Reserva Federal publicou a 17 de abril de 2026 a SR 26-2, que substitui a SR 11-7 (2011) e a SR 21-8, com o boletim 2026-13 do OCC em paralelo. Uma nota de rodapé exclui os modelos de IA generativa e agêntica, anunciando um pedido de informação. Resultado: os modelos mais expostos à deriva do lado do fornecedor ficam fora da orientação, enquanto os modelos clássicos de crédito continuam dentro. Veja a nossa análise de gestão do risco de modelos.

Deriva ou modificação substancial? A decisão de retreinar

O retreino é a correção habitual da deriva do modelo de IA, e levanta uma questão jurídica que os guias técnicos ignoram. Segundo o artigo 3.º, ponto 23, modificação substancial é uma alteração posterior à colocação no mercado, não prevista nem planeada na avaliação da conformidade inicial, que afeta a conformidade ou altera a finalidade prevista. E implica uma nova avaliação da conformidade. O artigo 43.º, n.º 4, abre uma saída: nos sistemas que continuam a aprender, as alterações predeterminadas pelo prestador na avaliação inicial e descritas na documentação técnica não são modificação substancial. Logo, o perímetro de retreino tem de ser escrito antes do lançamento, não improvisado depois de um alerta. Um perímetro defensável indica:

  1. O que pode mudar. Por exemplo, os pesos do modelo, com as mesmas variáveis e fontes de dados. Não novas variáveis, nem outra família de modelos.
  2. Os dados admitidos. Fontes, janelas temporais, critérios de qualidade e controlos de representatividade do artigo 10.º.
  3. Os critérios de aceitação. Exatidão, calibração e equidade por subgrupo mínimas antes da entrada em produção, ligadas às métricas declaradas ao abrigo do artigo 15.º, n.º 3.
  4. O método de validação. Amostra de teste, comparação com o modelo em produção, papéis de aprovação.
  5. A fronteira. Que alterações saem do perímetro e desencadeiam uma análise de modificação substancial.

É a lógica das orientações da FDA sobre planos predeterminados de controlo de alterações, finalizadas em dezembro de 2024 para dispositivos médicos com IA: descrever antecipadamente as modificações planeadas, o método de desenvolvimento e validação e a avaliação de impacto.

Como detetar a deriva do modelo de IA

A deteção tem duas camadas, e um programa maduro usa ambas. Desempenho sobre a verdade observada. Quando os resultados chegam (um crédito entra ou não em incumprimento), comparam-se previsões e realidade e acompanham-se exatidão, sensibilidade, calibração e erro por subgrupo face à referência declarada. É a única medida direta da deriva do modelo de IA. O ponto fraco é o atraso: no crédito, os resultados levam meses. Distribuições como alerta precoce. Como as etiquetas tardam, vigiam-se entradas e saídas:

  • Índice de Estabilidade da População (PSI), que compara distribuições entre uma janela de referência e uma janela atual. A regra prática lê abaixo de 0,1 como estável, entre 0,1 e 0,25 como desvio moderado e acima de 0,25 como desvio significativo. São convenções, não normas legais: justifique cada limiar no plano.
  • Kolmogorov-Smirnov para variáveis contínuas e qui-quadrado para categóricas.
  • Distância de Wasserstein e divergência de Jensen-Shannon, quando importa a magnitude do desvio mais do que um valor-p.
  • Deriva das previsões: a distribuição das pontuações emitidas, que se move antes de as etiquetas confirmarem algo.

Duas cautelas. Com grandes volumes, os testes marcam como significativos desvios triviais, por isso combine-os com limiares de dimensão do efeito. E a deriva dos dados sem perda de desempenho é frequente: um alerta abre uma investigação, não dispara um retreino automático. Sobre a construção da linha de base, veja o guia de benchmark de IA.

A deriva do modelo de IA nos LLM e nos modelos de terceiros

Nos grandes modelos de linguagem, a deriva do modelo de IA acontece muitas vezes do lado do fornecedor. Chen, Zaharia e Zou compararam as versões de março e junho de 2023 do GPT-4: a exatidão na distinção entre números primos e compostos caiu de 84% para 51%, e a capacidade de seguir instruções também piorou. O mesmo nome de produto, três meses depois. Para o responsável pela implantação, a deriva do modelo de IA num LLM é tanto um risco de terceiros como um risco técnico. Controlos:

  • Fixar versões sempre que haja versões datadas, e tratar os aliases móveis como não aprovados para utilizações de risco elevado.
  • Correr um conjunto de avaliação fixo (prompts de referência, testes de recusa, verificações de formato) a cada mudança de versão e periodicamente, guardando os resultados.
  • Exigir aviso prévio por contrato de atualizações e descontinuações. O guia de due diligence de fornecedores de IA lista as cláusulas.
  • Monitorizar as entradas. O comportamento dos utilizadores e o corpus de recuperação mudam, e alteram as respostas sem qualquer atualização do fornecedor.

Um plano de monitorização da deriva do modelo de IA que um auditor aceita

Seja qual for o modelo final da Comissão, um plano que responda ao seguinte resiste ao artigo 72.º, à ISO/IEC 42001 e ao NIST.

  1. Âmbito e responsabilidade. Versões, casos de uso e um responsável identificado pelas decisões sobre a deriva do modelo de IA. Ligue cada modelo à sua entrada no registo de sistemas de IA.
  2. Métricas e referências. Métricas de exatidão declaradas, métricas de equidade por subgrupo e métricas de distribuição, cada uma com valor de referência e conjunto de dados de origem.
  3. Fontes de dados. Onde ficam registadas entradas, previsões e resultados (os registos do artigo 12.º são a fonte natural) e como o feedback dos responsáveis pela implantação chega ao prestador.
  4. Periodicidade. Frequência de cálculo e revisão de cada métrica, e por quem. Mais risco e mais mudança pedem ciclos mais curtos.
  5. Limiares e escalamento. Níveis de aviso e de ação por métrica, e quem é notificado.
  6. Procedimento de resposta. Do alerta à decisão, incluindo as verificações de modificação substancial e de incidente.
  7. Registos. Cada alerta, investigação, decisão, retreino e validação, conservados com a documentação técnica, para que um auditor reconstitua porque é que o modelo em produção é o que é.

É nos registos que as equipas menos investem. Um painel que ficou vermelho e voltou a verde não prova nada se ninguém mostrar o que foi decidido entretanto. É o terreno mais amplo da monitorização da conformidade de sistemas de IA.

Responder à deriva do modelo de IA: plano de ação em cinco passos

  1. Diagnosticar a causa. Excluir primeiro os defeitos de pipeline: esquemas alterados, junções partidas, unidades trocadas, valores em falta. Muitos alertas de “deriva” são erros de qualidade dos dados.
  2. Avaliar o impacto. O desempenho está abaixo dos critérios de aceitação? Para que subgrupos? Que decisões influenciou o modelo desde o início do desvio?
  3. Conter. Consoante a gravidade, aumentar a revisão humana, apertar limiares, regressar à versão anterior ou suspender as decisões automatizadas. As medidas de supervisão humana do artigo 14.º devem prever estes interruptores.
  4. Corrigir. Retreinar ou recalibrar dentro do perímetro, validar e pôr em produção pelo circuito normal. Fora do perímetro, abrir antes uma análise de modificação substancial.
  5. Comunicar e aprender. Se a deriva do modelo de IA conduzir a um incidente grave na aceção do artigo 3.º, ponto 49, aplicam-se os prazos do artigo 73.º: 15 dias em regra, 10 dias em caso de morte e 2 dias perante infração generalizada ou perturbação grave de infraestrutura crítica. O guia de comunicação de incidentes de IA detalha o procedimento. Em qualquer caso, a conclusão regressa à gestão de riscos de IA, como exige o artigo 9.º, n.º 2, alínea c).

Perguntas frequentes

O que é a deriva do modelo de IA, em termos simples? A deriva do modelo de IA acontece quando um modelo piora depois de entrar em produção, porque os dados que recebe, ou o que esses dados significam, mudaram desde o treino. O modelo mantém-se igual; o mundo à volta é que se moveu. Manifesta-se em quedas de exatidão, pontuações mal calibradas ou erros crescentes para certos grupos. Acontece em praticamente todos os sistemas em produção, e por isso tem de ser monitorizada em vez de presumida inexistente. Qual é a diferença entre deriva dos dados e deriva do modelo de IA? A deriva dos dados é uma mudança na distribuição das entradas; a deriva do modelo de IA é a perda de desempenho que daí resulta. Pode haver deriva dos dados sem perda de desempenho, se o modelo generalizar bem, e perda de desempenho sem deriva dos dados visível, quando a deriva de conceito altera a relação entre entradas e resultados. Monitorize ambas: os dados como alerta precoce, o desempenho como confirmação. O que é a deriva nos LLM? É uma mudança no comportamento de um modelo de linguagem ao longo do tempo. Pode vir de o fornecedor atualizar o modelo mantendo o nome, de alterações nos prompts, nos utilizadores ou nos documentos recuperados, ou de um novo ajuste fino. A investigação sobre o GPT-4 encontrou grandes variações entre versões com três meses de intervalo. As defesas: fixar versões, correr um conjunto de avaliação fixo a cada alteração e exigir aviso prévio contratual das atualizações. Retreinar um modelo conta como modificação substancial no Regulamento da IA? Não, se o retreino tiver sido predeterminado. O artigo 43.º, n.º 4, estabelece que as alterações planeadas na avaliação da conformidade inicial e descritas na documentação técnica não são modificações substanciais. Um retreino que mude variáveis, fontes de dados ou finalidade, ou que falhe os critérios de aceitação documentados, pode sê-lo e obriga a nova avaliação. Gerir a deriva do modelo de IA exige, por isso, fixar o perímetro antes do lançamento. Com que frequência se deve verificar a deriva do modelo de IA? Não há periodicidade legal única. Defina-a pelo risco e pela velocidade de mudança do domínio: verificações de distribuição diárias ou contínuas para decisões em grande volume, revisões de desempenho semanais ou mensais onde as etiquetas chegam, e uma revisão formal pelo menos anual. Escreva a justificação no plano de acompanhamento pós-comercialização, porque é isso que o avaliador vai testar. A deriva do modelo de IA é um incidente grave nos termos do artigo 73.º? Por si só, não. Passa a ser comunicável quando conduz, direta ou indiretamente, a um resultado do artigo 3.º, ponto 49: morte ou dano grave para a saúde, perturbação grave e irreversível de infraestrutura crítica, violação de obrigações que protegem direitos fundamentais, ou danos graves a bens ou ao ambiente. Um modelo de crédito ou de recrutamento que produza discriminação em larga escala pode preencher a vertente dos direitos fundamentais.

Conclusão

A deriva do modelo de IA é certa; o que varia é a capacidade de provar que foi bem gerida. O lado técnico está bem servido: testes de distribuição, acompanhamento do desempenho, pipelines de retreino. É na governação que as organizações ficam expostas, porque o Regulamento da IA, o RGPD e a supervisão bancária fazem a mesma pergunta por palavras diferentes: o modelo continuou a fazer o que prometeu, e consegue demonstrá-lo? A resposta assenta em três artefactos redigidos antes do lançamento: métricas declaradas com referências, um plano de acompanhamento pós-comercialização com limiares e responsáveis, e um perímetro de retreino que mantém as correções de rotina fora da modificação substancial. Depois, é preciso guardar os registos. A AI Sigil liga cada modelo do seu registo ao respetivo plano de monitorização, às decisões sobre a deriva do modelo de IA e às evidências, para que a resposta a um auditor seja um relatório e não uma reconstituição.

Regulamentação da IA nos Estados Unidos em 2026: leis federais, preempção e provas

Regulamentação da IA nos Estados Unidos: as leis federais em vigor, as ordens executivas, a preempção que não aconteceu e os registos que provam a conformidade.

Práticas de IA proibidas: o artigo 5.º do AI Act em 2026

As práticas de IA proibidas do artigo 5.º passam de oito para dez em dezembro de 2026. Lista, coimas, autoridades em Portugal e o registo de triagem a manter.

Framework de segurança de IA: como escolher em 2026

Que framework de segurança de IA escolher antes de uma auditoria? Comparamos 18 referenciais em quatro famílias, com uma regra de seleção por papel.

Ciclo de vida da IA: fases, deveres e controlo

Gestão do ciclo de vida da IA segundo o Regulamento da IA: fases, pontos de decisão, controlo de alterações e desativação, com as provas a conservar.

Política de utilização aceitável de IA: guia europeu

Política de utilização aceitável de IA: as duas políticas que o AI Act nomeia, um mapa de cláusulas, as linhas vermelhas e o dossiê do artigo 4.º em 8 passos.

NIST AI 100-2: taxonomia de ataques à IA e AI Act

O NIST AI 100-2 classifica os ataques à IA com identificadores NISTAML. Mostramos como os ligar ao artigo 15.º do AI Act e montar o dossiê de prova.