Deriva do modelo de IA: deteção, regras e resposta

A deriva do modelo de IA é o momento em que um modelo validado deixa, sem alarde, de ser o modelo que foi validado. Ninguém mexeu no código nem publicou uma nova versão, e no entanto as previsões mudaram, porque o mundo que lhes serve de base mudou. A maior parte dos guias trata o fenómeno como um incómodo de engenharia, resolvido com um novo treino agendado. À luz do Regulamento da IA da União Europeia, do princípio da exatidão do RGPD e da supervisão bancária, a questão é bem mais séria: é o ponto em que um sistema que passou a avaliação da conformidade pode deixar de cumprir a exatidão que declarou, sem que ninguém tenha aprovado essa alteração.

O essencial

• A deriva do modelo de IA é a perda de desempenho preditivo depois da entrada em produção, causada por mudanças nos dados de entrada (deriva dos dados) ou na relação entre entradas e resultados (deriva de conceito).
• O artigo 15.º do Regulamento da IA exige um desempenho coerente ao longo de todo o ciclo de vida e obriga a declarar níveis de exatidão. Uma deriva não detetada torna essa declaração falsa.
• O artigo 72.º impõe o acompanhamento pós-comercialização. O Omnibus Digital trocou o ato de execução por orientações da Comissão, com um modelo até 2 de setembro de 2027.
• Retreinar dentro de um perímetro documentado na avaliação inicial não é modificação substancial (artigo 43.º, n.º 4).
• Nos LLM, a deriva vem muitas vezes do fornecedor: fixar versões e exigir aviso prévio por contrato são controlos de pleno direito.

O que é a deriva do modelo de IA?

A deriva do modelo de IA (em inglês, “model drift”) é a perda gradual ou súbita de qualidade preditiva de um modelo de aprendizagem automática quando passa a trabalhar com dados reais. A definição da IBM resume a ideia: o modelo foi ajustado a uma fotografia da realidade, e a realidade continuou a mexer-se. Por trás do termo há três mecanismos, cada um com a sua resposta.

• Deriva dos dados (covariate shift). Muda a distribuição das entradas. Um modelo antifraude treinado com pagamentos de cartão presencial passa a ver sobretudo pagamentos por carteira digital, zonas do espaço de entrada que quase não conheceu no treino.
• Deriva de conceito. Muda a relação entre as entradas e a variável-alvo. O perfil de rendimento e endividamento que indicava risco baixo numa economia estável indica risco mais alto num choque inflacionista.
• Deriva das etiquetas (label drift). Muda a taxa de base do resultado. Se a prevalência de fraude duplicar, um modelo calibrado para a taxa antiga gera alertas a menos.

A deriva do modelo de IA pode ser súbita (uma pandemia, uma alteração legislativa), gradual (uma mudança demográfica lenta), sazonal (a procura no retalho) ou recorrente. Atenção aos falsos culpados: um campo renomeado no pipeline ou uma unidade que passou de euros para cêntimos produz sintomas idênticos, mas é um defeito de qualidade dos dados. Distinguir as duas situações é o primeiro passo de qualquer resposta.

Deriva do modelo de IA, deriva dos dados e deriva de conceito

<table header-row=”true”> <tr> <td>Termo</td> <td>O que muda</td> <td>Sinal típico</td> <td>Primeira resposta</td> </tr> <tr> <td>Deriva dos dados</td> <td>Distribuição das entradas</td> <td>Teste PSI ou KS sobre as variáveis</td> <td>Verificar o pipeline, depois avaliar o impacto</td> </tr> <tr> <td>Deriva de conceito</td> <td>Relação entre entradas e resultado</td> <td>Queda de exatidão sobre resultados etiquetados</td> <td>Revalidar e, provavelmente, retreinar</td> </tr> <tr> <td>Deriva das etiquetas</td> <td>Taxa de base do resultado</td> <td>Desvio entre taxas previstas e observadas</td> <td>Recalibrar os limiares</td> </tr> <tr> <td>Deriva do modelo de IA</td> <td>Desempenho global (o efeito)</td> <td>Qualquer um dos anteriores</td> <td>Diagnosticar a causa antes de agir</td> </tr> </table> Em suma, a deriva dos dados e a deriva de conceito são causas; a deriva do modelo de IA é o efeito observável no desempenho.

Porque é que a deriva do modelo de IA é um problema de conformidade, e não só de MLOps

As explicações mais visíveis ficam pelos painéis e pelos calendários de retreino. Falta-lhes a pergunta de um auditor, que não é “retreinaram?”, mas “como souberam, o que decidiram e onde está o registo?”. Três âncoras jurídicas fazem da deriva do modelo de IA um evento de conformidade. A exatidão que declarou. O artigo 15.º do Regulamento da IA exige que os sistemas de risco elevado atinjam um nível adequado de exatidão, solidez e cibersegurança e tenham um desempenho coerente nesses aspetos durante todo o ciclo de vida; o n.º 3 manda declarar os níveis de exatidão e as métricas nas instruções de utilização. Um prestador que declarou 94% de sensibilidade na avaliação da conformidade e hoje opera a 86% vende um produto que a sua documentação já não descreve. O mesmo artigo pede aos sistemas que continuam a aprender que tratem os circuitos de retroalimentação, em que resultados enviesados se tornam os dados de treino de amanhã. A exatidão na proteção de dados. Quando um modelo apoia decisões sobre pessoas, previsões degradadas são dados pessoais inexatos na aceção do artigo 5.º, n.º 1, alínea d), do RGPD. A Autoridade Europeia para a Proteção de Dados tornou-o explícito nas orientações de novembro de 2025 sobre gestão do risco da IA, que identificam o risco de resultados inexatos devido à deriva dos dados. O exemplo é um modelo de pontuação de crédito treinado numa economia estável e usado em plena crise, com inflação e desemprego a oscilar. As medidas: deteção de deriva, monitorização da qualidade dos dados, retreino periódico ou desencadeado pela deriva detetada, e canais de feedback dos utilizadores. O texto dirige-se às instituições da União, mas a lógica serve o setor privado, e a CNPD terá boas razões para a usar como referência. A equidade que se degrada. Um modelo pode manter a exatidão agregada enquanto o erro de um subgrupo sobe, porque só os dados desse subgrupo mudaram. Uma monitorização limitada a métricas globais não o deteta, e por isso as métricas de equidade pertencem ao mesmo plano, como explicamos no guia sobre viés na IA.

O que as regras exigem perante a deriva do modelo de IA

Nenhum diploma define a deriva como termo jurídico, mas vários exigem exatamente o que a sua gestão produz. <table header-row=”true”> <tr> <td>Regime</td> <td>Disposição</td> <td>O que significa para a deriva</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 15.º, n.os 1 e 3</td> <td>Desempenho coerente no ciclo de vida; métricas de exatidão declaradas</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 9.º, n.º 2, alínea c)</td> <td>A gestão de riscos avalia os dados do acompanhamento pós-comercialização</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 12.º</td> <td>Registo automático de eventos que permite monitorizar após a implantação</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 26.º, n.º 5</td> <td>O responsável pela implantação monitoriza e informa o prestador</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 72.º</td> <td>Sistema e plano documentados de acompanhamento pós-comercialização</td> </tr> <tr> <td>Regulamento da IA</td> <td>Art. 73.º</td> <td>Incidentes graves comunicados em 15 dias, ou 10 ou 2 dias em casos específicos</td> </tr> <tr> <td>NIST AI RMF</td> <td>MEASURE 2.4, MANAGE 4.1</td> <td>Comportamento em produção comparado com os testes prévios</td> </tr> <tr> <td>ISO/IEC 42001</td> <td>Cláusula 9.1 e controlo de operação e monitorização do Anexo A</td> <td>Monitorização, medição e avaliação do desempenho</td> </tr> <tr> <td>Banca nos EUA</td> <td>SR 26-2 (abril de 2026)</td> <td>Gestão do risco de modelos baseada no risco, substitui a SR 11-7</td> </tr> </table> Acompanhamento pós-comercialização. O artigo 72.º obriga os prestadores de sistemas de risco elevado a criar e documentar um sistema que recolha e analise, de forma ativa e sistemática, dados de desempenho ao longo de toda a vida do sistema; o plano integra a documentação técnica do Anexo IV. O texto original previa um ato de execução com modelo até 2 de fevereiro de 2026. O Regulamento (UE) 2026/1744, o Omnibus Digital sobre a IA (JO de 24 de julho de 2026, em vigor desde 27 de julho), substituiu-o por orientações da Comissão, com modelo, até 2 de setembro de 2027. Os sistemas autónomos do Anexo III ficam abrangidos a partir de 2 de dezembro de 2027 e os integrados em produtos do Anexo I a partir de 2 de agosto de 2028. Não vale a pena esperar pelo modelo: os elementos de um plano credível já são conhecidos. Em Portugal, a ANACOM foi designada em setembro de 2025 autoridade de fiscalização do mercado e ponto de contacto único, e será o interlocutor natural. NIST AI RMF. A subcategoria MEASURE 2.4 determina que o funcionamento do sistema é monitorizado em produção, e o playbook nomeia a deriva como razão. Pede que se comparem as métricas de produção com os testes anteriores à implantação e que se emitam alertas quando as distribuições divergem. Banca: o BCE e a lacuna americana. Para os bancos sob supervisão do Banco Central Europeu, a referência é o Guia do BCE sobre modelos internos, revisto em julho de 2025 com uma secção sobre aprendizagem automática (explicabilidade, desempenho face à complexidade, validação), e o Banco de Portugal acompanha essa linha. Nos EUA, a Reserva Federal publicou a 17 de abril de 2026 a SR 26-2, que substitui a SR 11-7 (2011) e a SR 21-8, com o boletim 2026-13 do OCC em paralelo. Uma nota de rodapé exclui os modelos de IA generativa e agêntica, anunciando um pedido de informação. Resultado: os modelos mais expostos à deriva do lado do fornecedor ficam fora da orientação, enquanto os modelos clássicos de crédito continuam dentro. Veja a nossa análise de gestão do risco de modelos.

Deriva ou modificação substancial? A decisão de retreinar

O retreino é a correção habitual da deriva do modelo de IA, e levanta uma questão jurídica que os guias técnicos ignoram. Segundo o artigo 3.º, ponto 23, modificação substancial é uma alteração posterior à colocação no mercado, não prevista nem planeada na avaliação da conformidade inicial, que afeta a conformidade ou altera a finalidade prevista. E implica uma nova avaliação da conformidade. O artigo 43.º, n.º 4, abre uma saída: nos sistemas que continuam a aprender, as alterações predeterminadas pelo prestador na avaliação inicial e descritas na documentação técnica não são modificação substancial. Logo, o perímetro de retreino tem de ser escrito antes do lançamento, não improvisado depois de um alerta. Um perímetro defensável indica:

1. O que pode mudar. Por exemplo, os pesos do modelo, com as mesmas variáveis e fontes de dados. Não novas variáveis, nem outra família de modelos.
2. Os dados admitidos. Fontes, janelas temporais, critérios de qualidade e controlos de representatividade do artigo 10.º.
3. Os critérios de aceitação. Exatidão, calibração e equidade por subgrupo mínimas antes da entrada em produção, ligadas às métricas declaradas ao abrigo do artigo 15.º, n.º 3.
4. O método de validação. Amostra de teste, comparação com o modelo em produção, papéis de aprovação.
5. A fronteira. Que alterações saem do perímetro e desencadeiam uma análise de modificação substancial.

É a lógica das orientações da FDA sobre planos predeterminados de controlo de alterações, finalizadas em dezembro de 2024 para dispositivos médicos com IA: descrever antecipadamente as modificações planeadas, o método de desenvolvimento e validação e a avaliação de impacto.

Como detetar a deriva do modelo de IA

A deteção tem duas camadas, e um programa maduro usa ambas. Desempenho sobre a verdade observada. Quando os resultados chegam (um crédito entra ou não em incumprimento), comparam-se previsões e realidade e acompanham-se exatidão, sensibilidade, calibração e erro por subgrupo face à referência declarada. É a única medida direta da deriva do modelo de IA. O ponto fraco é o atraso: no crédito, os resultados levam meses. Distribuições como alerta precoce. Como as etiquetas tardam, vigiam-se entradas e saídas:

• Índice de Estabilidade da População (PSI), que compara distribuições entre uma janela de referência e uma janela atual. A regra prática lê abaixo de 0,1 como estável, entre 0,1 e 0,25 como desvio moderado e acima de 0,25 como desvio significativo. São convenções, não normas legais: justifique cada limiar no plano.
• Kolmogorov-Smirnov para variáveis contínuas e qui-quadrado para categóricas.
• Distância de Wasserstein e divergência de Jensen-Shannon, quando importa a magnitude do desvio mais do que um valor-p.
• Deriva das previsões: a distribuição das pontuações emitidas, que se move antes de as etiquetas confirmarem algo.

Duas cautelas. Com grandes volumes, os testes marcam como significativos desvios triviais, por isso combine-os com limiares de dimensão do efeito. E a deriva dos dados sem perda de desempenho é frequente: um alerta abre uma investigação, não dispara um retreino automático. Sobre a construção da linha de base, veja o guia de benchmark de IA.

A deriva do modelo de IA nos LLM e nos modelos de terceiros

Nos grandes modelos de linguagem, a deriva do modelo de IA acontece muitas vezes do lado do fornecedor. Chen, Zaharia e Zou compararam as versões de março e junho de 2023 do GPT-4: a exatidão na distinção entre números primos e compostos caiu de 84% para 51%, e a capacidade de seguir instruções também piorou. O mesmo nome de produto, três meses depois. Para o responsável pela implantação, a deriva do modelo de IA num LLM é tanto um risco de terceiros como um risco técnico. Controlos:

• Fixar versões sempre que haja versões datadas, e tratar os aliases móveis como não aprovados para utilizações de risco elevado.
• Correr um conjunto de avaliação fixo (prompts de referência, testes de recusa, verificações de formato) a cada mudança de versão e periodicamente, guardando os resultados.
• Exigir aviso prévio por contrato de atualizações e descontinuações. O guia de due diligence de fornecedores de IA lista as cláusulas.
• Monitorizar as entradas. O comportamento dos utilizadores e o corpus de recuperação mudam, e alteram as respostas sem qualquer atualização do fornecedor.

Um plano de monitorização da deriva do modelo de IA que um auditor aceita

Seja qual for o modelo final da Comissão, um plano que responda ao seguinte resiste ao artigo 72.º, à ISO/IEC 42001 e ao NIST.

1. Âmbito e responsabilidade. Versões, casos de uso e um responsável identificado pelas decisões sobre a deriva do modelo de IA. Ligue cada modelo à sua entrada no registo de sistemas de IA.
2. Métricas e referências. Métricas de exatidão declaradas, métricas de equidade por subgrupo e métricas de distribuição, cada uma com valor de referência e conjunto de dados de origem.
3. Fontes de dados. Onde ficam registadas entradas, previsões e resultados (os registos do artigo 12.º são a fonte natural) e como o feedback dos responsáveis pela implantação chega ao prestador.
4. Periodicidade. Frequência de cálculo e revisão de cada métrica, e por quem. Mais risco e mais mudança pedem ciclos mais curtos.
5. Limiares e escalamento. Níveis de aviso e de ação por métrica, e quem é notificado.
6. Procedimento de resposta. Do alerta à decisão, incluindo as verificações de modificação substancial e de incidente.
7. Registos. Cada alerta, investigação, decisão, retreino e validação, conservados com a documentação técnica, para que um auditor reconstitua porque é que o modelo em produção é o que é.

É nos registos que as equipas menos investem. Um painel que ficou vermelho e voltou a verde não prova nada se ninguém mostrar o que foi decidido entretanto. É o terreno mais amplo da monitorização da conformidade de sistemas de IA.

Responder à deriva do modelo de IA: plano de ação em cinco passos

1. Diagnosticar a causa. Excluir primeiro os defeitos de pipeline: esquemas alterados, junções partidas, unidades trocadas, valores em falta. Muitos alertas de “deriva” são erros de qualidade dos dados.
2. Avaliar o impacto. O desempenho está abaixo dos critérios de aceitação? Para que subgrupos? Que decisões influenciou o modelo desde o início do desvio?
3. Conter. Consoante a gravidade, aumentar a revisão humana, apertar limiares, regressar à versão anterior ou suspender as decisões automatizadas. As medidas de supervisão humana do artigo 14.º devem prever estes interruptores.
4. Corrigir. Retreinar ou recalibrar dentro do perímetro, validar e pôr em produção pelo circuito normal. Fora do perímetro, abrir antes uma análise de modificação substancial.
5. Comunicar e aprender. Se a deriva do modelo de IA conduzir a um incidente grave na aceção do artigo 3.º, ponto 49, aplicam-se os prazos do artigo 73.º: 15 dias em regra, 10 dias em caso de morte e 2 dias perante infração generalizada ou perturbação grave de infraestrutura crítica. O guia de comunicação de incidentes de IA detalha o procedimento. Em qualquer caso, a conclusão regressa à gestão de riscos de IA, como exige o artigo 9.º, n.º 2, alínea c).

Perguntas frequentes

O que é a deriva do modelo de IA, em termos simples? A deriva do modelo de IA acontece quando um modelo piora depois de entrar em produção, porque os dados que recebe, ou o que esses dados significam, mudaram desde o treino. O modelo mantém-se igual; o mundo à volta é que se moveu. Manifesta-se em quedas de exatidão, pontuações mal calibradas ou erros crescentes para certos grupos. Acontece em praticamente todos os sistemas em produção, e por isso tem de ser monitorizada em vez de presumida inexistente. Qual é a diferença entre deriva dos dados e deriva do modelo de IA? A deriva dos dados é uma mudança na distribuição das entradas; a deriva do modelo de IA é a perda de desempenho que daí resulta. Pode haver deriva dos dados sem perda de desempenho, se o modelo generalizar bem, e perda de desempenho sem deriva dos dados visível, quando a deriva de conceito altera a relação entre entradas e resultados. Monitorize ambas: os dados como alerta precoce, o desempenho como confirmação. O que é a deriva nos LLM? É uma mudança no comportamento de um modelo de linguagem ao longo do tempo. Pode vir de o fornecedor atualizar o modelo mantendo o nome, de alterações nos prompts, nos utilizadores ou nos documentos recuperados, ou de um novo ajuste fino. A investigação sobre o GPT-4 encontrou grandes variações entre versões com três meses de intervalo. As defesas: fixar versões, correr um conjunto de avaliação fixo a cada alteração e exigir aviso prévio contratual das atualizações. Retreinar um modelo conta como modificação substancial no Regulamento da IA? Não, se o retreino tiver sido predeterminado. O artigo 43.º, n.º 4, estabelece que as alterações planeadas na avaliação da conformidade inicial e descritas na documentação técnica não são modificações substanciais. Um retreino que mude variáveis, fontes de dados ou finalidade, ou que falhe os critérios de aceitação documentados, pode sê-lo e obriga a nova avaliação. Gerir a deriva do modelo de IA exige, por isso, fixar o perímetro antes do lançamento. Com que frequência se deve verificar a deriva do modelo de IA? Não há periodicidade legal única. Defina-a pelo risco e pela velocidade de mudança do domínio: verificações de distribuição diárias ou contínuas para decisões em grande volume, revisões de desempenho semanais ou mensais onde as etiquetas chegam, e uma revisão formal pelo menos anual. Escreva a justificação no plano de acompanhamento pós-comercialização, porque é isso que o avaliador vai testar. A deriva do modelo de IA é um incidente grave nos termos do artigo 73.º? Por si só, não. Passa a ser comunicável quando conduz, direta ou indiretamente, a um resultado do artigo 3.º, ponto 49: morte ou dano grave para a saúde, perturbação grave e irreversível de infraestrutura crítica, violação de obrigações que protegem direitos fundamentais, ou danos graves a bens ou ao ambiente. Um modelo de crédito ou de recrutamento que produza discriminação em larga escala pode preencher a vertente dos direitos fundamentais.

Conclusão

A deriva do modelo de IA é certa; o que varia é a capacidade de provar que foi bem gerida. O lado técnico está bem servido: testes de distribuição, acompanhamento do desempenho, pipelines de retreino. É na governação que as organizações ficam expostas, porque o Regulamento da IA, o RGPD e a supervisão bancária fazem a mesma pergunta por palavras diferentes: o modelo continuou a fazer o que prometeu, e consegue demonstrá-lo? A resposta assenta em três artefactos redigidos antes do lançamento: métricas declaradas com referências, um plano de acompanhamento pós-comercialização com limiares e responsáveis, e um perímetro de retreino que mantém as correções de rotina fora da modificação substancial. Depois, é preciso guardar os registos. A AI Sigil liga cada modelo do seu registo ao respetivo plano de monitorização, às decisões sobre a deriva do modelo de IA e às evidências, para que a resposta a um auditor seja um relatório e não uma reconstituição.