Gestão do risco de modelos para a IA e o machine learning

O essencial

• A gestão do risco de modelos (MRM) é a disciplina que identifica, mede e controla o risco de perda decorrente de decisões baseadas em modelos incorretos ou mal utilizados.
• Nos Estados Unidos, as expectativas de supervisão mudaram em 2026: a SR 26-2 substitui a SR 11-7, em vigor há quinze anos, e passa da revalidação anual obrigatória para uma supervisão proporcional à materialidade dos modelos.
• A SR 26-2 deixa deliberadamente a IA generativa e a IA agente fora do seu âmbito, o que abre uma lacuna de governação que os quadros especializados têm de colmatar.
• O machine learning e os modelos generativos contrariam várias hipóteses da gestão clássica: sofrem deriva, permanecem opacos e comportam-se de forma não determinista.
• Um programa moderno ancora a gestão do risco de modelos a um inventário central e projeta os seus controlos sobre o Regulamento IA, a norma ISO/IEC 42001 e o NIST AI RMF.

O que é a gestão do risco de modelos?

O risco de modelo é a possibilidade de consequências adversas, sejam perdas financeiras, decisões inadequadas, sanções regulamentares ou danos reputacionais, quando uma decisão assenta num modelo incorreto, mal aplicado ou mal compreendido. A gestão do risco de modelos reúne as políticas, os papéis e os controlos com que uma organização mantém esse risco dentro de um apetite definido, ao longo de todo o ciclo de vida. A definição de referência provém da supervisão bancária norte-americana. Em abril de 2011, a Reserva Federal e o Office of the Comptroller of the Currency publicaram a SR 11-7 (OCC Bulletin 2011-12), que descreve um modelo como um método quantitativo que aplica uma teoria estatística, económica, financeira ou matemática para converter dados de entrada numa estimativa quantitativa. Esse documento tornou-se a referência da disciplina, muito para além do setor bancário. Duas ideias sustentam o conjunto. Em primeiro lugar, todo o modelo é uma aproximação, pelo que o erro é uma propriedade do modelo e não uma falha. Em segundo lugar, o erro só se torna risco quando um modelo alimenta uma decisão. A gestão do risco de modelos concentra, por isso, o esforço onde uma saída errónea provocaria o maior dano, razão pela qual a materialidade, ou seja, o que está em jogo num modelo, ocupa o centro de qualquer programa sério. A mesma lógica sustenta a gestão do risco da IA no seu todo, de que o risco de modelo é uma componente.

Os três pilares: desenvolvimento, validação, governação

A SR 11-7 organizou a disciplina em torno de três pilares que ainda hoje a definem. O desenvolvimento e a implementação abrangem uma conceção sólida, hipóteses documentadas, dados adequados e testes antes da entrada em produção. A validação consiste num questionamento independente e eficaz: uma equipa separada dos programadores verifica a solidez conceptual, a monitorização contínua e a análise de resultados. A governação envolve ambos com políticas, papéis, um inventário e uma responsabilidade clara, para que a organização saiba que modelos existem, quem responde por eles e como são controlados. Estes pilares sobrepõem-se ao mapeamento mais amplo do risco da IA que as equipas de governação hoje acompanham.

De onde vem o risco de modelo

O risco de modelo tem quatro fontes recorrentes, cada uma amplificada quando o modelo é um sistema de machine learning. Os dados. Um modelo vale o que valem os dados de que aprende e com que opera. Lacunas de amostragem, erros de rotulagem, variáveis obsoletas e populações não representativas propagam-se todos para as saídas. A aprendizagem automática alarga esta exposição, pois os modelos absorvem os defeitos de qualidade em grande escala e reproduzem-nos em cada previsão. A conceção e as hipóteses. Todo o modelo codifica pressupostos sobre o mundo. Quando estes deixam de ser válidos, por exemplo um modelo de scoring construído sobre comportamentos anteriores a um choque, as saídas degradam-se ainda que o código permaneça inalterado. A implementação. Os erros entram na codificação, na integração ou na colocação em produção: um pipeline de variáveis desalinhado, uma diferença de arredondamento entre o treino e a produção, ou uma atualização de biblioteca que passa despercebida. Estes defeitos escapam com facilidade, porque o modelo continua a devolver números plausíveis. A utilização e o uso indevido. As maiores perdas resultam muitas vezes de um modelo empregue fora da sua finalidade, considerado fiável para além do intervalo testado, ou cujos limites são ignorados. Um enunciado de âmbito claro e instruções de utilização são controlos, e não burocracia.

Da SR 11-7 à SR 26-2: o que mudou em 2026

Durante quinze anos, a SR 11-7 foi o ponto fixo da prática. Isso mudou a 17 de abril de 2026, quando a Reserva Federal, o OCC e a FDIC publicaram a SR 26-2, uma orientação interagências revista sobre a gestão do risco de modelos que substitui a SR 11-7. A direção é baseada no risco e escalável. Os supervisores esperam agora que a profundidade de um programa corresponda à dimensão, à complexidade e ao perfil de risco da instituição, um esclarecimento dirigido às entidades mais pequenas e menos complexas. A mudança operacional mais relevante é que a revalidação anual obrigatória dá lugar a uma supervisão ligada à materialidade dos modelos, de modo que o esforço de validação segue o que está em jogo e não o calendário. A SR 26-2 estreita ainda o que conta como modelo, excluindo os cálculos aritméticos simples das folhas de cálculo, os processos deterministas baseados em regras e o software comum. A orientação diz respeito sobretudo aos bancos com ativos superiores a 30 mil milhões de dólares, é explicitamente não vinculativa e é acompanhada pelo OCC Bulletin 2026-13. Para as instituições reguladas, é a oportunidade de abandonar as tarefas ditadas pelo calendário e reinvestir a capacidade de validação onde o risco de modelo é realmente elevado. Para as restantes, o sinal é claro: o controlo passará a ser proporcionado e fundado em evidências, e não uniforme. A mesma abordagem orientada pela materialidade percorre os programas modernos de conformidade e gestão do risco.

A lacuna da IA generativa deixada pela SR 26-2

Existe um limite deliberado. A SR 26-2 mantém a IA generativa e a IA agente fora do seu âmbito, com o fundamento de que estas tecnologias são recentes e evoluem depressa. A escolha é defensável, mas deixa a categoria de modelos que mais depressa cresce sem uma norma de MRM dedicada por parte dos reguladores bancários norte-americanos. Quem utiliza grandes modelos de linguagem ou agentes de IA autónomos não pode esperar pela próxima revisão. Estas organizações têm de estender desde já os princípios da disciplina a esses sistemas, com recurso aos quadros de governação concebidos precisamente para esse fim.

Porque a IA e o machine learning quebram a MRM tradicional

A MRM tradicional foi pensada para modelos relativamente estáveis, inspecionáveis e deterministas. O machine learning e os sistemas generativos violam as três hipóteses, pelo que as equipas de validação não podem reutilizar tal e qual o método antigo. O não determinismo. Um modelo generativo pode devolver saídas diferentes para o mesmo pedido. Os métodos de validação construídos em torno de um único resultado esperado não se transferem para sistemas probabilísticos por conceção. A deriva. Os modelos de ML degradam-se à medida que o mundo se afasta da sua distribuição de treino. Sem monitorização contínua, um modelo validado de forma limpa no lançamento torna-se silenciosamente pouco fiável. A opacidade. Os modelos complexos resistem à inspeção, o que complica a revisão da solidez conceptual e colide com as expectativas regulamentares em matéria de explicabilidade. Os revisores nem sempre conseguem reconstituir a razão de uma saída. Enviesamento e exposição adversarial. Os modelos treinados com dados mal governados herdam os enviesamentos e amplificam-nos, e os sistemas generativos acrescentam a injeção de instruções e a evasão, que a validação tradicional nunca considerou. Fuga de dados e proveniência. Quando os dados de treino são mal governados, informação sensível pode ressurgir nas saídas, e a organização pode revelar-se incapaz de provar com que um modelo foi treinado. O caso mais agudo continua a ser o principal risco da IA generativa, a alucinação, em que uma saída fluente e segura é simplesmente falsa.

A gestão do risco de modelos encontra a governação da IA

A lacuna deixada pela supervisão bancária é colmatada por três instrumentos de governação, que um programa maduro trata como um único conjunto de controlos e não como três auditorias separadas. O Regulamento IA da União Europeia traduz em lei obrigações próximas da disciplina para os sistemas de risco elevado. Os prestadores devem operar um sistema de gestão de riscos ao longo do ciclo de vida (Artigo 9.º), aplicar uma governação de dados (Artigo 10.º), manter documentação técnica (Anexo IV), assegurar a supervisão humana (Artigo 14.º) e cumprir os requisitos de exatidão, solidez e cibersegurança (Artigo 15.º), antes de passar uma avaliação da conformidade (Artigo 43.º). O guia operacional do Regulamento IA precisa como estes deveres são repartidos. O NIST AI RMF propõe uma estrutura voluntária assente em quatro funções, Govern, Map, Measure e Manage, que se alinham naturalmente com o desenvolvimento, a validação e a monitorização. O nosso guia do NIST AI RMF percorre cada função. A norma ISO/IEC 42001 oferece um sistema de gestão da IA certificável, dotado de controlos no Anexo A e de um ciclo de certificação de três anos, o que dá à disciplina uma sede auditável, como explica a nossa apresentação da ISO 42001. Até os supervisores setoriais convergem para as mesmas expectativas. O Guia do BCE sobre modelos internos, revisto em julho de 2025, acrescentou uma secção dedicada ao machine learning que aborda a explicabilidade, a relação entre desempenho e complexidade, a validação e a gestão do risco de modelos para os bancos que utilizam ML nos seus modelos internos regulamentares.

Um único conjunto de controlos para todos os quadros

Os quadros sobrepõem-se mais do que divergem. Um único exercício de validação pode satisfazer em simultâneo o questionamento eficaz da SR 26-2, o Artigo 9.º do Regulamento IA, a função Measure do NIST e os controlos de monitorização da ISO 42001, desde que a evidência seja recolhida uma só vez e ligada a cada requisito. A nossa correspondência entre NIST AI RMF, ISO 42001 e Regulamento IA mostra onde os requisitos se encontram, de modo a evitar executar três vezes o mesmo controlo.

Construir um programa moderno de gestão do risco de modelos

Um programa que abrange os modelos tradicionais e os de IA assenta em três fundações operacionais.

O inventário de modelos como fundação

Não se governa o que não se inventariou. Um inventário completo, que regista cada modelo com o respetivo responsável, finalidade, materialidade, fontes de dados e estado de validação, é a precondição de qualquer outro controlo. O problema mais difícil não são os modelos que as TI conhecem, mas os que lhes escapam: folhas de cálculo, cadernos e ferramentas de IA de terceiros que compõem a shadow AI. Um registo que descobre e acompanha estes sistemas transforma a disciplina, de um exercício periódico numa capacidade viva.

As três linhas de defesa aplicadas aos modelos de IA

Uma MRM eficaz separa as funções. A primeira linha, responsáveis e programadores dos modelos, constrói e documenta. A segunda linha, validação independente e função de risco, contesta e aprova. A terceira linha, a auditoria interna, verifica que o próprio processo funciona. Para os modelos de IA, esta estrutura exige uma profundidade transversal, pois um único sistema generativo pode levantar em simultâneo questões de governação de dados, de segurança e de ética.

Validação e monitorização contínuas

Como os modelos de ML sofrem deriva, a validação não pode ser um portão único. Um programa moderno monitoriza de forma contínua o desempenho, a estabilidade dos dados e os resultados, e revalida quando a materialidade ou o comportamento mudam, em vez de o fazer numa data fixa. É exatamente a abordagem fundada na materialidade que a SR 26-2 agora incentiva, aplicada a sistemas que mudam mais depressa do que qualquer ciclo anual consegue acompanhar. Constituir este rasto de evidências é também o que torna um sistema auditável.

A gestão do risco de modelos para além da banca

A disciplina nasceu nas finanças, mas a obrigação estende-se a todos os setores que utilizam uma IA com consequências. As seguradoras modelam a tarifação e as provisões, a saúde modela a triagem e o diagnóstico, o setor público modela a elegibilidade e a fiscalização, cada um com implicações humanas reais. O Regulamento IA não distingue se um modelo de risco elevado reside num banco ou num hospital: os deveres de gestão de riscos, documentação e supervisão aplicam-se do mesmo modo. Em consequência, a gestão do risco de modelos torna-se um requisito geral da governação da IA em vez de uma especialidade bancária, e as organizações que já dispõem de uma função madura partem em vantagem na conformidade.

Perguntas frequentes

Quais são os três pilares da gestão do risco de modelos? Os três pilares provêm da SR 11-7: desenvolvimento e implementação, validação e governação. O desenvolvimento cobre uma conceção sólida, hipóteses documentadas e testes. A validação é o questionamento independente e eficaz da solidez conceptual, da monitorização e dos resultados de um modelo. A governação fornece as políticas, os papéis, o inventário e a responsabilidade que mantêm o programa coeso. A SR 26-2 conserva esta lógica, tornando porém a intensidade de cada pilar proporcional à materialidade. Qual é a diferença entre a SR 11-7 e a SR 26-2? A SR 11-7 (2011) foi a orientação norte-americana fundadora sobre a gestão do risco de modelos. A SR 26-2, publicada a 17 de abril de 2026 pela Reserva Federal, pelo OCC e pela FDIC, substitui-a. As mudanças principais são a passagem da revalidação anual obrigatória para uma supervisão ligada à materialidade, uma definição mais estreita do que conta como modelo e expectativas proporcionadas à dimensão da instituição. A SR 26-2 exclui ainda a IA generativa e agente do seu âmbito formal. A gestão do risco de modelos aplica-se à IA generativa? Ainda não pela via da supervisão bancária norte-americana, e é precisamente essa a lacuna a vigiar. A SR 26-2 deixa de fora a IA generativa e agente. Na prática, as organizações estendem os princípios da disciplina a estes sistemas através do Regulamento IA, do NIST AI RMF e da ISO/IEC 42001, que tratam diretamente os modelos de IA. Os sistemas generativos exigem ainda controlos contra o não determinismo, a deriva, a opacidade e os ataques baseados em instruções, que a validação tradicional nunca previu. Qual é um exemplo de risco de modelo? Um exemplo clássico é um modelo de scoring de crédito treinado numa economia estável que continua a aprovar empréstimos enquanto as condições se deterioram, porque as suas hipóteses deixaram de ser válidas. Um exemplo moderno é um modelo generativo que produz uma resposta segura mas inventada, uma alucinação, que um processo a jusante trata como um facto. Em ambos os casos, a perda não nasce da existência do modelo, mas de uma decisão tomada sobre uma saída deficiente. Como se relaciona a gestão do risco de modelos com o Regulamento IA? O Regulamento IA transforma as práticas centrais da disciplina em obrigações legais para os sistemas de risco elevado. O Artigo 9.º impõe um sistema de gestão de riscos ao longo do ciclo de vida, o Artigo 10.º uma governação de dados, o Anexo IV documentação técnica, o Artigo 14.º supervisão humana e o Artigo 15.º exatidão e solidez, tudo confirmado pela avaliação da conformidade do Artigo 43.º. Uma organização com uma função de MRM operacional já realiza a maioria destas atividades e pode associá-las ao Regulamento em vez de começar do zero. Quem é responsável pela gestão do risco de modelos? A responsabilidade reparte-se por três linhas de defesa. Os responsáveis e programadores dos modelos constroem e documentam. Uma função independente de validação ou de risco contesta e aprova. A auditoria interna verifica que o processo global funciona. A direção de topo e o conselho assumem o apetite de risco e o próprio quadro. Para os modelos de IA, esta estrutura requer normalmente o contributo das funções de dados, segurança e ética, pois um único sistema pode tocar as três dimensões.

Conclusão

A gestão do risco de modelos passou de uma especialidade bancária estável ao tecido conjuntivo entre a disciplina dos modelos quantitativos e a governação da IA. A SR 26-2 modernizou a expectativa norte-americana, mas ao deixar de fora a IA generativa e agente tornou clara uma coisa: são agora os quadros que governam os modelos de IA, o Regulamento IA, a ISO/IEC 42001 e o NIST AI RMF, que suportam o peso. As organizações vencedoras tratá-los-ão como um único conjunto de controlos, ancorado a um inventário vivo que vê cada modelo, incluindo aqueles que ninguém declarou. É aí que a gestão do risco de modelos e a governação da IA se tornam um mesmo programa. Veja como uma abordagem baseada num registo coloca os seus modelos sob o controlo da governação da IA.