NIST AI Risk Management Framework: guia operacional para equipas de governance de IA

O essencial

• O NIST AI Risk Management Framework (AI RMF 1.0) é um quadro voluntário e intersectorial, publicado pelo National Institute of Standards and Technology dos Estados Unidos a 26 de janeiro de 2023, articulado em quatro funções: Govern, Map, Measure, Manage.
• Assenta em sete características da IA digna de confiança: válida e fiável, segura (safety), segura e resiliente (security), responsável e transparente, explicável e interpretável, respeitadora da privacidade, e justa com gestão ativa de enviesamentos prejudiciais.
• A sua maior utilidade surge quando é utilizado como motor operacional dentro de um programa regulatório mais alargado (Regulamento da IA, ISO/IEC 42001, regimes setoriais), e não como sistema certificável isolado.
• O Generative AI Profile (NIST AI 600-1) estende o RMF com doze categorias de risco próprias da IA generativa e mais de 200 ações recomendadas para modelos de fundação.
• Para responsáveis pela implementação em território europeu, as funções do RMF alinham-se diretamente com os artigos 9.º, 17.º, 26.º, 55.º, 72.º e 73.º do Regulamento (UE) 2024/1689, transformando uma orientação voluntária americana em evidências verificáveis perante a União Europeia.

O que é, de facto, o NIST AI Risk Management Framework

O NIST AI Risk Management Framework, abreviado como AI RMF ou AI RMF 1.0, é um documento de orientação voluntário elaborado pelo National Institute of Standards and Technology norte-americano. A publicação ocorreu em 26 de janeiro de 2023, em resposta ao Executive Order 13859, sendo posteriormente reafirmada pelo Executive Order 14110 enquanto pilar da doutrina federal dos EUA em matéria de IA (NIST AI 100-1).

Três propriedades caracterizam o quadro. É voluntário: nenhuma organização está obrigada a adotá-lo, e nenhuma autoridade aplica sanções por incumprimento. É intersectorial: o mesmo núcleo aplica-se a um modelo de scoring de crédito, a um dispositivo de apoio ao diagnóstico médico e a um assistente generativo. É ainda sociotécnico: o risco da IA é tratado como propriedade do sistema homem-máquina, não do algoritmo em si.

O RMF inscreve-se num programa NIST mais amplo. Dois artefactos complementares acompanham o documento central e, no quotidiano operacional, têm um peso equivalente.

Os três artefactos complementares: RMF 1.0, GenAI Profile e Playbook

O AI RMF 1.0 Core (NIST AI 100-1) constitui o documento fundador. Descreve as quatro funções, as sete características de confiança e os papéis de AI Actor distribuídos pelo ciclo de vida.

O AI RMF Playbook (airc.nist.gov) é o companheiro operacional. A cada subcategoria (por exemplo, GOVERN 1.1 ou MEASURE 2.6) estão associadas ações concretas, referências de transparência e documentação, e recursos externos. O Playbook é atualizado cerca de duas vezes por ano, sendo, na prática, o ponto de entrada preferido das equipas de terreno.

O Generative AI Profile (NIST AI 600-1), publicado a 26 de julho de 2024, é um perfil intersectorial do RMF dedicado à IA generativa. Identifica doze categorias de risco próprias ou agravadas pelos sistemas generativos e atribui a estas mais de 200 ações, sempre articuladas com as quatro funções do núcleo.

No trabalho diário, uma equipa de governance de IA escolhe entre os três documentos consoante o tipo de questão: o Core para a taxonomia, o Playbook para ações concretas, e o GenAI Profile para modelos de fundação e assistentes generativos.

As sete características da IA digna de confiança

O RMF identifica sete características a que um sistema de IA se deve aproximar para merecer o qualificativo de digno de confiança. Não se trata de etapas nem de níveis de maturidade: aplicam-se em simultâneo, e os trade-offs entre elas correspondem a opções de conceção assumidas.

Válida e fiável significa que o sistema se comporta conforme previsto em condições reais de funcionamento, e que esse desempenho não se degrada de forma silenciosa. A evidência constrói-se mediante estudos de validação, monitorização de desvio (drift) e estatísticas de fiabilidade publicadas sobre a distribuição de teste retida.

Segura (safety) procura evitar pôr em perigo pessoas, saúde, bens e ambiente, mesmo quando o comportamento do sistema é nominalmente correto. As revisões de safety incidem sobre os modos de falha que o modelo não deteta por si próprio, como entradas fora da distribuição ou prompts adversários.

Segura e resiliente (security) trata da resistência a ataques e da capacidade de recuperação após incidente. É aqui que a taxonomia de aprendizagem adversária (NIST AI 100-2 E2025) fornece o catálogo de testes, e que as equipas de segurança ligam os sistemas de IA aos playbooks de incident response já existentes.

Responsável e transparente liga cada decisão a uma pessoa identificável. O quadro interroga a cadeia de responsabilidade entre conceção, implementação, operação e retirada, bem como a sua visibilidade para as pessoas afetadas pelas saídas do sistema.

Explicável e interpretável separa o porquê (contrafactuais, atribuição, importância de variáveis) do como (mecânica interna do modelo). As duas dimensões são tratadas em separado.

Respeitadora da privacidade remete para os controlos do NIST SP 800-53 e para o NIST Privacy Framework. Em contexto europeu, a dimensão sobrepõe-se diretamente ao artigo 35.º do RGPD (avaliação de impacto sobre a proteção de dados), tal como ao perfil das investigações da Comissão Nacional de Proteção de Dados.

Justa com gestão ativa de enviesamentos prejudiciais apoia-se na taxonomia do NIST SP 1270 (Identifying and Managing Bias in AI). O enquadramento é relevante: o NIST não promete sistemas isentos de enviesamento; pede aos operadores que os identifiquem, mensurem e giram como atividade contínua.

Para um departamento de auditoria interna, cada característica torna-se uma família de controlos verificável. Uma afirmação-tipo é: válida e fiável, atestada por monitorização trimestral de desvio com limiares definidos, um estudo de validação com menos de doze meses, e uma estatística de fiabilidade publicada na ficha do modelo.

As quatro funções do núcleo: Govern, Map, Measure, Manage

O Core constitui o motor do quadro. Quatro funções sucedem-se e voltam a percorrer-se continuamente ao longo do ciclo de vida, articuladas em categorias e subcategorias com resultados precisos.

Govern: cultura de risco, papéis e responsabilidades

Govern é a função por onde as equipas começam e à qual regressam com maior frequência. Estabelece a cultura organizacional, as políticas, os processos e as estruturas de responsabilidade que tornam viáveis as restantes funções.

As subcategorias cobrem as políticas e procedimentos do ciclo de vida da IA (GOVERN 1.1), os requisitos legais e regulamentares (GOVERN 1.2), a integração das características de confiança nos valores corporativos (GOVERN 1.4), os papéis e responsabilidades de gestão do risco (GOVERN 2.1, 2.2, 2.3) e a responsabilização pelas decisões de risco (GOVERN 3.1, 3.2). Numa revisão de governance, é nesta função que se concentram, em regra, as maiores divergências.

Map: contexto, perfil, impactos previsíveis

Map captura o contexto operacional. Antes de qualquer avaliação, a equipa identifica os AI Actors envolvidos, o caso de uso em linguagem corrente, o ambiente de implementação, as populações afetadas, e os benefícios e prejuízos previsíveis.

As categorias de Map abordam a fixação do contexto (MAP 1), a categorização do sistema (MAP 2), a avaliação de capacidades e uso pretendido (MAP 3) e a identificação de riscos ao longo do ciclo (MAP 4, MAP 5). A sua saída alimenta todas as restantes funções.

Measure: métodos para avaliar os riscos identificados

Measure aplica métodos quantitativos e qualitativos aos riscos vindos de Map. A função mantém-se deliberadamente agnóstica quanto à escolha metodológica: um teste de regressão, uma estatística de equidade, uma sessão de red teaming, um teste A/B em produção e uma revisão humana estruturada são todos válidos, desde que produzam evidência comparável ao longo do tempo.

As categorias cobrem a escolha dos métodos (MEASURE 1), a avaliação das características de confiança (MEASURE 2), o acompanhamento de riscos e benefícios no tempo (MEASURE 3), e as retroações para as funções a montante (MEASURE 4).

Manage: priorização, tratamento, recuperação

Manage fecha o ciclo. Os riscos identificados e medidos são priorizados, tratados (aceitar, reduzir, transferir, evitar) e reavaliados. A função inclui expressamente a recuperação e a comunicação de crise, porque os sistemas de IA falham de formas que os quadros de risco clássicos não antecipam.

As categorias cobrem o tratamento (MANAGE 1, MANAGE 2), a monitorização e as alterações (MANAGE 3) e a comunicação das decisões (MANAGE 4).

O Generative AI Profile (NIST AI 600-1) e os doze riscos GAI

Para qualquer organização que implemente ou desenvolva sobre modelos de fundação, NIST AI 600-1 constitui a referência operacional. O perfil enumera doze categorias de risco próprias ou agravadas pela IA generativa:

1. Informação ou capacidades CBRN (química, biológica, radiológica, nuclear)
2. Confabulação (o chamado problema das alucinações)
3. Conteúdos perigosos, violentos ou hostis
4. Proteção de dados pessoais (extração de dados de treino, inversão, inferência de pertença)
5. Impactos ambientais (computação, água)
6. Enviesamento prejudicial e homogeneização
7. Configuração humano-IA (excesso de confiança, viés de automatização, antropomorfização)
8. Integridade da informação (media sintética, deepfakes, rastreabilidade)
9. Segurança da informação (injeção de prompts, roubo de modelo, exfiltração de dados)
10. Propriedade intelectual (direitos de autor, atribuição, licenças)
11. Conteúdos obscenos ou degradantes (incluindo imagens íntimas não consentidas)
12. Cadeia de valor e integração de componentes (risco de terceiros sobre modelos, conjuntos de dados, ferramentas)

Cada categoria é reconduzida a Govern, Map, Measure e Manage por meio de ações concretas, conferindo ao perfil o caráter de uma checklist fundamentada para a implementação de modelos de fundação. Os programas já ativos no Core acrescentam o perfil como camada complementar logo que o primeiro sistema generativo entre no inventário.

Mapeamento do NIST AI RMF para o Regulamento (UE) 2024/1689 (Regulamento da IA)

O RMF é voluntário; o Regulamento (UE) 2024/1689 (Regulamento da IA) é vinculativo. Ambos foram pensados para permanecer compatíveis, e um fornecedor ou responsável pela implementação que já opere sobre o RMF herda a maior parte das obrigações europeias sem custo documental adicional significativo.

Govern alinha-se com o artigo 17.º (sistema de gestão da qualidade) e com o artigo 26.º (obrigações dos responsáveis pela implementação). A função Govern exige políticas, procedimentos, papéis e responsabilidades. O artigo 17.º impõe um SGQ documentado com doze componentes especificados. A sobreposição é tão próxima que a documentação das subcategorias Govern satisfaz, linha a linha, os requisitos de evidência do SGQ.

Map alinha-se com o artigo 9.º (sistema de gestão dos riscos) e com o anexo IV (documentação técnica). O artigo 9.º exige a identificação e a análise dos riscos conhecidos e razoavelmente previsíveis. Map produz exatamente esse resultado, juntamente com o mapeamento de AI Actors esperado pelo dossiê técnico do anexo IV.

Measure alinha-se com os artigos 9.º, 14.º e 15.º (entradas da vigilância pós-comercialização, evidência de supervisão humana, e requisitos de exatidão, robustez e cibersegurança). Cada subcategoria MEASURE produz evidência útil.

Manage alinha-se com os artigos 9.º, 72.º e 73.º (tratamento dos riscos, sistema de vigilância pós-comercialização, comunicação de incidentes graves). O ciclo Manage corresponde precisamente àquilo que o Regulamento da IA espera dos fornecedores.

Para os modelos de IA de uso geral, o GenAI Profile encaixa no artigo 55.º (obrigações dos fornecedores de modelos GPAI com risco sistémico) e no código de boas práticas que o operacionaliza.

A consequência prática é clara. Para uma equipa que arranca um programa Regulamento da IA de raiz, tratar o NIST AI RMF como modelo operacional e os artigos do Regulamento como envoltura regulatória poupa meses de trabalho duplicado.

Mapeamento do NIST AI RMF para a ISO/IEC 42001

O NIST publicou um crosswalk oficial entre AI RMF 1.0 e ISO/IEC 42001, a norma internacional de sistema de gestão de IA publicada em dezembro de 2023.

Os dois documentos respondem a finalidades distintas e complementam-se. ISO/IEC 42001 fornece um sistema de gestão certificável: os capítulos 4 a 10 retomam a estrutura conhecida das normas de gestão (contexto, liderança, planeamento, suporte, operação, avaliação do desempenho, melhoria), enriquecida com os controlos específicos de IA do anexo A. O RMF fornece o ciclo dinâmico de gestão do risco que vive dentro desse sistema.

O padrão de implementação corrente é o seguinte: os capítulos da ISO 42001 funcionam como esqueleto de governance (política, âmbito, compromisso da direção, auditoria interna), enquanto as subcategorias do RMF marcam o ritmo operacional. Em conjunto, formam um programa simultaneamente certificável (ISO) e adaptativo (RMF).

Modelo operacional passo a passo para integrar o RMF

O padrão em cinco passos a seguir descreve como as equipas maduras de governance de IA transformam um quadro num programa efetivo. É a mesma lógica automatizada pela plataforma AI Sigil, seja qual for o ancoradouro normativo (Regulamento da IA, ISO 42001, regime setorial).

1. Inventariar os sistemas de IA e identificar os AI Actors. Construir um registo de cada sistema de IA detido, desenvolvido ou implementado pela organização. Para cada um, listar os AI Actors ao longo do ciclo: projetistas, programadores, responsáveis pela implementação, avaliadores, utilizadores finais, populações afetadas. É a função Map no seu estado puro.
2. Etiquetar cada sistema segundo as características de confiança relevantes. Nem todas as características se aplicam por igual a todos os sistemas. Um modelo de scoring de crédito coloca «justa com gestão ativa de enviesamentos prejudiciais» em primeiro plano; um assistente de geração de código prioriza «segura e resiliente (security)» e «propriedade intelectual». Etiquetar a tempo evita o assinalar de quadrados mais tarde.
3. Abrir a entrada do Playbook de cada subcategoria e traduzir as ações sugeridas em controlos. É nesta etapa que o programa se torna auditável. Cada entrada do Playbook gera três a sete controlos candidatos. Reter os que correspondem ao perfil de risco do sistema, inscrevê-los no catálogo de controlos, e religar cada um à subcategoria de origem.
4. Encaixar os controlos no mapeamento para Regulamento da IA, ISO 42001 ou regime setorial. Cada controlo deve resolver pelo menos um requisito normativo ou regulamentar. Sem destino, o controlo é muito provavelmente supérfluo. Um requisito sem controlo, em contrapartida, sinaliza uma lacuna do programa.
5. Operar o ciclo de vigilância pós-comercialização com evidência documentada. Indicadores de desvio, fichas de incidente, retornos de utilizadores, decisões de gestão de mudança e resultados de reavaliação convertem-se em linhas de evidência ligadas aos controlos. A função Manage vive neste ciclo.

O ciclo é contínuo, nunca anual. O Playbook evolui, os modelos mudam, o quadro normativo move-se, e o perfil de risco do sistema desloca-se com o tempo.

O que o RMF não faz (limites assumidos)

Um programa maduro é honesto quanto àquilo que o RMF não substitui.

Não fornece qualquer esquema de certificação. Nenhum terceiro certifica a conformidade com o RMF; não existe logótipo, nem norma de auditoria, nem corpo de avaliadores acreditados. As organizações que precisem de uma prova certificável continuam a depender da ISO/IEC 42001.

Não prevê aplicação coerciva nem sanções. O NIST é um organismo de normalização, não uma autoridade de fiscalização. A não adoção do RMF não gera multa, e a sua adoção não oferece cobertura jurídica.

Não define uma categoria jurídica de sistema de IA de alto risco. Essa definição reside no anexo III do Regulamento da IA para o mercado europeu, e nas regulações setoriais noutros pontos do globo. O RMF pode descrever como tratar um sistema de alto risco, mas não pode determinar se o vosso é um.

Não realiza qualquer avaliação da conformidade reconhecida pelos organismos notificados europeus. As avaliações da conformidade do artigo 43.º para sistemas de IA de alto risco apoiam-se em normas harmonizadas (CEN-CENELEC) e na intervenção de um organismo notificado; o RMF situa-se a montante desse processo, sem fazer parte dele.

Utilizado dentro destes limites, o RMF é a referência de governance de IA mais operável hoje disponível. Saindo destes limites, fabrica falsa confiança.

Perguntas frequentes

O que é o NIST AI Risk Management Framework?

O NIST AI Risk Management Framework é um documento de orientação voluntária publicado pelo National Institute of Standards and Technology norte-americano em janeiro de 2023. Ajuda as organizações a conceber, desenvolver, implementar e operar sistemas de IA, gerindo riscos para pessoas, organizações e sociedade. Articula-se em quatro funções (Govern, Map, Measure, Manage), ancoradas em sete características da IA digna de confiança.

Quais são os quatro tipos de risco de IA segundo o quadro NIST?

O RMF não enumera quatro tipos de risco. O número quatro refere-se às quatro funções do quadro (Govern, Map, Measure, Manage), que descrevem atividades, não categorias de risco. As categorias propriamente ditas são formuladas através das sete características de confiança e, para os sistemas generativos, dos doze riscos do NIST AI 600-1.

O NIST AI RMF é obrigatório?

Não. O quadro é explicitamente voluntário. As agências federais norte-americanas são encorajadas a adotá-lo através do Executive Order 14110, mas as organizações privadas não têm obrigação legal. É precisamente este estatuto voluntário que leva as equipas a articulá-lo com regimes vinculativos como o Regulamento da IA, ou com normas certificáveis como a ISO/IEC 42001.

Qual a diferença entre ISO 42001 e o NIST AI Risk Management Framework?

ISO/IEC 42001 é uma norma certificável de sistema de gestão de IA, modelada na estrutura da ISO 9001 ou da ISO 27001, com capítulos obrigatórios e controlos do anexo A. O NIST AI RMF é uma guia voluntária centrada no ciclo de gestão do risco. Foram pensados para interoperar: a ISO 42001 fornece o esqueleto certificável (política, liderança, âmbito, auditoria interna), enquanto o NIST RMF anima o ciclo dinâmico de risco dentro do sistema de gestão. O NIST publicou um crosswalk oficial entre ambos.

Como se relaciona o Generative AI Profile (NIST AI 600-1) com o RMF?

O Profile complementa o RMF, não o substitui. Aplica as funções do Core a doze categorias de risco específicas da IA generativa e atribui a cada uma mais de 200 ações, sempre ligadas a Govern, Map, Measure e Manage. Os programas que já operam sobre o RMF acrescentam o Profile assim que o primeiro sistema generativo ou modelo de fundação entra no inventário.

Como se compara o NIST AI RMF com o Regulamento da IA?

Os dois desempenham papéis distintos. O Regulamento da IA é direito europeu vinculativo: obrigações expressas, coimas que podem atingir 35 milhões de euros ou 7 % do volume de negócios mundial nas infrações mais graves, avaliações da conformidade para os sistemas de alto risco e uma estrutura de autoridades de fiscalização do mercado. O NIST AI RMF, em contrapartida, é voluntário. Na prática continuam altamente compatíveis: Govern alinha-se com os artigos 17.º e 26.º, Map com o artigo 9.º e com o anexo IV, Measure com os artigos 9.º, 14.º e 15.º, Manage com os artigos 9.º, 72.º e 73.º, e o GenAI Profile com o artigo 55.º. Uma equipa que conduza um programa Regulamento da IA pode apoiar-se no RMF como modelo operacional.

Conclusão

O NIST AI Risk Management Framework é em 2026 a referência de governance de IA mais operável ao alcance das equipas de terreno. As quatro funções, as sete características de confiança, o GenAI Profile e o Playbook vivo oferecem um vocabulário coerente, um inventário de ações sugeridas e um ciclo de retorno que resiste à velocidade de mutação dos modelos.

O uso adequado consiste em transformá-lo no motor operacional dentro de um programa regulatório mais alargado. O Regulamento da IA para o mercado europeu, a ISO/IEC 42001 para a prova certificável, as regulações setoriais quando aplicáveis, e o RMF como tecido conjuntivo que converte norma em trabalho diário.

A AI Sigil mapeia cada subcategoria do RMF nos controlos já existentes, nas obrigações do Regulamento da IA e nos capítulos da ISO/IEC 42001 dentro de uma única plataforma, para que o ciclo entre norma, controlo e evidência deixe de ser um exercício de folha de cálculo. Saiba como em aisigil.com.