O essencial
- A estrutura de gestão de riscos do NIST (
SP 800-37) é um processo de sete passos para os riscos de segurança e privacidade dos sistemas de informação, concebido na origem para as agências federais dos EUA ao abrigo da lei FISMA. - Os seus sete passos são Preparar, Categorizar, Selecionar, Implementar, Avaliar, Autorizar e Monitorizar, conduzidos como um ciclo contínuo e não como uma auditoria pontual.
- A NIST RMF não é o mesmo que a NIST AI RMF (
AI 100-1): uma governa a segurança dos sistemas de informação, a outra os riscos próprios da inteligência artificial. - Para os sistemas de IA, a RMF clássica continua a sustentar a governação e a monitorização, enquanto a NIST AI RMF e os novos perfis de controlo
SP 800-53cobrem os riscos que a estrutura de cibersegurança nunca foi concebida para detetar. - Em conjunto, a RMF, a NIST AI RMF, a norma ISO/IEC 42001 e o artigo 9.º do Regulamento da IA da UE oferecem uma forma coerente de governar o risco da IA ao longo de todo o ciclo de vida.
O que é a estrutura de gestão de riscos do NIST?
A estrutura de gestão de riscos do NIST é o processo estruturado com que as agências federais dos EUA identificam, implementam, avaliam e monitorizam os controlos de segurança e privacidade dos seus sistemas de informação. Está definida na publicação especial NIST 800-37 revisão 2 e constitui o eixo com que essas agências cumprem as obrigações da lei federal FISMA.
Duas ideias dão à estrutura o seu caráter. Primeiro, é um processo, não uma lista fixa de controlos. A SP 800-37 descreve como chegar a decisões baseadas no risco; os controlos em si provêm de um catálogo complementar, a SP 800-53. Segundo, é um ciclo de vida. Os controlos são selecionados, implementados, avaliados, autorizados e depois vigiados de forma contínua, de modo que uma autorização de operação reflita o risco atual e não um instantâneo de há dois anos.
Embora redigida para o Estado, a sua lógica transpõe-se bem. As equipas de segurança e de conformidade do setor privado adotam a RMF porque oferece um método defensável e repetível para ligar os controlos ao impacto real de uma falha e para documentar quem aceitou que risco e por que motivo.
NIST RMF e NIST AI RMF: esclarecer a confusão
Como ambas usam o nome NIST e falam de risco, a NIST RMF e a NIST AI RMF são constantemente confundidas. São duas estruturas distintas, com âmbitos diferentes.
A NIST RMF (SP 800-37) gere a segurança e a privacidade dos sistemas de informação: confidencialidade, integridade, disponibilidade e os controlos que as protegem. A NIST AI Risk Management Framework, publicada como NIST AI 100-1, gere os riscos próprios da inteligência artificial: qualidade dos dados, comportamento dos modelos, enviesamentos, explicabilidade e, em sentido mais amplo, os danos sociotécnicos que um sistema de IA pode causar mesmo quando a sua infraestrutura está perfeitamente segura. Um modelo pode correr numa plataforma reforçada e devidamente autorizada segundo a SP 800-37 e ainda assim discriminar, derivar ou induzir em erro. É precisamente essa lacuna que justifica a NIST AI RMF e que obriga as equipas de IA a adotar ambos os olhares.
Os sete passos da NIST RMF
A RMF atual tem sete passos. As versões anteriores descreviam seis, antes de o passo Preparar ser acrescentado na revisão 2 para colocar a governação e o enquadramento no início.
- Preparar. Estabelecer o contexto organizacional: governação, funções, tolerância ao risco e os limites de cada sistema. A preparação garante que todos compreendem as suas responsabilidades antes de escolher um controlo.
- Categorizar. Classificar o sistema e a informação que trata pelo impacto potencial, com os níveis baixo, moderado ou elevado da norma FIPS 199. A categorização determina quanta proteção é necessária.
- Selecionar. Escolher os controlos adequados da
SP 800-53em função da categorização e depois ajustá-los ao sistema. - Implementar. Colocar em funcionamento os controlos escolhidos e documentar como cada um é aplicado.
- Avaliar. Testar os controlos para confirmar que estão corretamente implementados e funcionam como previsto, em regra através de um avaliador independente.
- Autorizar. Um responsável de alto nível analisa o risco residual e aceita-o formalmente, concedendo uma autorização de operação.
- Monitorizar. Acompanhar os controlos, o sistema e o panorama de ameaças de forma contínua, devolvendo qualquer alteração aos passos anteriores.
Muitas vezes estes passos são resumidos nas suas atividades técnicas centrais (Categorizar, Selecionar, Implementar, Avaliar, Monitorizar), de onde vem a noção de «cinco componentes» que algumas equipas ainda usam. O modelo completo de sete passos é a referência atual.
Como a RMF se aplica aos sistemas de IA
Um sistema de IA continua a ser um sistema de informação, pelo que grande parte da RMF se aplica diretamente. Continua a categorizar-se pelo impacto, selecionam-se e implementam-se controlos e monitoriza-se após a entrada em serviço. Para o esqueleto de governação (titularidade clara, aceitação documentada do risco, supervisão contínua) a RMF assenta bem e oferece a qualquer equipa de segurança um ponto de partida familiar.
Os limites surgem naquilo que a RMF mede. Os seus controlos foram pensados em torno das preocupações clássicas de confidencialidade, integridade e disponibilidade. Dizem pouco sobre se os dados de treino são representativos, se a exatidão de um modelo se degrada à medida que o mundo muda, se as saídas são explicáveis ou se um sistema produz decisões enviesadas ou prejudiciais. No entanto, esses são riscos de primeira ordem para a IA e, em larga medida, invisíveis para uma revisão puramente SP 800-37.
O NIST colmata parte desta lacuna com perfis de controlo para a IA assentes na SP 800-53, que complementam as bases de controlo existentes com salvaguardas específicas para a IA preditiva, generativa e agentiva. Usados em conjunto com a RMF, os perfis permitem a uma equipa conservar o seu fluxo de autorização consolidado e acrescentar os controlos que a IA realmente exige. Para a maioria das organizações, a via pragmática não é substituir a RMF, mas alargá-la e combiná-la com uma estrutura pensada para o risco da IA. O guia da AI Sigil sobre a integração da NIST AI RMF com a ISO 42001 mostra como é essa combinação na prática.
NIST RMF e NIST AI RMF: uma correspondência
As duas estruturas estão organizadas de forma diferente. A RMF é uma sequência de sete passos. A NIST AI RMF organiza-se em torno de quatro funções executadas em paralelo e de forma contínua: Governar, Mapear, Medir e Gerir. Ver como se alinham ajuda uma equipa que já pratica a RMF a situar o trabalho próprio da IA.
Passo da NIST RMF (SP 800-37) | Função da NIST AI RMF (AI 100-1) | O que significa para um sistema de IA |
|---|---|---|
| Preparar | Governar | Definir funções, políticas e tolerância ao risco de IA; estabelecer a responsabilidade antes de construir modelos. |
| Categorizar | Mapear | Enquadrar o contexto, a finalidade e os possíveis danos do sistema de IA, não apenas a sensibilidade dos dados. |
| Selecionar / Implementar | Gerir | Escolher e aplicar controlos, incluindo os perfis de IA para enviesamento, deriva e transparência. |
| Avaliar | Medir | Testar o sistema com métricas adequadas à IA: exatidão, equidade, explicabilidade, e não apenas a conformidade dos controlos. |
| Autorizar | Governar / Gerir | Aceitar o risco residual da IA com um responsável que compreenda as implicações sociotécnicas. |
| Monitorizar | Medir / Gerir | Acompanhar de forma contínua o desempenho do modelo e os danos emergentes, devolvendo os resultados ao ciclo. |
A correspondência não é um para um, e é esse o ponto. Governar e Medir atravessam todo o ciclo na NIST AI RMF, ao passo que a RMF trata a autorização e a avaliação como passos distintos. Considerar as quatro funções da NIST AI RMF como uma camada contínua sobre a sequência da RMF dá a estrutura da SP 800-37 com a profundidade específica para a IA da AI 100-1. O NIST publica também uma tabela de correspondência entre a NIST AI RMF e a norma ISO/IEC 42001, útil se o seu sistema de gestão da IA assentar nessa norma.
Ligar a estrutura ao Regulamento da IA da UE
Para as organizações abrangidas pelo Regulamento da IA da UE, a RMF e a NIST AI RMF não são apenas boas práticas: ajudam a cumprir uma obrigação legal. O artigo 9.º do Regulamento da IA exige a qualquer prestador de um sistema de IA de risco elevado que estabeleça, implemente, documente e mantenha um sistema de gestão de riscos.
A redação aproxima-se muito do modo como o NIST entende o risco. O artigo 9.º descreve o sistema de gestão de riscos como um processo iterativo contínuo, conduzido ao longo de todo o ciclo de vida do sistema de IA, com revisão e atualização sistemáticas e regulares. O prestador deve identificar os riscos conhecidos e razoavelmente previsíveis, incluindo os decorrentes de uma utilização indevida razoavelmente previsível, adotar medidas de mitigação específicas, apoiar-se nos dados da monitorização pós-comercialização e julgar aceitável o risco residual. É o passo Monitorizar da RMF e as funções Gerir e Medir da NIST AI RMF, expressos sob a forma de lei.
Uma organização que já opera um programa RMF maduro dispõe da maior parte do modelo operacional que o Regulamento espera: decisões de risco documentadas, responsáveis designados, monitorização contínua. O que lhe resta acrescentar é a identificação e a medição dos riscos próprios da IA que a NIST AI RMF fornece, além da disciplina de sistema de gestão da norma ISO/IEC 42001. A AI Sigil detalha a parte jurídica no seu guia sobre a gestão de riscos no Regulamento da IA da UE, e a pirâmide de riscos do Regulamento esclarece que sistemas suportam a obrigação do artigo 9.º.
Estender o seu programa RMF aos sistemas de IA
Se a sua equipa de segurança já opera a RMF, não precisa de começar do zero para a IA. Um caminho prático é o seguinte.
- Inventarie os seus sistemas de IA e faça passar cada um pelos passos Preparar e Categorizar que já utiliza, acrescentando um enquadramento próprio da IA (finalidade, pessoas afetadas, possíveis danos) retirado da função Mapear da NIST AI RMF.
- Acrescente controlos de IA à sua seleção, com os perfis de IA da
SP 800-53e as ações Gerir da NIST AI RMF, para cobrir enviesamento, deriva, qualidade dos dados e transparência. - Alargue as suas métricas de avaliação para que o passo Avaliar meça equidade, exatidão e explicabilidade, e não apenas a implementação dos controlos.
- Estenda a monitorização ao desempenho do modelo e aos danos emergentes após a implementação, o que também é exigido pela monitorização pós-comercialização do Regulamento europeu.
- Documente tudo num único sistema de gestão, idealmente alinhado com a ISO/IEC 42001, para que uma única fonte fiável cubra em conjunto o risco de segurança e o risco da IA.
O objetivo é um único programa de governação, e não dois em paralelo. Fazer passar o risco da IA pelo processo em que a sua organização já confia acelera a adoção e facilita a defesa perante um auditor ou um regulador. A plataforma da AI Sigil foi construída exatamente para isto: mapear os controlos da NIST RMF, da NIST AI RMF, da ISO/IEC 42001 e do Regulamento europeu num único espaço de governação, e o seu guia da ISO/IEC 42001 mostra como a camada de gestão mantém tudo ligado.
Perguntas frequentes
Quais são os sete passos da estrutura de gestão de riscos do NIST? Os sete passos são Preparar, Categorizar, Selecionar, Implementar, Avaliar, Autorizar e Monitorizar. Preparar fixa a governação e o contexto, Categorizar avalia o impacto, Selecionar e Implementar instalam os controlos, Avaliar testa-os, Autorizar aceita o risco residual e Monitorizar acompanha o sistema de forma contínua. As versões anteriores da SP 800-37 contavam seis passos antes de acrescentar Preparar na revisão 2.
Quais são os componentes da gestão de riscos segundo o NIST? As atividades técnicas centrais da RMF são Categorizar, Selecionar, Implementar, Avaliar e Monitorizar, de onde vem a expressão «cinco componentes». O modelo atual emoldura-as com dois passos de governação, Preparar no início e Autorizar antes da operação, para uma estrutura completa de sete passos.
A NIST 800-53 é uma estrutura de gestão de riscos? Não. A SP 800-53 é o catálogo dos controlos de segurança e privacidade. A SP 800-37 é a estrutura de gestão de riscos que indica como selecionar, implementar e avaliar esses controlos. Ambas são pensadas para serem usadas em conjunto: a RMF é o processo e a SP 800-53 a biblioteca de controlos de que se serve.
A NIST RMF é o mesmo que a NIST AI RMF? Não. A NIST RMF (SP 800-37) gere o risco de segurança e privacidade dos sistemas de informação. A NIST AI RMF (AI 100-1) gere riscos próprios da IA, como o enviesamento, a deriva dos modelos e a explicabilidade. São complementares: a maioria das organizações que governam a IA usa ambas.
A NIST RMF pode ser usada por empresas privadas? Sim. A estrutura foi criada para as agências federais ao abrigo da FISMA, mas a sua abordagem baseada no risco e no ciclo de vida serve para qualquer organização. As equipas privadas usam-na para ligar os controlos ao impacto no negócio, documentar a aceitação do risco e manter uma supervisão contínua, muitas vezes a par de normas como a ISO/IEC 42001.
A NIST RMF ajuda a cumprir o Regulamento da IA da UE? Ajuda de forma significativa. O artigo 9.º exige um sistema de gestão de riscos contínuo e ligado ao ciclo de vida para a IA de risco elevado, o que reflete o passo Monitorizar da RMF e as funções Gerir e Medir da NIST AI RMF. Um programa RMF fornece o modelo operacional; a NIST AI RMF e a ISO/IEC 42001 acrescentam as camadas específicas da IA e de sistema de gestão que o Regulamento espera.
Conclusão
A estrutura de gestão de riscos do NIST continua a ser uma das formas mais claras de conduzir o risco de segurança como um ciclo de vida disciplinado e documentado. Para a IA é necessária, mas não suficiente. A estrutura fornece o esqueleto de governação e o fluxo de autorização; a NIST AI RMF, os perfis de IA da SP 800-53, a ISO/IEC 42001 e o artigo 9.º do Regulamento europeu colmatam o risco próprio da IA que por si só não vê. Trate-os como um sistema ligado e não como quatro obrigações separadas, e o risco da IA passa a ser algo que o seu programa atual consegue absorber. Para os gerir a todos num só lugar, veja como a AI Sigil os liga.