Agentes de IA autónomos: o guia de governação e conformidade

O essencial

• Um agente de IA autónomo persegue um objetivo e passa à ação com pouca ou nenhuma intervenção humana, combinando um modelo com capacidade de planeamento, memória e acesso a ferramentas.
• É precisamente a autonomia que interessa aos reguladores: o regulamento de IA, o NIST e a ISO/IEC 42001 calibram as suas exigências pelo grau de independência com que um sistema age.
• As dificuldades maiores prendem-se com a responsabilidade e a supervisão, não com o desempenho. Quando um agente age sobre vários sistemas à velocidade da máquina, quem responde e quem o pode parar?
• Um modelo de governação operacional resume-se a seis passos: inventariar, classificar, conceber a supervisão, aplicar controlos técnicos, registar e auditar, e repartir a responsabilidade ao longo da cadeia de valor.
• A maioria dos conteúdos publicados define os agentes autónomos. Quase nenhum explica a uma equipa de conformidade como governá-los. Este guia trata da segunda questão.

O que são realmente os agentes de IA autónomos

Um agente de IA autónomo é software capaz de compreender um objetivo, decidir como alcançá-lo e agir em conformidade sem esperar que uma pessoa aprove cada passo. A Salesforce, a Microsoft e a NVIDIA descrevem o mesmo mecanismo de fundo: o agente perceciona o seu ambiente, raciocina para traçar um plano, age através de ferramentas ligadas e aprende com o resultado (glossário da NVIDIA). Retirado o verniz de marketing, um agente reduz-se a dois componentes: um modelo que fornece o raciocínio e uma estrutura de suporte que fornece o planeamento, a memória e o acesso a ferramentas, ficheiros e interfaces de programação. É essa estrutura de suporte que separa um agente de um simples assistente conversacional. Um chatbot responde. Um agente age. Pode abrir um pedido, mover fundos entre duas contas, alterar uma configuração, enviar uma mensagem ou invocar outro serviço e, depois, decidir o passo seguinte com base no que aconteceu. A The Future Society, na sua análise de 2025 sobre como o regulamento de IA alcança os agentes, define-os funcionalmente como sistemas que perseguem de forma autónoma objetivos complexos e de longo prazo, e tecnicamente como um modelo de uso geral dotado de uma estrutura de raciocínio e acesso a ferramentas (The Future Society). Convém pensar a autonomia como um espetro e não como um interruptor:

• A IA assistiva responde a um pedido e pára.
• A IA agentica encadeia vários passos, mas pede confirmação com frequência.
• A IA autónoma percorre um ciclo completo, do objetivo ao resultado, e só se manifesta quando precisa, ou quando termina.

Quanto mais à direita se situar neste espetro, menos uma pessoa vê de cada decisão individual, e mais a governação tem de passar do controlo das saídas para a limitação dos comportamentos. Se ainda está a organizar o dispositivo ao nível do programa, o nosso guia de governação da IA assenta as bases sobre as quais este artigo se apoia.

Porque é que os agentes autónomos abalam a governação tradicional

Grande parte dos dispositivos de governação da IA foi pensada para sistemas que produzem uma saída que uma pessoa depois utiliza. Um modelo de risco pontua um processo e uma pessoa decide. Um modelo de linguagem redige um texto e uma pessoa corrige-o. Os agentes autónomos eliminam essa pausa. Executam a ação por si mesmos, o que desloca o risco da qualidade de uma saída para as consequências de um comportamento. Três propriedades tornam os agentes mais difíceis de governar do que os modelos que contêm. Primeiro, o planeamento de longo prazo. Um agente encadeia muitos passos e os pequenos erros acumulam-se. Um pressuposto errado no segundo passo pode desencadear vinte ações a jusante antes de alguém reparar. A ação é o produto, e uma ação é mais difícil de anular do que um texto. Em segundo lugar, o problema das muitas mãos. Um agente costuma funcionar sobre um modelo construído por uma empresa, integrado num produto por uma segunda e colocado em operação por uma terceira. A The Future Society chama-lhe o desafio central da governação de agentes: a responsabilidade dispersa-se entre fornecedores de modelos, fornecedores de sistemas e responsáveis pela implementação, cada um detendo apenas uma parte do contexto e dos controlos (The Future Society). Quando algo corre mal, a responsabilidade permanece opaca enquanto os deveres não tiverem sido atribuídos de antemão. Por fim, a fragilidade perante ataques. Porque leem conteúdos externos e agem em conformidade, os agentes podem ser desviados. A injeção de instruções insere ordens hostis numa página web, num documento ou numa mensagem, e o agente segue-as em vez da sua tarefa real. A investigação de red team do NIST mostra que ataques inéditos contra agentes de IA têm êxito em 81% dos casos, contra 11% das defesas de referência (pedido de informação do NIST). Um agente desviado com acesso a ferramentas não é um problema de conteúdo: é um ator, dentro dos seus sistemas, que executa o trabalho do atacante. As técnicas de ataque a modelar estão catalogadas em referências como o MITRE ATLAS. Acrescente a velocidade a estas três propriedades. Os agentes agem mais depressa do que uma pessoa consegue observar, o que inutiliza qualquer supervisão concebida como controlo a posteriori. A supervisão tem de ser integrada no percurso de ação do agente, e não acrescentada depois.

Como os reguladores e as normas tratam os agentes autónomos

Ainda não existe uma lei própria dos agentes. Em todos os grandes regimes emerge, contudo, um padrão claro: quanto mais autonomamente um sistema age, mais se exige de quem o opera. Três quadros importam acima de tudo.

Regulamento de IA: a autonomia eleva a fasquia

O regulamento de IA não nomeia os agentes, mas alcança-os em dois eixos, como expõe a análise da The Future Society. O primeiro é o modelo subjacente: os agentes construídos sobre modelos de IA de uso geral com risco sistémico arrastam os seus fornecedores para as obrigações do capítulo V (artigo 55.º). O segundo é o próprio sistema agentico, classificado nos termos do capítulo III. Um agente usado como componente de segurança ou num caso de uso do anexo III é de alto risco, e porque um agente generalista pode servir muitos fins, pode cair no alto risco por defeito, salvo se o seu fornecedor excluir deliberadamente esses usos (The Future Society). Quando um sistema é de alto risco, o artigo 14.º sobre a supervisão humana aplica-se diretamente, e a sua redação parece escrita para a autonomia. Os sistemas de alto risco devem ser concebidos de modo a poderem ser «eficazmente supervisionados por pessoas singulares» durante a sua utilização, e a pessoa encarregada deve poder «decidir não utilizar o sistema ou ignorar, anular ou reverter a sua saída» e «intervir no funcionamento ou interromper o sistema através de um botão de paragem ou de um procedimento semelhante» (artigo 14.º do regulamento de IA). A frase decisiva liga tudo à autonomia: as medidas de supervisão devem ser «proporcionais aos riscos, ao nível de autonomia e ao contexto de utilização». É esse o ponto: mais autonomia significa mais supervisão, por lei. Resta a questão da exequibilidade. Como argumenta uma análise da Tech Policy Press, o artigo 14.º pressupõe que o comportamento de um agente pode ser tornado legível e as suas ações paradas ou revertidas, hipótese tecnicamente difícil para agentes que agem à velocidade da máquina sobre uma autoridade distribuída, e nenhum ato de execução específico para agentes resolveu a questão. As obrigações de transparência do artigo 50.º acrescentam um segundo fio: as pessoas devem saber quando interagem com um sistema de IA. Para o mapeamento detalhado, consulte a nossa comparação de quadros de governação. Em Portugal, a CNPD já fornece referências operacionais sobre supervisão e proteção de dados que as equipas podem reutilizar.

NIST: grelhas de controlos para os agentes

Nos Estados Unidos, o NIST é o mais rápido no concreto. O seu Center for AI Standards and Innovation lançou em fevereiro de 2026 uma iniciativa de normalização para agentes de IA, e o resultado mais tangível em preparação é um conjunto de grelhas de controlos COSAiS ligadas à SP 800-53, que abrangem sistemas de um só agente e de múltiplos agentes com controlos escolhidos a partir de modelos de ameaça explícitos (documento conceptual COSAiS do NIST). Tudo isto assenta no quadro de gestão do risco de IA do NIST, cujas funções governar, mapear, medir e gerir já dão estrutura ao risco agentico. O nosso guia operacional do NIST AI RMF detalha a sua aplicação.

ISO/IEC 42001: a estrutura de gestão

Nem o regulamento de IA nem o NIST explicam como montar o programa que sustentará estes deveres. A ISO/IEC 42001 fá-lo. Enquanto norma certificável de sistema de gestão da IA, fornece a política, os papéis, o tratamento do risco e os controlos de ciclo de vida que transformam uma supervisão pontual num sistema repetível. Trate-a como o recipiente da governação de agentes e não como um projeto à parte; a nossa explicação da ISO 42001 apresenta a sua arquitetura.

Um modelo operacional de governação para os agentes autónomos

Os quadros descrevem o objetivo. Não dizem o que fazer na segunda-feira de manhã. Eis um modelo em seis passos que transforma as obrigações acima num verdadeiro programa de governação de agentes. Apoia-se nos quatro pilares que a The Future Society retira da literatura (avaliação do risco, transparência, controlos técnicos de implementação e supervisão humana), reordenados segundo a lógica de trabalho de uma equipa.

1. Inventariar e registar cada agente

Não se governa um agente cuja existência se desconhece. O primeiro ponto cego são os agentes-sombra: ferramentas lançadas nas áreas de negócio, com credenciais e acesso a ferramentas, mas nunca registadas. Construa um inventário único onde cada agente tenha um responsável, uma finalidade, a lista de ferramentas e dados que pode alcançar e um identificador único que torne as suas ações imputáveis. É a mesma disciplina que torna gerível o shadow AI, aplicada a sistemas que agem em vez de apenas responder.

2. Classificar e graduar o risco de cada agente

Com o inventário em mãos, classifique cada agente face aos regimes aplicáveis. Passe um filtro do anexo III para os usos de alto risco, determine se o modelo subjacente o arrasta para as obrigações GPAI e gradue o agente pelo raio de impacto das suas ações, não pela inteligência do seu modelo. Para os agentes que tocam os direitos das pessoas, a avaliação de impacto sobre os direitos fundamentais é o instrumento certo, e a sua mecânica sobrepõe-se ao trabalho de avaliação de impacto que as equipas de GRC já realizam em matéria de dados pessoais.

3. Conceber a supervisão humana antes da implementação

O artigo 14.º satisfaz-se pela conceção, não pelas boas intenções. Decida, para cada agente e cada classe de ação, que modo de supervisão se aplica:

• Humano no ciclo: o agente propõe e uma pessoa aprova cada ação relevante antes da execução.
• Humano sobre o ciclo: o agente age e uma pessoa monitoriza, pode intervir e pará-lo.
• Humano no comando: o agente opera dentro de limites rígidos que uma pessoa fixa, audita e pode revogar.

As ações de alto impacto (mover fundos, alterar acessos, contactar clientes) devem passar por um ponto de controlo ou uma autorização. Cada agente precisa de uma paragem que funcione, o «botão de paragem» literal do artigo 14.º, e de uma pessoa designada cuja função é acioná-la.

4. Aplicar controlos técnicos de implementação

A supervisão no papel falha sem controlos no código. Dê aos agentes um acesso de privilégio mínimo, para que um agente desviado pouco possa fazer. Acrescente recusas de ação em tempo real, para que o agente decline o que excede o seu mandato, e um encerramento de emergência que um operador, ou uma barreira automatizada, possa acionar. São os controlos técnicos de implementação que a análise europeia da cadeia de valor atribui conjuntamente a fornecedores e responsáveis pela implementação, e a primeira linha de defesa contra as injeções de instruções medidas pelo NIST.

5. Registar, auditar e monitorizar

Cada ação relevante de um agente deve produzir um registo imutável e consultável: o que fez, porquê, sob que autoridade e com que resultado. Os registos de atividade são ao mesmo tempo uma ferramenta de supervisão e a base probatória de uma auditoria ou de um incidente. Quando um agente causa um dano, terá de reconstituir a cadeia, razão pela qual o registo dos agentes deve alimentar o mesmo fluxo do seu processo de comunicação de incidentes de IA nos termos do artigo 73.º.

6. Atribuir a responsabilidade ao longo da cadeia de valor

Por fim, deixe por escrito quem responde por quê antes de algo correr mal. O fornecedor do modelo, o fornecedor do sistema e o responsável pela implementação controlam riscos diferentes e detêm provas diferentes. Os contratos e uma matriz RACI interna devem associar cada dever (infraestrutura de monitorização, limiares de alerta, supervisão operacional) ao ator que o pode efetivamente cumprir. É assim que o problema das muitas mãos deixa de ser uma desculpa e se torna uma atribuição. Uma plataforma de governação que reúne inventário, classificações, controlos e provas num único lugar, em vez de num conjunto de ferramentas desligadas, é o que mantém essa atribuição atualizada.

Agentes autónomos, IA agentica e automação

Os termos circulam de forma imprecisa, e as distinções importam para a governação porque cada nível carrega um risco diferente.

• A automação tradicional segue regras fixas. É previsível e fácil de governar, mas não sabe lidar com aquilo para que não foi programada.
• A IA agentica usa um modelo para planear e adaptar-se ao longo de vários passos, mas opera geralmente dentro de uma tarefa definida com frequentes pontos de controlo humanos.
• Os agentes de IA autónomos percorrem o ciclo completo com uma intervenção humana mínima, escolhendo os próprios passos e usando ferramentas para alcançar um objetivo.

Um motor de regras que assinala uma fatura é automação. Um sistema que lê a fatura, a julga válida, agenda o pagamento e reconcilia o razão é um agente autónomo. O fosso de governação não é subtil: a automação exige testes, ao passo que os agentes autónomos exigem supervisão, controlos e responsabilidade porque tomam por si sós decisões relevantes.

Erros frequentes ao governar agentes autónomos

• Tratar os agentes como software comum. A gestão da mudança e as revisões de acesso pensadas para aplicações estáticas ignoram que o comportamento de um agente é emergente, não fixo.
• Acesso a ferramentas não governado. O risco de um agente é a soma daquilo que as suas ferramentas podem tocar. Credenciais demasiado amplas transformam uma pequena falha numa grande.
• Um encerramento de emergência que não funciona. Um botão de paragem que ninguém testou, ou que não consegue interromper uma ação em curso, é apenas cenário.
• Uma supervisão que não escala. Aprovar cada ação frustra o propósito, e vigiar milhares de ações por minuto é impossível. Ajuste o modo de supervisão ao impacto da ação.
• Nenhum inventário. Todos os outros controlos dependem de saber que o agente existe. Os agentes-sombra são a causa primeira da maioria dos incidentes.

Perguntas frequentes

O que é um agente de IA autónomo, em poucas palavras? É um software que recebe um objetivo, decide como alcançá-lo e executa por si os passos recorrendo a ferramentas e dados, sem que uma pessoa aprove cada ação. O traço distintivo é que age, ao passo que um chatbot apenas responde. O ChatGPT é um agente autónomo? Por si só, não. Um chatbot autónomo responde a pedidos e pára. Torna-se agentico quando é dotado de planeamento, memória e acesso a ferramentas que lhe permitem agir sobre vários sistemas rumo a um objetivo. O modelo é o cérebro; o agente é o cérebro mais a estrutura que lhe permite agir. Os agentes de IA autónomos são regulados pelo regulamento de IA? Sim, de forma indireta. O regulamento não nomeia os agentes, mas alcança-os através do modelo de uso geral em que assentam e através da classificação do sistema de alto risco. Quando um agente é de alto risco, o artigo 14.º exige uma supervisão humana eficaz, proporcional ao nível de autonomia do sistema (artigo 14.º). Qual é o maior risco dos agentes de IA autónomos? A combinação de autonomia e acesso a ferramentas. Um agente que pode agir sobre o mundo pode também ser desviado para agir contra si. O NIST mediu uma taxa de sucesso dos ataques de 81% em condições de red team, razão pela qual o privilégio mínimo e uma paragem funcional não são negociáveis. Qual a diferença entre IA agentica e agentes de IA autónomos? A IA agentica designa a capacidade de planear e agir ao longo de vários passos. Um agente de IA autónomo é um sistema que exerce essa capacidade com uma intervenção humana mínima, percorrendo sozinho um ciclo completo do objetivo ao resultado. A maioria dos sistemas agenticos atuais mantém uma pessoa no ciclo ou sobre o ciclo; a autonomia plena é o extremo alto do mesmo espetro. Como se governam, na prática, os agentes de IA autónomos? Inventarie cada agente, classifique-o e gradue o seu risco, conceba o modo de supervisão humana antes da implementação, imponha controlos técnicos como o privilégio mínimo e um encerramento de emergência, registe cada ação relevante e atribua a responsabilidade entre fornecedor do modelo, fornecedor do sistema e responsável pela implementação.

Conclusão

Os agentes de IA autónomos levam a IA do conselho à ação, e a governação tem de se mover com eles. Os quadros já apontam na mesma direção: supervisão, controlos e responsabilidade crescem com a autonomia. O que faltava é um modelo operacional que traduza esse princípio na prática diária, e inventariar, classificar, conceber a supervisão, controlar, registar e atribuir a responsabilidade é esse modelo. A AI Sigil oferece às organizações reguladas um único sistema de referência para o gerir, de modo que cada agente do seu parque seja conhecido, classificado, supervisionado e auditável. Comece por mapear o seu quadro de governação da IA e depois integre nele os seus agentes antes que eles se integrem sozinhos.