Shadow AI: fechar a lacuna de governação da IA

O essencial

• O shadow AI, ou IA sombra, é o uso de ferramentas, modelos ou serviços de IA sem que as pessoas responsáveis pelos dados, pelo risco e pela conformidade tenham conhecimento disso ou mantenham o controlo.
• O fenómeno é generalizado. Segundo a Gartner, 68 por cento dos colaboradores usam ferramentas de IA não autorizadas, contra 41 por cento em 2023, e a maior parte desse uso nunca passa por um pedido de aprovação.
• A leitura habitual, a de um problema de fuga de dados, fica incompleta. O shadow AI é antes de mais uma falha de governação: é a IA que nunca chegou ao seu inventário.
• Ao abrigo do Regulamento da IA, as obrigações recaem sobre a organização independentemente da forma como a ferramenta foi adotada. Um inventário de IA incompleto constitui, por isso, uma lacuna de conformidade em si mesmo.
• A resposta não é a proibição. É a descoberta, um registo de IA central, uma responsabilidade clara e uma classificação do risco: o trabalho que transforma uma IA sofrida numa IA governada.

O que é o shadow AI?

O shadow AI é o uso de ferramentas, modelos ou serviços de inteligência artificial por colaboradores ou equipas, sem a aprovação nem a supervisão de quem responde pelos dados, pelo risco e pela conformidade. Na prática, é a responsável de marketing que redige as campanhas numa conta pessoal de um chatbot, a analista que cola um ficheiro de clientes num modelo gratuito para o resumir, e o programador que aceita código de um assistente que a segurança nunca examinou. Uma nota sobre o termo, porque circulam dois sentidos. Em português, a expressão «IA sombra» transmite bem a ideia de uma IA presente mas invisível. Num contexto de governação e conformidade, o shadow AI designa um uso não sancionado e não governado da IA dentro da organização, herdeiro direto do shadow IT. O traço determinante é a invisibilidade. A ferramenta funciona, a pessoa ganha em produtividade e ninguém entre os responsáveis pela supervisão sabe que o sistema existe. É precisamente essa distância entre a IA sobre a qual a organização realmente funciona e a IA de que consegue prestar contas que constitui todo o problema. A nossa análise sobre a lacuna de governação do shadow AI coloca a questão do mesmo modo: não se governa aquilo que não se viu.

Shadow AI e shadow IT

O shadow IT ensinou a uma geração inteira de equipas de segurança que os usos correm mais depressa do que os processos de aprovação. O shadow AI partilha essa raiz, mas acrescenta duas propriedades que aguçam o risco. Em primeiro lugar, o dado não se limita a residir numa aplicação não aprovada: sai do perímetro e torna-se uma entrada que um modelo de terceiros pode conservar ou reutilizar no seu treino. Em segundo lugar, a saída não é determinística, pelo que o mesmo pedido pode produzir respostas diferentes e um texto convincente pode revelar-se falso. Uma ferramenta de partilha mal configurada deixa escapar aquilo que nela se deposita. Um modelo não governado pode deixar escapar aquilo que lhe é confiado e, ainda por cima, orientar uma decisão pelo caminho.

Porque é que o shadow AI se difunde tão depressa

Três forças alimentam a adoção. A IA generativa chegou primeiro como produto de consumo: os colaboradores encontraram-na em casa antes de a governação a encontrar no trabalho. O ganho de produtividade é imediato e pessoal, o que torna estas ferramentas difíceis de remover. E o acesso faz-se sem atrito: bastam um separador do navegador e um endereço de correio eletrónico, sem um passo de aquisição a travar quem quer que seja. Os números descrevem um comportamento quase geral, e não uma margem. A Gartner regista 68 por cento de colaboradores a usar ferramentas de IA não autorizadas, contra 41 por cento em 2023. Os dados reunidos no relatório State of Shadow AI da UpGuard vão mais longe: 81 por cento dos colaboradores e 88 por cento dos responsáveis de segurança admitem um uso não aprovado. O crescimento global do shadow AI é estimado em cerca de 156 por cento entre 2023 e 2025, com os assistentes conversacionais generalistas a concentrar a esmagadora maioria da atividade não sancionada. O ponto a reter é que isto não se limita a alguns perfis juniores que experimentam à margem. Dirigentes e perfis técnicos experientes estão entre os utilizadores mais intensivos, precisamente aqueles que lidam com o material mais sensível. A proibição tende a deslocar esse comportamento para fora do campo de visão, em vez de o travar.

Exemplos comuns de shadow AI

O shadow AI apreende-se melhor por função, porque surge onde quer que uma tarefa repetitiva se cruze com um modelo disponível. <table header-row=”true”> <tr> <td>Função</td> <td>Uso típico de shadow AI</td> <td>O que fica exposto</td> </tr> <tr> <td>Marketing</td> <td>Textos e imagens gerados em contas pessoais</td> <td>Dados de marca, campanhas não publicadas</td> </tr> <tr> <td>Engenharia</td> <td>Assistentes de código não aprovados</td> <td>Código-fonte, segredos, risco de licença</td> </tr> <tr> <td>Dados e análise</td> <td>Conjuntos de dados colados num chatbot</td> <td>Dados de clientes e financeiros</td> </tr> <tr> <td>Recursos humanos e recrutamento</td> <td>Triagem de candidaturas com uma ferramenta de consumo</td> <td>Dados pessoais, risco de discriminação</td> </tr> <tr> <td>Finanças e jurídico</td> <td>Contratos resumidos num modelo gratuito</td> <td>Material confidencial e sujeito a sigilo</td> </tr> </table> Dois detalhes fazem destes exemplos algo mais do que anedotas. O caso dos recursos humanos pode fazer uma organização resvalar para a categoria de alto risco do Regulamento da IA, uma vez que a IA para recrutamento e avaliação de candidatos é aí classificada como de alto risco. E o caso da análise de dados é aquele em que a informação sensível mais frequentemente atravessa a fronteira para um modelo de terceiros, razão pela qual cerca de 38 por cento dos colaboradores admitem partilhar informação de trabalho sensível com ferramentas de IA sem autorização, segundo a investigação de segurança sintetizada pela Orca Security.

Os riscos reais: para além da fuga de dados

A exposição de dados e de propriedade intelectual é o risco que todos nomeiam primeiro, e o seu custo é agora mensurável. O relatório Cost of a Data Breach 2025 da IBM constata que as violações que envolvem shadow AI custam cerca de 670.000 dólares a mais do que as restantes, e que 20 por cento das organizações afetadas tinham sofrido um incidente ligado ao shadow AI. O mesmo relatório indica que 97 por cento das organizações com uma violação ligada à IA não dispunham de controlos de acesso adequados e que 63 por cento não tinham qualquer política de governação da IA. Mas a fuga de dados é apenas a falha mais visível. Outros quatro riscos pesam tanto quanto ela:

• Segurança e superfície de ataque. Os modelos não sancionados e as suas integrações ficam fora da monitorização, e o seu tráfego assemelha-se a uma atividade web comum, pelo que as ferramentas clássicas o deixam passar.
• Exposição regulamentar. Se uma ferramenta trata dados pessoais ou alimenta uma decisão de alto risco, a organização carrega a obrigação, conhecesse ou não a ferramenta.
• Qualidade das decisões. Uma resposta segura mas errada que orienta uma contratação, um crédito ou um juízo clínico é um evento de governação, não uma gralha.
• Risco agêntico. À medida que as ferramentas ganham a capacidade de agir, e não apenas de responder, um agente não governado com acesso aos sistemas pode dar passos que ninguém autorizou.

O que a leitura de segurança esquece

A maior parte das análises do shadow AI fica-se pelo ficheiro que vazou. Essa leitura é correta mas superficial, porque trata o tema como um perímetro a defender em vez de uma população a governar. A exposição mais profunda é uma responsabilidade sem titular: sem dono, sem classificação do risco, sem registo de que o sistema existe e, por isso, sem forma de responder a um regulador, a um auditor ou a um conselho que faz uma pergunta simples. Que sistemas de IA colocamos a funcionar, quem responde por eles e o que podem fazer? Uma ferramenta de segurança pode bloquear uma ligação. A essa pergunta não consegue responder.

O shadow AI diz respeito ao Regulamento da IA, não apenas à segurança

É aqui que a perspetiva de governação muda o que está em jogo. O Regulamento da IA não prevê qualquer isenção para a IA que os colaboradores adotaram sem aprovação. As suas obrigações recaem sobre a organização enquanto responsável pela implementação ou enquanto prestador, independentemente da forma como o sistema entrou no parque. Uma organização que não consegue produzir um inventário completo e classificado por risco da IA que utiliza não pode demonstrar conformidade, e o shadow AI é precisamente a população ausente desse inventário. Várias obrigações mordem diretamente. O artigo 4.º exige aos prestadores e aos responsáveis pela implementação que garantam um nível suficiente de literacia em IA entre o pessoal, e aplica-se desde 2 de fevereiro de 2025. Quando a IA serve uma finalidade de alto risco, como o recrutamento ou a avaliação da solvabilidade, o responsável pela implementação herda obrigações de supervisão humana, de governação dos dados de entrada e de conservação de registos. O calendário de aplicação aproxima-se: as obrigações para os modelos de IA de finalidade geral aplicam-se desde 2 de agosto de 2025 e a maior parte do regime de alto risco a partir de 2 de agosto de 2026. As sanções estão calibradas para se fazerem sentir, até 7 por cento do volume de negócios anual mundial para as práticas proibidas e até 3 por cento para a maioria dos restantes incumprimentos. O mesmo princípio está no centro dos grandes referenciais. O quadro de gestão de risco de IA do NIST faz da manutenção de um inventário dos sistemas de IA e da atribuição clara de responsabilidades um alicerce das suas funções GOVERN e MAP. A norma ISO/IEC 42001, sobre o sistema de gestão de IA, espera que uma organização mantenha um registo dos seus sistemas de IA e defina os papéis associados. Em Portugal, a articulação com a CNPD em matéria de dados pessoais torna este inventário ainda mais concreto. De um referencial para outro, o primeiro movimento é o mesmo: saber aquilo que se tem.

Da deteção à governação: fechar a lacuna do shadow AI

Os fornecedores de segurança respondem ao shadow AI com deteção e bloqueio. É um controlo necessário, mas um ponto de partida, não um destino. A governação responde com um ciclo de vida: descobrir, inventariar, atribuir um responsável, classificar o risco, governar o sistema ao longo da sua vida e atestá-lo periodicamente. A diferença é a que separa cortar uma ligação de poder sustentar cada decisão de IA que a sua organização toma. O objeto que torna isto possível é um registo de IA: um único sistema de referência que reúne cada sistema de IA, o seu responsável, a sua finalidade, o seu nível de risco e as suas evidências. O nosso registo de IA foi construído exatamente para esta transição e transforma uma pegada de IA dispersa e invisível num parque governado. Uma vez inscrito no registo, um sistema deixa de ser shadow AI. Passa a ser um ativo com um responsável e um conjunto de controlos, o único estado a partir do qual a conformidade, a supervisão e uma prestação de contas honesta ao conselho se tornam possíveis.

Porque é que a proibição não resulta

Uma proibição geral parece firme e raramente se aguenta. As pessoas que encontraram valor real numa ferramenta não param: passam para dispositivos e contas pessoais, onde a sua visibilidade é ainda menor. A proibição transforma um problema governável num problema invisível. As organizações que avançam combinam a facilitação com a governação: ferramentas aprovadas verdadeiramente boas, uma via clara e rápida para avaliar uma nova ferramenta e um registo que reflete o uso real. Facilitação mais governação vence a proibição, porque esta abordagem trabalha com o comportamento em vez de contra ele.

Colocar o shadow AI sob governação, na prática

Um programa operacional assenta em cinco movimentos, por ordem.

1. Descobrir. Combinar um inquérito de uso anónimo com uma descoberta técnica a partir dos registos de rede e SaaS. O objetivo é uma primeira imagem honesta, não um exercício disciplinar.
2. Registar. Anotar cada sistema encontrado num registo de IA central, para que o inventário se torne um registo vivo e não uma folha de cálculo já desatualizada no dia em que é concluída.
3. Atribuir a responsabilidade e classificar o risco. Dar a cada sistema um responsável designado e um nível de risco, apoiando-se nas categorias do Regulamento da IA quando se aplicam. É a responsabilidade que torna o resto exigível.
4. Facilitar e formar. Oferecer alternativas aprovadas que as equipas queiram mesmo usar e cumprir a obrigação de literacia do artigo 4.º com formação que explique a razão de ser do registo.
5. Atestar em contínuo. Reconfirmar periodicamente a responsabilidade, o nível de risco e os controlos, e prestar contas do estado do parque ao conselho. É a atestação contínua que mantém o inventário fiel.

Nenhum destes movimentos é exótico. O que os torna eficazes é realizá-los num sistema construído para a governação em vez de num documento estático, para que o registo se mantenha atual à medida que o parque de IA muda por baixo.

Perguntas frequentes

O que é o shadow AI? O shadow AI, ou IA sombra, é o uso de ferramentas, modelos ou serviços de IA dentro de uma organização sem a aprovação nem a supervisão de quem responde pelos dados, pelo risco e pela conformidade. É o equivalente, para a IA, do shadow IT, com o risco acrescido de os dados saírem do perímetro para um modelo de terceiros e de as saídas poderem orientar decisões. Qual é um exemplo de shadow AI? Um exemplo frequente é a analista que cola uma tabela de dados de clientes num chatbot gratuito para a resumir, através de uma conta pessoal que a segurança e a conformidade nunca aprovaram. Igualmente comuns são as equipas de marketing que geram conteúdos em contas de IA pessoais ou os programadores que aceitam código de assistentes não aprovados. Porque é que o shadow AI é um problema? Porque cria uma exposição que ninguém gere: dados sensíveis podem sair da organização, as decisões podem assentar em saídas não verificadas e a IA não aparece em nenhum inventário. Ao abrigo do Regulamento da IA, as obrigações aplicam-se independentemente da forma como a ferramenta foi adotada, pelo que uma IA não inventariada é uma lacuna de conformidade direta e não apenas um problema de segurança. Como funciona o shadow AI? Difunde-se através de um acesso sem atrito. Uma pessoa regista-se numa ferramenta de IA de consumo com um navegador e um endereço de correio eletrónico, usa-a para trabalhar mais depressa e não a faz passar nem pela aquisição nem pela segurança. Como o tráfego se assemelha a uma atividade web comum e o ganho é real, o uso persiste e multiplica-se em silêncio. Como se deteta o shadow AI? A deteção combina dois métodos: um inquérito anónimo que pergunta às equipas o que usam de facto e uma descoberta técnica a partir dos registos de rede, proxy e SaaS que traz à superfície o tráfego e as aplicações de IA. O resultado de ambos deve alimentar um registo de IA central, para que a deteção desemboque em governação e não numa auditoria isolada. É possível travar o shadow AI proibindo as ferramentas de IA? Raramente. As proibições tendem a empurrar o uso para dispositivos e contas pessoais, onde a visibilidade é ainda menor. A abordagem mais duradoura combina governação e facilitação: ferramentas aprovadas que as equipas queiram usar, uma via de avaliação rápida para as novas e um registo que mantém o inventário honesto.

Conclusão

O shadow AI não é, no fundo, uma história de colaboradores indisciplinados ou de ficheiros que vazam. É a história da distância entre a IA sobre a qual uma organização funciona e a IA de que consegue prestar contas. Os controlos de segurança reduzem essa distância; só a governação a fecha. As organizações que passarão numa auditoria, cumprirão o Regulamento da IA e darão uma resposta nítida ao seu conselho são as que levam o shadow AI a um registo, atribuem a cada sistema um responsável e um nível de risco e mantêm esse registo fiel ao longo do tempo. Se procura um único ponto de partida, comece pelo inventário: leve a IA que não vê para um registo de IA, e ela deixará de ser uma sombra.