Adoção Rápida de IA Aumenta o Risco de Shadow IT
Mais de 80% das maiores empresas do mundo agora utilizam IA no desenvolvimento de software, mas muitas organizações têm pouco controle sobre seu uso. O uso não autorizado de IA está se tornando um sério risco de segurança.
Gap entre Inovação e Segurança
Um relatório recente sobre cibersegurança revelou que assistentes de programação baseados em IA são utilizados por mais de 80% das empresas da Fortune 500. A adoção é rápida, mas as medidas de segurança e os frameworks claros geralmente ficam para trás. Menos da metade das empresas possui controles de segurança específicos para IA generativa, e 29% dos funcionários utilizam agentes de IA não aprovados para o trabalho, criando uma nova forma de shadow IT, conhecida como shadow AI.
O que é Shadow AI?
Shadow AI refere-se ao uso de aplicações de IA sem o conhecimento ou aprovação do departamento de TI ou de segurança. Os funcionários utilizam ferramentas externas ou agentes autônomos para realizar tarefas de forma mais rápida. Embora isso possa parecer um ganho de eficiência, pode resultar em uma falha estrutural na segurança, uma vez que os departamentos de TI não têm conhecimento sobre quais sistemas estão ativos e quais dados estão sendo processados.
Importância da Governança
A velocidade com que os agentes de IA são implementados pode comprometer os controles de segurança e conformidade existentes. Quando as organizações não dedicam tempo suficiente para estabelecer a governança, há um risco maior de que os agentes recebam autoridade excessiva ou tenham acesso a informações sensíveis sem supervisão adequada.
Riscos Associados
Recentemente, foi identificada uma campanha de fraude onde atacantes manipularam a memória de assistentes de IA, influenciando estruturalmente os resultados. Isso demonstra que os sistemas de IA podem se tornar um vetor de ataque se não forem adequadamente protegidos. Outro ponto preocupante é o risco de agentes com privilégios excessivos, que podem levar a vazamentos de dados em larga escala se forem comprometidos.
Abordagem de Zero Trust
Para mitigar esses riscos, recomenda-se uma abordagem de zero trust para agentes de IA. Cada agente deve ser explicitamente verificado, os direitos de acesso devem ser estritamente limitados e as atividades devem ser monitoradas continuamente. Além disso, é recomendado manter um registro central que documente quais agentes de IA estão ativos na organização, quem os possui e quais dados têm acesso.
Conclusão
A ascensão da IA dentro das organizações parece irreversível. O desafio não está em interromper a inovação, mas em introduzi-la de maneira controlada. Sem uma governança clara e medidas de segurança apropriadas, a shadow AI pode se tornar um risco estrutural e difícil de gerenciar no ambiente moderno de TI.
