IBM Enfrenta o Shadow AI: Um Ponto Cego nas Empresas
Com a explosão do uso de IA para a criação rápida de aplicações nas empresas, a IBM introduziu ferramentas para ajudar as organizações a gerenciar sistemas e agentes de IA dos quais podem não estar cientes.
A IBM lançou recentemente o que chama de “primeiro software da indústria para unificar a governança e segurança de agentes”, que integra o watsonx.governance e o Guardium AI Security para ajudar as empresas a manter seus sistemas de IA — incluindo agentes — seguros e responsáveis em grande escala.
O watsonx.governance é a ferramenta de governança de IA de ponta a ponta da IBM, enquanto o Guardium AI Security é sua ferramenta para proteger modelos de IA, dados e uso.
“Agentes de IA estão prontos para revolucionar a produtividade empresarial, mas os próprios benefícios dos agentes de IA também podem apresentar um desafio”, disse um executivo da IBM. “Quando esses sistemas autônomos não são adequadamente governados ou seguros, podem acarretar consequências severas.”
O Desafio do Shadow AI
Semelhante ao seu predecessor, o shadow IT, o shadow AI inclui bolsões de uso de tecnologia não governada dentro de uma organização — neste caso, sistemas de IA. Isso representa um desafio crescente à medida que as ferramentas de IA se tornam mais acessíveis e os funcionários agora podem construir sistemas autônomos com mínima expertise técnica.
A Escala do Problema
Pesquisas recentes mostram que 60% dos funcionários estão usando ferramentas de IA não aprovadas mais do que no ano passado, com 93% admitindo que inseriram informações em ferramentas de IA sem aprovação. Além disso, 32% dos funcionários inseriram dados confidenciais de clientes sem confirmação de aprovação da empresa.
Há também uma desconexão entre a liderança de TI e os funcionários, já que 97% dos tomadores de decisão de TI veem riscos significativos no shadow AI, mas 91% dos funcionários pesquisados disseram que não percebem risco, pouco risco ou acreditam que qualquer risco é superado pelas recompensas.
Por Que o Shadow AI é Diferente
“Agentes são a nova tendência, e acredito que os agentes estão mais ao alcance dos funcionários do que até mesmo a IA generativa”, disse um especialista. “Eles têm a capacidade de construir agentes em apenas alguns dias através de aplicações de negócios.”
Essa acessibilidade diferencia o shadow AI do shadow IT tradicional. Enquanto o shadow IT normalmente envolve o uso não autorizado de software ou serviços, o shadow AI permite que os funcionários criem sistemas que podem operar com mínima supervisão humana.
O Impacto nos Negócios
As organizações estão sob pressão de múltiplos ângulos. A pesquisa mostra que 85% dos tomadores de decisão de TI relatam que os funcionários estão adotando ferramentas de IA mais rapidamente do que suas equipes de TI podem avaliá-las.
As consequências são reais e mensuráveis. Os tomadores de decisão de TI identificam vazamento ou exposição de dados como o principal risco do shadow AI, afetando 63% das organizações.
O Desafio da Detecção
Identificar o shadow AI requer abordagens novas. As ferramentas tradicionais de monitoramento de TI não foram projetadas para detectar agentes de IA que podem estar incorporados em aplicações de negócios ou funcionando em ambientes de nuvem.
A IBM introduziu novas capacidades ao Guardium AI Security, incluindo a capacidade de detectar novos casos de uso de IA em ambientes de nuvem e repositórios de código, proporcionando ampla visibilidade e proteção em um ecossistema de IA cada vez mais descentralizado.
Transformando o Desafio em Oportunidade
As organizações precisam mudar de uma detecção reativa para uma gestão proativa. “Líderes de TI devem mudar de uma postura defensiva para construir ecossistemas de IA transparentes, colaborativos e seguros que os funcionários se sintam empoderados a usar.”
A chave é estabelecer estruturas de governança abrangentes que possam escalar com a adoção da IA, incluindo políticas claras, detecção automatizada e educação dos funcionários.
O Caminho à Frente
À medida que a IA continua a evoluir, o shadow AI provavelmente se tornará mais sofisticado e mais difícil de detectar. O objetivo não é eliminar totalmente o shadow AI, mas transformá-lo de um passivo oculto em um ativo estratégico visível e gerenciável.
