AI Overload para Acelerar a Adoção da Governança de Dados Zero-Trust
A Gartner alertou que o aumento do volume de dados gerados por IA ameaça a futura confiabilidade de grandes modelos de linguagem (LLMs).
Tanto é assim que a previsão é de que 50% das organizações adotem uma postura de zero-trust para a governança de dados até 2028, devido à proliferação de dados gerados por IA não verificados.
Dados de uma pesquisa recente de 2026 com CIOs e executivos de tecnologia indicam que 84% esperam que suas empresas aumentem o financiamento para IA generativa. À medida que as organizações aceleram tanto a adoção quanto o investimento em iniciativas de IA, o volume de dados gerados por IA continuará a crescer. Isso significa que as futuras gerações de LLMs serão cada vez mais treinadas com as saídas de modelos anteriores, aumentando o risco de “quebra do modelo”, onde as respostas das ferramentas de IA podem não refletir mais com precisão a realidade.
“As organizações não podem mais confiar implicitamente nos dados ou assumir que foram gerados por humanos. À medida que os dados gerados por IA se tornam comuns e indistinguíveis dos dados criados por humanos, uma postura de zero-trust que estabeleça medidas de autenticação e verificação é essencial para salvaguardar os resultados comerciais e financeiros”, afirmou um executivo da Gartner.
Além disso, observou-se que “os requisitos regulatórios para verificar dados ‘livres de IA’ devem se intensificar em certas regiões”.
“No entanto, esses requisitos podem diferir significativamente entre as geografias, com algumas jurisdições buscando impor controles mais rigorosos sobre conteúdo gerado por IA, enquanto outras podem adotar uma abordagem mais flexível”, acrescentou.
Os LLMs são tipicamente treinados usando dados extraídos da web, bem como uma variedade de outras fontes, incluindo livros, repositórios de código e artigos de pesquisa. Algumas dessas fontes já contêm conteúdo gerado por IA, e se a tendência atual continuar, quase todas elas eventualmente estarão repletas de dados gerados por IA.
“Nesse ambiente regulatório em evolução”, continuou, “todas as organizações precisarão ter a capacidade de identificar e marcar dados gerados por IA. O sucesso dependerá de ter as ferramentas adequadas e uma força de trabalho habilitada em gerenciamento da informação e do conhecimento, além de soluções de gerenciamento de metadados que são essenciais para a catalogação de dados.”
Como resultado, a Gartner aponta que práticas proativas de gerenciamento de metadados se tornarão um diferencial chave, pois permitirão que as organizações analisem, alertem e automatizem a tomada de decisões em todos os seus ativos de dados.
