Gartner prevê a ascensão da governança de dados de confiança zero com a expansão de dados gerados por IA
Gartner prevê que, até 2028, metade das organizações adotará uma abordagem de governança de dados de confiança zero em resposta ao crescente volume de dados não verificados gerados por IA, uma tendência que deve transformar a forma como as empresas gerenciam a confiabilidade e o risco dos dados.
Aumento de preocupações sobre confiança e conformidade
Com o aumento do conteúdo produzido por IA, as organizações não podem mais assumir que os dados são gerados por humanos ou, por natureza, confiáveis. À medida que o conteúdo produzido por IA se torna cada vez mais difícil de distinguir do material criado por humanos, espera-se que as empresas introduzam mecanismos de autenticação e verificação mais robustos para proteger os resultados comerciais e financeiros.
Risco de “colapso de modelo” com a adoção de IA
Modelos de linguagem grande (LLMs) são tipicamente treinados em conjuntos de dados diversos, como conteúdo da web, livros e artigos de pesquisa — muitos dos quais já contêm material gerado por IA. Gartner alerta que, se essa tendência continuar, futuros modelos poderão ser cada vez mais treinados com saídas de sistemas de IA anteriores, aumentando o risco de “colapso de modelo”, onde as respostas se afastam da precisão factual.
Prioridades estratégicas para as empresas
Para gerenciar os riscos associados aos dados gerados por IA não verificados, Gartner delineou várias prioridades estratégicas:
- Nomear um líder de governança de IA: Estabelecer um papel dedicado responsável por políticas de confiança zero, gerenciamento de riscos de IA e conformidade, trabalhando em estreita colaboração com equipes de dados e análise.
- Incentivar a colaboração entre funções: Criar equipes que abranjam cibersegurança, dados e análise, e outras partes interessadas para realizar avaliações de risco de dados em toda a empresa.
- Aproveitar estruturas de governança existentes: Atualizar as políticas de governança de dados atuais para abordar os riscos emergentes relacionados ao conteúdo gerado por IA.
- Adotar gerenciamento ativo de metadados: Habilitar alertas em tempo real para dados obsoletos ou não certificados para reduzir a exposição a informações imprecisas ou tendenciosas.
Conclusão
À medida que a adoção de IA se expande, aumenta também a necessidade das organizações de equilibrar inovação com gerenciamento de riscos. A implementação de práticas de governança sólidas será essencial para garantir a confiabilidade dos dados e a conformidade regulatória em um cenário em constante evolução.
