50% das organizações devem adotar governança de dados zero-trust diante do aumento de dados gerados por IA não verificados
Diante da crescente prevalência de dados não verificados gerados por inteligência artificial, prevê-se que metade (50%) de todas as organizações globais transitem para uma postura zero-trust na governança de dados até 2028.
A era da confiança implícita chegou ao fim
O aumento da produção de informações por inteligência artificial impossibilita a diferenciação entre conteúdo criado por humanos e por máquinas. Portanto, é essencial adotar uma abordagem zero-trust, priorizando protocolos rigorosos de autenticação e verificação para proteger a integridade financeira e os resultados das empresas.
Os riscos associados aos dados gerados por IA
Os dados gerados por IA elevam os riscos de falhas nos modelos e ampliam os requisitos de conformidade. A arquitetura subjacente dos grandes modelos de linguagem (LLMs) depende de vastos conjuntos de dados adquiridos por técnicas de “web scraping”, que estão cada vez mais saturados com conteúdo gerado por IA.
Projeções indicam que, se as tendências atuais continuarem, a maioria dos repositórios digitais estará saturada com informações produzidas por inteligência artificial.
Necessidade de identificação de dados gerados por IA
A crescente ubiquidade de conteúdo gerado por IA deve intensificar os mandatos regulatórios sobre a verificação de dados “sem IA” em regiões específicas. As organizações precisarão identificar e marcar dados gerados por IA, utilizando ferramentas adequadas e uma força de trabalho qualificada em gerenciamento de informações e conhecimento.
A implementação de práticas avançadas de gerenciamento de metadados ativos será um diferencial estratégico para as empresas modernas, permitindo uma análise mais profunda das informações e automação de processos de decisão em todo o ecossistema de dados.
Estratégias para gerenciar riscos de dados não verificados
As organizações devem considerar várias abordagens estratégicas para enfrentar os riscos associados a dados não verificados:
- Designar um líder de governança de IA: Criar um papel específico focado em governança de IA, que inclua políticas zero-trust e gerenciamento de riscos.
- Promover colaboração entre equipes: Formar equipes multifuncionais que envolvam cibersegurança e análise de dados para realizar avaliações de riscos de dados.
- Utilizar políticas de governança existentes: Melhorar as estruturas atuais de governança de dados, priorizando atualizações em segurança e políticas de ética.
- Implementar práticas de metadados ativos: Permitir alertas em tempo real quando os dados se tornarem obsoletos, ajudando a identificar rapidamente riscos associados a dados imprecisos ou tendenciosos.
