Organizações devem adotar governança ‘Zero-Trust’ diante da ameaça de saturação de dados por IA
A Gartner alerta que 50% das empresas devem adotar políticas de dados com enfoque em zero-trust até 2028 para combater o “colapso de modelo” causado pelo aumento de dados sintéticos não verificados.
Adoção do modelo Zero-Trust
Metade de todas as organizações globais adotará uma postura de zero-trust para a governança de dados até 2028, conforme previsão de um novo relatório. Essa mudança ocorre à medida que o conteúdo gerado por IA não verificada começa a saturar os ecossistemas de dados, dificultando cada vez mais a distinção entre informações humanas e sintéticas.
A ameaça do ‘Colapso de Modelo’
A proliferação de dados sintéticos representa um risco significativo para a confiabilidade dos futuros Modelos de Linguagem de Grande Escala (LLMs). Atualmente, os modelos são treinados em grandes volumes de dados coletados da web, artigos de pesquisa e códigos. No entanto, à medida que as saídas de IA são cada vez mais reintegradas nos loops de treinamento de novos modelos, a indústria enfrenta um fenômeno conhecido como “colapso de modelo”. Isso ocorre quando as ferramentas de IA começam a refletir os erros ou preconceitos de suas predecessoras, em vez de uma realidade objetiva.
Apesar desses riscos, o apetite corporativo por inteligência artificial continua insaciável. Uma pesquisa realizada com CIOs e executivos de tecnologia revela que 84% dos entrevistados pretendem aumentar o financiamento para a IA Generativa (GenAI) neste ano.
Recomendações estratégicas
Para mitigar os riscos de dados não verificados, recomenda-se que as organizações adotem várias medidas imediatas, incluindo:
- Nomear um Líder de Governança de IA: Um papel dedicado para supervisionar políticas de zero-trust e conformidade.
- Colaboração Interfuncional: Alinhar as equipes de cibersegurança, análise de dados e ética para realizar avaliações de risco abrangentes.
- Modernizar Práticas de Metadados: Implementar sistemas automatizados para identificar e sinalizar conteúdo gerado por IA que seja impreciso ou tendencioso em tempo real.
- Adotar Metadados Ativos: Utilizar alertas em tempo real para dados não verificados ou obsoletos a fim de evitar que conteúdos imprecisos e tendenciosos atinjam sistemas críticos.
O sucesso nesse cenário em evolução dependerá da capacidade de gerenciar metadados ativos, ou seja, a habilidade de etiquetar, catalogar e alertar as organizações quando os dados estiverem desatualizados ou precisarem de recertificação.
