Governança de Dados de Confiança Zero Necessária para Proteger Modelos de IA
Organizações precisam ser menos confiantes em dados, dado o quanto deles é gerado por IA, segundo novas pesquisas.
À medida que mais empresas adotam a IA generativa, cresce o risco de que futuros modelos de linguagem de larga escala (LLMs) sejam treinados com saídas de modelos anteriores, aumentando o perigo do chamado colapso de modelo.
Recomendações para Mitigar Riscos
Para evitar isso, recomenda-se que as empresas façam mudanças para gerenciar o risco de dados não verificados. Isso inclui a nomeação de um líder em governança de IA para trabalhar em estreita colaboração com equipes de dados e análises; melhorar a colaboração entre departamentos com grupos multifuncionais que incluem representantes de cibersegurança, dados e análises; e atualizar as políticas existentes de segurança e gerenciamento de dados para abordar riscos provenientes de dados gerados por IA.
Projeções Futuras
Prevê-se que, até 2028, 50% das organizações terão que adotar uma postura de confiança zero para a governança de dados como resultado deste aumento de dados não verificados gerados por IA.
“As organizações não podem mais confiar implicitamente nos dados ou assumir que foram gerados por humanos”, afirmou um executivo. “À medida que os dados gerados por IA se tornam predominantes e indistinguíveis dos dados criados por humanos, uma postura de confiança zero que estabelece medidas de autenticação e verificação é essencial para proteger os resultados comerciais e financeiros.”
Desafios e Abordagens Governamentais
O que torna a situação ainda mais complicada são as diferentes abordagens que os governos podem adotar em relação à IA. “Os requisitos podem diferir significativamente entre geografias, com algumas jurisdições buscando impor controles mais rigorosos sobre conteúdo gerado por IA, enquanto outras podem adotar uma abordagem mais flexível”, foi destacado.
Um exemplo notável de como a IA pode causar problemas de governança de dados foi quando uma empresa teve que reembolsar parte de uma taxa de contrato governamental após erros gerados por IA, incluindo citações legais inexistentes, serem incluídos em seu relatório final.
