Novas Exposições de Segurança da Adoção Rápida de GenAI que as Organizações Devem Abordar
Introdução
A Inteligência Artificial Generativa (GenAI) evoluiu de uma curiosidade para uma força central na tecnologia empresarial. Sua capacidade de gerar texto, código, imagens e insights sob demanda tornou-se indispensável para os funcionários que buscam simplificar processos e aumentar a produtividade. No entanto, essa inovação traz consigo uma enorme exposição a riscos.
Desafios da Segurança de Dados
Em conversas com líderes executivos e de governança de IA em diversas indústrias, um tema se destaca: a segurança dos dados passou de uma preocupação chave para o foco de suas estratégias e agora é o principal desafio da adoção de IA. Diferentemente do software tradicional ou mesmo de ondas anteriores de aprendizado de máquina, a GenAI altera fundamentalmente o processo de segurança de dados dentro de uma organização.
Exposições de GenAI a Considerar
A GenAI cria uma vasta e crescente superfície de dados, complicando a governança e a segurança de dados empresarial de várias maneiras interconectadas:
- Vazamento de Entrada
A GenAI pode ingerir dados em sua forma bruta, incluindo texto, imagens, áudio e dados estruturados. Usuários finais podem direcionar ferramentas de GenAI para novos conjuntos de dados com esforço mínimo. Isso pode incluir informações sensíveis de negócios, como dados pessoais, propriedade intelectual e previsões financeiras. - Exposição de Saída
Modelos geradores não apenas consomem, mas também sintetizam informações. Um prompt pode, sem querer, extrair insights de conjuntos de dados e expô-los a usuários sem a devida autorização. Em alguns casos, as saídas podem “alucinar” dados que parecem legítimos, mas contêm fragmentos de material sensível. - Acessibilidade sem Supervisão
Sistemas empresariais tradicionais exigiam integração de fornecedores e provisão de TI. Atualmente, a GenAI está embutida em várias ferramentas, permitindo que os funcionários a adotem instantaneamente, contornando a governança. Isso impulsiona o uso não sancionado, aumentando o risco de exfiltração de dados. - Risco da Cadeia de Suprimentos de Segundo Nível
Um fornecedor pode parecer seguro, mas frequentemente depende de subcontratados que introduzem seus próprios acordos e políticas. Dados sensíveis podem passar por várias mãos invisíveis, mas a responsabilidade permanece com a empresa. - Gaps de Governança em Dados de Treinamento
Uma vez que os dados entram em um modelo de IA, o controle efetivamente termina. As empresas não conseguem facilmente retirar ou governar como suas informações são utilizadas. Conhecimentos proprietários podem persistir e aparecer em saídas muito tempo depois que sua fonte foi esquecida. - Risco de Código de Aplicação
A IA está cada vez mais escrevendo o código que fundamenta os sistemas de negócios. Desenvolvedores que utilizam ferramentas de GenAI podem, sem saber, introduzir dependências inseguras ou propagar vulnerabilidades.
Abordando o Risco da GenAI
A GenAI já está integrada nos fluxos de trabalho empresariais, então a questão para as empresas não é se devem adotá-la, mas como fazê-lo de forma responsável. A adoção da GenAI sem governança pode resultar em violações dispendiosas, penalidades regulatórias e danos à reputação.
Conclusão
A governança da GenAI exige visibilidade contextual não apenas sobre os dados que uma empresa possui, mas também sobre como a GenAI é utilizada. As empresas precisam monitorar ferramentas, prompts e dados sensíveis que podem deixar seu ambiente. A segurança deve ser vista como a base que torna a inovação segura.
