Relatório sobre Segurança da IA: Empresas se Preparando para Incidentes de IA
A segurança da IA nas empresas é mal governada e fragmentada, deixando os riscos mais críticos sem gerenciamento e os incidentes relacionados à IA vistos como inevitáveis. Segundo o relatório Estado da Segurança da IA 2025, essa realidade exige que os líderes enfrentem incidentes para os quais admitem não estarem preparados.
Principais Conclusões
Uma pesquisa revelou que 50% das empresas esperam perda de dados através de ferramentas de IA generativa no próximo ano, 49% antecipam incidentes de Shadow AI e 41% estão preocupadas com ameaças internas impulsionadas por IA. Ao mesmo tempo, 70% admitem que não possuem uma governança otimizada de IA. Os resultados indicam que grandes incidentes de segurança são esperados, e tanto a governança de IA quanto a execução em tempo real permanecem inadequadas para contê-los.
O relatório também indica que a segurança da IA quebra os modelos típicos de propriedade. Os CIOs lideram em 29% das empresas, seguidos por diretores de dados (17%) e equipes de infraestrutura (15%), enquanto os CISOs ocupam a quarta posição com 14,5%. Isso marca uma divergência em relação a outros domínios de segurança, nos quais o CISO normalmente detém a responsabilidade primária.
Investimentos e Orçamento
No que diz respeito ao orçamento, a segurança da cadeia de suprimentos da IA é a principal prioridade de investimento, com 31% das organizações selecionando-a como seu foco principal nos próximos 12 meses. Isso reflete o reconhecimento de que o risco abrange todo o ecossistema de IA, e não apenas um componente.
70% dos respondentes relatam que não alcançaram uma governança de IA otimizada, que incluiria supervisão em nível de diretoria, monitoramento automatizado e políticas regularmente atualizadas. Além disso, 39% não possuem governança de IA gerenciada ou otimizada.
Expectativas de Incidentes e Vulnerabilidades
As expectativas de incidentes revelam que 50% das empresas esperam vazamento de dados através de ferramentas de IA generativa nos próximos 12 meses, destacando a exposição de dados como o impacto mais provável da adoção da IA.
49% esperam um incidente de Shadow AI no mesmo período, e 23% afirmam que é uma das áreas onde estão menos preparados. As principais preocupações incluem o uso de ferramentas de IA generativa independentes sem aprovação de TI (21%) e recursos de IA incorporados em aplicações SaaS (18%).
31% das empresas classificam a segurança da cadeia de suprimentos da IA como seu principal investimento nos próximos 12 meses, à frente de todas as outras categorias. Os respondentes mencionaram frequentemente riscos em conjuntos de dados, APIs e recursos de IA incorporados, destacando a preocupação com exposições que ocorrem em tempo de execução.
Fases Vulneráveis e Preparação
A fase de execução em tempo real foi classificada como a mais vulnerável (38%) e a área menos preparada (27%). Questões de pré-implantação, como integridade de conjuntos de dados (13%) e proveniência de modelos (12%), classificam-se muito abaixo, sublinhando que as abordagens tradicionais de segurança “shift-left” não correspondem aonde os riscos de IA estão concentrados.
