A Falta de Governança em IA Está Colocando Organizações em Risco Sério
No início deste ano, a Verizon lançou seu relatório anual Data Breach Investigations Report (DBIR), que examina o estado atual da cibersegurança sob a perspectiva de tendências emergentes e contínuas. Com a IA se tornando cada vez mais ubíqua em quase todos os setores, não é surpreendente que a tecnologia tenha se tornado um ponto central no relatório. Embora a Verizon observe cautelosamente que os adversários ainda não estão usando IA para criar táticas de ataque totalmente novas, eles estão utilizando a tecnologia para aumentar tanto a escala quanto a eficácia de seus métodos atuais. Táticas como engenharia social estão se tornando mais desafiadoras de parar, e os atacantes que utilizam IA para gerar e-mails de phishing ou golpes SMS mais convincentes representam um problema real.
Desafios Emergentes Colocam a Governança em IA em Evidência
Entretanto, o problema mais premente em relação à IA é a falta de práticas de governança eficazes. O DBIR destacou uma ampla gama de questões de governança em IA, incluindo o uso generalizado de soluções de IA generativa fora da política corporativa e das capacidades de execução, o que leva a lacunas significativas na segurança. Um relatório de pesquisa separado publicado este ano revelou que menos da metade das organizações possui estratégias específicas para combater as ameaças da IA.
Com a expansão contínua do uso da IA e a tecnologia como a IA agente se tornando cada vez mais comum, as organizações não podem se dar ao luxo de esperar. Elas precisam de um plano de governança em IA antes que seja tarde demais.
Riscos e Oportunidades
À medida que os modelos de IA se tornam mais rápidos e avançados, a velocidade com que as organizações podem implementá-los e utilizá-los também está aumentando. Isso possibilitou que as organizações criassem uma ampla gama de novas eficiências em seus processos de negócios, mas também introduziu riscos. As vantagens aparentes criadas por capacidades específicas de IA levaram a uma mentalidade de “não fique para trás”, impulsionando a necessidade de uma adoção rápida da IA, às vezes antes de ser adequadamente testada.
Além disso, tecnologias de IA, incluindo ferramentas gerativas como ChatGPT, são amplamente utilizadas e acessíveis, dificultando a regulamentação por parte dos empregadores. O DBIR observa que os empregadores têm supervisão limitada sobre o que os funcionários compartilham com ChatGPT ao usar dispositivos pessoais e contas não corporativas.
Estabelecendo Práticas Sólidas de Governança em IA
Para as organizações que buscam aprimorar sua abordagem à governança em IA, é essencial reconhecer que a mudança começa no topo. Os líderes empresariais precisam apoiar plenamente a iniciativa, pois são eles que definem o tom para a organização e, mais importante, sua apetite ao risco. Ao estabelecer práticas de governança, é essencial compreender a tolerância ao risco geral da organização.
O processo começa com a entrada, que envolve a colaboração com várias unidades de negócios para entender onde a IA está sendo atualmente utilizada e onde os funcionários gostariam de utilizá-la no futuro. É essencial ter um comitê especificamente trabalhando para desenvolver políticas de uso aceitável para a IA, e várias organizações consultivas independentes já forneceram diretrizes que podem ajudar esses comitês a avançar.
Conclusão: A Hora de Agir é Agora
À medida que a IA se torna mais poderosa, as organizações em todo o mundo estão buscando maneiras de aproveitar rapidamente suas capacidades avançadas para alcançar seus objetivos de negócios. No entanto, a IA vem com riscos, e as organizações que não estabeleceram uma cultura de consciência de risco para informar seus processos de tomada de decisão podem falhar em identificar as armadilhas potenciais associadas à tecnologia. As organizações de hoje não podem se dar ao luxo de esperar até que seja tarde demais. Ao enfatizar a gestão de riscos e estabelecer políticas e práticas de governança claramente definidas com base em diretrizes de risco aceitas em IA, os líderes empresariais podem garantir que estão maximizando os benefícios de suas soluções de IA sem expor-se a riscos significativos e desnecessários.
