Organizações Adoçam IA, mas Carecem de Governança Adequada no Desenvolvimento
De acordo com uma nova pesquisa, 93% das empresas no Reino Unido atualmente utilizam IA em alguma capacidade, mas a maioria não possui as estruturas necessárias para gerenciar os riscos associados e não integra a governança de IA em seus processos de desenvolvimento de software.
Resultados da Pesquisa
O estudo revela que apenas 7% das organizações têm estruturas de governança totalmente integradas para gerenciar os riscos da IA. Além disso, apenas 4% consideram sua infraestrutura tecnológica totalmente preparada para a IA, e apenas 8% incorporaram a governança de IA em seu ciclo de vida de desenvolvimento de software.
As organizações ainda dependem, em grande parte, de processos de desenvolvimento de software legados que não foram atualizados para levar em conta os riscos específicos da IA, como viés de modelo ou lacunas de explicabilidade. Apenas 28% aplicam detecção de viés durante os testes, e ainda menos (22%) testam a interpretabilidade do modelo.
Desafios de Infraestrutura e Ferramentas
A infraestrutura e as ferramentas também apresentam barreiras à governança, de acordo com os líderes de TI entrevistados. Apenas 4% das organizações afirmam que seus ambientes de dados e infraestrutura estão totalmente preparados para suportar IA em escala. Registros, trilhas de auditoria e controle de versão para modelos de IA muitas vezes são manuais ou estão completamente ausentes.
Fragmentação da Responsabilidade
A responsabilidade pela supervisão da IA também é fragmentada. Entre os entrevistados, 9% relatam alinhamento entre a liderança de TI e a governança, enquanto 19% afirmam que não há um proprietário claro para as atividades de governança. O envolvimento executivo também permanece baixo, com a maioria da governança de IA sendo impulsionada em nível departamental, em vez de através da liderança estratégica.
Benefícios da Governança de IA
Embora a governança seja frequentemente vista como uma restrição, os achados sugerem o contrário. As organizações que adotaram a governança de IA estão observando benefícios reais e tangíveis, como implantações mais rápidas, maior responsabilidade e ciclos de revisão manual reduzidos. A governança é uma função de suporte vital para permitir uma IA responsável e escalável.
Portanto, é evidente que a adoção de IA está superando a governança, criando uma lacuna que precisa ser urgentemente abordada. A falta de ferramentas e infraestrutura adequadas para as equipes de desenvolvimento, juntamente com a falta de apoio gerencial para construir sistemas de governança robustos, são questões que precisam ser resolvidas.
