Insights sobre IA Responsável a partir da Pesquisa Global de Maturidade da Confiança em IA
A rápida evolução da IA generativa e dos modelos de linguagem de grande escala (LLMs) está impulsionando a adoção em diversas funções comerciais, visando aumentar a produtividade, a eficiência e a inovação. No entanto, esses benefícios só podem ser alcançados se a IA for implantada de forma segura e responsável.
As práticas de IA responsável (RAI) são essenciais para criar uma estratégia mais ampla de confiança em IA, gerando confiança entre clientes, funcionários e partes interessadas sobre o uso da IA pela organização. Ao abordar aspectos críticos, como governança de dados, explicabilidade, justiça, privacidade, segurança e transparência, a RAI ajuda as organizações a mitigar riscos, construir confiança, garantir responsabilidade e maximizar o impacto de suas soluções de IA.
Estado Atual da IA Responsável nas Empresas
Uma recente pesquisa realizada com mais de 750 líderes em 38 países fornece insights sobre o estado atual da RAI nas empresas. Os respondentes vêm de indústrias que variam de tecnologia a saúde e representam papéis profissionais em jurídico, dado e IA, engenharia, risco, finanças, entre outros.
As respostas foram avaliadas usando o Modelo de Maturidade de Confiança em IA da McKinsey, um framework de RAI que abrange quatro dimensões: estratégia, gestão de risco, dado e tecnologia e modelo operacional, com 21 subdimensões.
A pontuação média de maturidade em RAI para as organizações pesquisadas foi de 2.0 em uma escala de 0 a 4. O nível 2 descreveu cerca de 36% dos respondentes. Isso implica que, em média, as organizações ainda estão no processo de integrar práticas de IA responsável, como indicadores-chave de risco, diretrizes de qualidade de dados e planos de resposta a incidentes.
Investimentos em IA Responsável
As organizações, independentemente do tamanho, afirmaram que planejam investir mais de $1 milhão em RAI no próximo ano, com muitas organizações maiores planejando investir muito mais. Esses investimentos incluem a contratação de profissionais de RAI, a construção ou aquisição de sistemas técnicos para atender às práticas de RAI e o envolvimento de serviços jurídicos ou profissionais relacionados à RAI.
Há uma forte correlação positiva entre empresas com pontuações mais altas de maturidade em RAI e maiores níveis de investimento, sugerindo que um aumento nos investimentos pode ajudar a avançar a maturidade em RAI.
Desafios e Oportunidades
Apesar do progresso, obstáculos à implementação de práticas de RAI de classe mundial permanecem. Quando questionados sobre as principais barreiras, os respondentes identificaram lacunas de conhecimento e treinamento (51%) e insegurança regulatória (40%) como desafios significativos. Esses achados indicam que as organizações ainda carecem de clareza sobre como implementar as práticas corretas para obter os benefícios mencionados.
No entanto, a falta de clareza não deve justificar uma abordagem passiva em relação à RAI. À medida que as empresas continuam a adotar IA em suas funções comerciais, será crítico desenvolver novas capacidades de gestão de risco e mitigação em paralelo com mapas estratégicos audaciosos de IA para garantir um uso seguro e confiável.
As organizações que investem em confiança em IA agora colherão benefícios mais tarde, como uma adoção mais rápida e maior resiliência contra riscos enquanto buscam capturar todo o potencial da IA em seus negócios.
