Violação de Regulamentações de IA Pode Causar Aumento de 30% em Disputas Legais nas Empresas de Tecnologia até 2028
Um estudo realizado pela Gartner revelou que as violações de regulamentações de inteligência artificial (IA) podem resultar em um aumento de 30% nas disputas legais para empresas de tecnologia até o ano de 2028.
Desafios na Implementação de Ferramentas de GenAI
O levantamento, que contou com a participação de 360 líderes de TI envolvidos na implementação de ferramentas de IA generativa (GenAI), identificou que mais de 70% dos entrevistados consideram a conformidade regulatória como um dos três principais desafios na implantação de assistentes de produtividade baseados em GenAI.
Além disso, apenas 23% dos respondentes se mostraram muito confiantes na capacidade de suas organizações em gerir componentes de segurança e governança ao lançar ferramentas de GenAI em aplicações empresariais.
Regulamentações Globais e Impacto Geopolítico
A análise da Gartner, realizada por Lydia Clougherty Jones, diretora analista sênior, destaca que as regulamentações globais de IA variam amplamente, refletindo a avaliação de cada país sobre a necessidade de liderança em IA, inovação e agilidade em relação às prioridades de mitigação de riscos. Isso resulta em obrigações de conformidade inconsistentes e muitas vezes incoerentes, complicando a alocação de investimentos em IA com valor empresarial demonstrável e repetível, possivelmente expondo as empresas a outras responsabilidades.
O impacto do clima geopolítico também está crescendo, mas a capacidade de resposta das empresas está aquém do necessário. No mesmo estudo, 57% dos líderes de TI fora dos EUA indicaram que o clima geopolítico impactou pelo menos moderadamente a estratégia e a implantação do GenAI, com 19% relatando um impacto significativo. No entanto, quase 60% desses respondentes afirmaram que não conseguiram ou não estavam dispostos a adotar alternativas de ferramentas de GenAI fora dos EUA.
Sentimento em Relação à Soberania em IA
Em uma recente pesquisa realizada por um webinar da Gartner, 40% dos 489 respondentes indicaram que o sentimento de suas organizações em relação à soberania em IA é “positivo”, enquanto 36% se mostraram neutros, adotando uma abordagem de “esperar para ver”.
Adicionalmente, 66% dos respondentes disseram que estavam sendo proativos e/ou engajados em resposta à estratégia de IA soberana, e 52% confirmaram que suas organizações estavam fazendo mudanças estratégicas ou de modelo operacional como resultado direto de questões relacionadas à IA soberana.
Recomendações para Líderes de TI
Os líderes de TI foram aconselhados a fortalecer a moderação de saídas, treinando modelos para engenharia de autocorreção, criando procedimentos rigorosos de revisão de casos de uso que avaliem riscos e utilizando testes de controle em torno da fala gerada por IA.
A Gartner também recomendou que os líderes aumentassem o teste e a “sandboxing” de modelos, construindo uma equipe de fusão interdisciplinar composta por engenheiros de decisão, cientistas de dados e consultores jurídicos para projetar protocolos de pré-teste e validar a saída do modelo em relação a saídas indesejadas.
