Regulamentações estaduais de IA podem tornar sistemas inutilizáveis para CIOs
À medida que os estados apressam-se para regular a IA, os CIOs enfrentam a perspectiva de que os sistemas se tornem inutilizáveis ou economicamente impraticáveis sob novas leis. Essas leis ameaçam aumentar os custos de conformidade, reduzir o retorno sobre o investimento (ROI) ou deixar investimentos totalmente obsoletos.
Exemplos de regulamentações em andamento
Por exemplo, quando se soube que uma rede de supermercados estava utilizando reconhecimento facial para identificar ladrões reincidentes, alguns legisladores de um estado anunciaram planos para proibir essa prática no varejo. Outros estados estão se movendo para banir etiquetas eletrônicas de prateleiras em lojas maiores, preocupados com a possibilidade de que a precificação dinâmica possa deslocar empregos e definir preços com base no comportamento do consumidor.
A legislação de outro estado, por outro lado, proibiria a precificação dinâmica e o uso de dados de vigilância para definir preços individualizados, embora não banisse as etiquetas eletrônicas. Varejistas já estão implementando essas tecnologias, afirmando que melhoram a eficiência operacional e a experiência do cliente.
Riscos das leis fragmentadas de IA
Numerosos estados estão considerando regulamentações de IA para sistemas usados em áreas críticas, como cuidados médicos, seguros, recursos humanos e finanças. Sob algumas propostas, as empresas seriam obrigadas a fornecer documentação detalhada sobre como a IA é utilizada.
Os custos de conformidade associados a essas novas leis devem aumentar, resultando em custos organizacionais e de gerenciamento que as empresas não haviam previsto.
Custos de conformidade a longo prazo
A experiência da Europa com o Regulamento Geral sobre a Proteção de Dados (GDPR) ilustra essa dinâmica. Estudos mostram que empresas gastaram em média milhões em conformidade inicial, com custos de manutenção anuais que podem chegar a 30% desse investimento inicial.
Apesar do crescente risco regulatório, muitas empresas parecem relutantes em desacelerar a implementação de IA. A IA já está profundamente integrada nas operações das organizações, sendo essencial para agilidade e competitividade.
Expectativas futuras e governança
Com o aumento da conscientização sobre os riscos da IA, espera-se um aumento nas propostas legislativas relacionadas. Algumas jurisdições estão criando comitês para examinar tanto os riscos da IA quanto como as agências governamentais podem usar a tecnologia para melhorar os serviços públicos.
A nível federal, é improvável que o Congresso antecipe as leis estaduais de IA, o que deixa os CIOs planejando com base em regras estaduais que podem mudar ao longo do tempo. Isso é semelhante ao que enfrentam atualmente com as leis de privacidade.
Implicações para os CIOs
Nem toda lei de IA será adotada, e muitas que forem podem perder eficácia. A maioria das leis tende a limitar o uso da tecnologia, em vez de proibi-la completamente. Isso coloca uma ênfase maior na governança interna. Se os CIOs estabelecerem estruturas fortes para a implementação da IA, poderão reagir melhor às mudanças legislativas.
Ainda assim, as mudanças regulatórias podem deixar as empresas com sistemas que são tecnicamente sólidos, mas legalmente inutilizáveis. Para gerenciar esse risco, os CIOs devem negociar cláusulas contratuais que ofereçam direitos de rescisão caso as regulamentações tornem o uso de um sistema impossível ou impraticável.
Conclusão
Os CIOs devem antecipar não apenas a reação pública e política à IA, mas também a maneira como essa tecnologia pode ser percebida. Com as ações dos estados em relação à IA, a única certeza é que eles podem agir de maneiras surpreendentes, e os CIOs precisarão estar preparados.
