A Veto do Ato de IA da Califórnia
Recentemente, a legislação estadual da Califórnia sobre a regulação da inteligência artificial (IA) foi vetada, levantando discussões sobre os riscos que os sistemas de IA representam para a segurança pública e a necessidade de regulamentação adequada.
Contexto da Legislação SB 1047
Em agosto de 2024, a legislatura da Califórnia aprovou o SB 1047, conhecido como o Ato de Inovação Segura e Segura para Modelos de Inteligência Artificial de Fronteira. Este projeto visava regular o desenvolvimento de modelos de IA de grande porte, impondo responsabilidades a seus desenvolvedores para evitar danos críticos.
O projeto de lei foi objeto de intensos lobby, resultando em uma atmosfera de polarização entre defensores e opositores. O governador da Califórnia, Gavin Newsom, acabou vetando o projeto, destacando preocupações sobre seu impacto na inovação tecnológica no estado.
Principais Características do SB 1047
O SB 1047 estabelecia que os desenvolvedores de modelos de IA de grande porte seriam responsáveis por garantir que seus sistemas não causassem danos críticos, que foram definidos em quatro categorias:
- Criação ou uso de armas químicas, biológicas, radiológicas ou nucleares causando mortes em massa;
- Ciberataques em infraestrutura crítica resultando em mortes em massa ou danos superiores a $500 milhões;
- Danos corporais ou materiais que seriam considerados crimes se causados por humanos;
- Outros danos graves à segurança pública.
O projeto exigia que os desenvolvedores instalassem um sistema de desligamento para interromper a operação de sistemas de IA antes que se tornassem autônomos e potencialmente perigosos. Além disso, as empresas teriam que submeter auditorias independentes anualmente.
Comparação com o Ato de IA da União Europeia
Embora o SB 1047 e o Ato de IA da União Europeia compartilhassem preocupações sobre a segurança e os riscos sociais associados à IA, eles diferiam em vários aspectos. O SB 1047 focava principalmente nos desenvolvedores de modelos de grande porte, enquanto o ato europeu abrangia uma gama mais ampla de usuários e aplicações da IA.
Proponentes e Opositores do SB 1047
O apoio ao SB 1047 veio de importantes empresas de tecnologia, como a Anthropic, que acreditavam que a legislação era um mínimo regulatório eficaz. Por outro lado, grandes empresas como Google e Meta expressaram preocupações sobre o impacto da regulamentação na inovação e competitividade dos EUA no setor de IA.
Os críticos, incluindo acadêmicos de renome, argumentaram que a legislação poderia limitar o acesso a modelos abertos necessários para a pesquisa e desenvolvimento.
Reações do Governador Newsom
O governador Newsom justificou seu veto ao afirmar que a legislação poderia prejudicar a inovação na indústria de IA da Califórnia. Ele enfatizou a importância de regulamentações baseadas em evidências empíricas e a necessidade de uma abordagem equilibrada que não inibisse o crescimento da tecnologia.
Conclusão
A questão da regulamentação da IA continua a ser um tema controverso. Enquanto alguns defendem que medidas rigorosas são necessárias para proteger a sociedade de danos críticos, outros alertam para os riscos de sufocar a inovação. O veto ao SB 1047 pode servir como um ponto de partida para um debate mais amplo sobre como a regulamentação da IA deve ser abordada no futuro.
