Nova Lei de Segurança em IA de Nova York
Recentemente, os legisladores do estado de Nova York aprovaram um projeto de lei que visa prevenir desastres causados por modelos de IA de ponta. O projeto, conhecido como RAISE Act, busca regular as práticas das maiores empresas de IA, como OpenAI, Google e Anthropic, estabelecendo normas de segurança e transparência.
Objetivos do RAISE Act
O RAISE Act representa uma vitória para o movimento de segurança em IA, que tem enfrentado desafios nos últimos anos, especialmente com o foco da indústria em velocidade e inovação. A lei estabelece a primeira série de padrões de transparência legalmente exigidos para laboratórios de IA de ponta nos Estados Unidos. Se aprovada, ela exigirá que as maiores empresas de IA publiquem relatórios detalhados sobre segurança e comportamento de seus modelos.
Comparação com a Lei da Califórnia
O RAISE Act possui algumas semelhanças com a controversa lei de segurança em IA da Califórnia, o SB 1047, que foi vetada. No entanto, o co-patrocinador do projeto, o senador de Nova York Andrew Gounardes, projetou o RAISE Act para não sufocar a inovação entre startups ou pesquisadores acadêmicos, uma crítica comum ao SB 1047.
Importância da Transparência
O senador Gounardes enfatizou que “a janela para implementar guardrails está rapidamente se fechando, dado o quão rápido essa tecnologia está evoluindo”. A lei tem como objetivo regular as maiores empresas de IA, independentemente de sua localização, e exige que relatem incidentes de segurança, como comportamentos preocupantes de modelos de IA ou roubo de modelos.
Punições e Consequências
Se as empresas não cumprirem os padrões estabelecidos pelo RAISE Act, o procurador-geral de Nova York poderá impor penalidades civis de até $30 milhões. Os requisitos de transparência se aplicam a empresas que treinaram seus modelos de IA usando mais de $100 milhões em recursos computacionais, o que abrange a maioria dos modelos de IA disponíveis atualmente.
Reações da Indústria
A resistência da indústria de tecnologia ao RAISE Act foi significativa. O assembleísta de Nova York e co-patrocinador do ato, Alex Bores, defendeu que a lei não limitará a inovação das empresas de tecnologia. Contudo, críticos como Anjney Midha, parceiro geral da Andreessen Horowitz, consideraram a lei uma “stupid, stupid state level AI bill” que prejudicaria os EUA em um momento em que adversários estão avançando.
Impacto Potencial para Pequenas Empresas
Críticos também levantaram preocupações de que os desenvolvedores de modelos de IA poderiam optar por não oferecer seus modelos mais avançados no estado de Nova York. No entanto, Bores afirmou que a carga regulatória do RAISE Act é relativamente leve e não deve impedir as empresas de operar em Nova York, que possui a terceira maior economia dos EUA.
Conclusão
O RAISE Act é um passo significativo na regulação da IA, mas seu impacto real dependerá da implementação e da resposta das empresas de tecnologia. Com a evolução rápida da IA, a necessidade de regulamentação e segurança se torna cada vez mais crítica.
