Legisladores de Nova York Buscam Evitar ‘Dano Crítico’ com a IA
Os legisladores do estado de Nova York estão se movendo para impor novos requisitos de segurança para os modelos de inteligência artificial (IA) mais avançados do mundo. No entanto, os legisladores federais ameaçam usurpar essas novas regras antes que possam ser implementadas.
O Projeto de Lei RAISE
A Assembleia do estado aprovou um projeto de lei na semana passada que exigiria que os desenvolvedores dos maiores modelos de IA de ponta elaborassem planos de segurança abrangentes. Esses planos devem descrever as etapas que foram tomadas para reduzir o risco de causar dano sério.
O projeto, conhecido como Responsible AI Safety and Education (RAISE), também exigiria que os desenvolvedores informassem ao estado sobre incidentes de segurança significativos, como um modelo agindo por conta própria sem a intervenção de um usuário. A proposta tornaria os desenvolvedores responsáveis por certas violações da lei, permitindo que o procurador-geral do estado buscasse multas civis que podem chegar a dezenas de milhões de dólares.
Pressão de Empresas de Tecnologia
Organizações de tecnologia e seus grupos comerciais já estão pressionando a governadora Kathy Hochul a vetar a medida, argumentando que ela poderia sufocar a inovação em um campo transformador. Isso ocorre enquanto o Congresso considera proibir os estados de regular a IA pelos próximos 10 anos, o que poderia efetivamente matar a medida antes que ela tenha a chance de entrar em vigor.
Os apoiadores do projeto de lei, no entanto, estão instando Hochul a assiná-lo, afirmando que os federais não estão agindo rapidamente o suficiente para regular uma indústria de IA que está em rápida evolução e que tem um enorme potencial para provocar mudanças no mundo.
Detalhes do Projeto de Lei
O projeto de lei RAISE foi um dos muitos aprovados nos dias finais da sessão legislativa anual no Capitólio do estado em Albany. O deputado Alex Bores, um democrata de Manhattan, patrocinou o projeto junto com o senador estadual Andrew Gounardes, um democrata do Brooklyn.
O projeto se aplicaria aos desenvolvedores de modelos de IA considerados fronteiriços — as tecnologias mais avançadas do campo — que são desenvolvidas, implantadas ou destinadas a operar em Nova York.
Os desenvolvedores seriam obrigados a implementar seus protocolos de segurança antes da implantação e estariam sujeitos a uma revisão de terceiros, além de terem que disponibilizar essas informações ao Departamento de Segurança Interna e Serviços de Emergência do estado, bem como ao Escritório do Procurador-Geral do estado.
Os protocolos de segurança devem ser projetados para reduzir as chances de “dano crítico”, ou seja, incidentes que são causados ou materialmente habilitados pelo modelo de IA do desenvolvedor e que resultam em 100 ou mais feridos ou mortes, ou mais de $1 bilhão em danos.
Possíveis Consequências e Multas
O procurador-geral teria a capacidade de buscar multas de até $10 milhões por uma primeira violação e até $30 milhões para cada violação subsequente.
Os legisladores da Califórnia já tentaram regular os desenvolvedores de IA de maneira semelhante no ano passado, mas a medida enfrentou uma resistência significativa de alguns setores do Vale do Silício, e a governadora Gavin Newsom acabou vetando-a.
Opiniões da Indústria
A Tech:NYC — um grupo comercial que inclui empresas como Google e Meta, que possuem modelos de IA significativos — se opõe ao projeto RAISE. Julie Samuels, presidente e CEO da Tech:NYC, afirmou que sua organização não se opõe à regulamentação estatal, mas prefere um padrão nacional. No entanto, o grupo acredita que a regulamentação deve ser baseada em usos específicos, como regras para a IA utilizada em processos de tomada de decisão na saúde, em vez da abordagem abrangente do projeto RAISE.
Próximos Passos
A governadora Hochul tem sido uma grande apoiadora da iniciativa Empire AI, um consórcio público-privado dedicado à pesquisa e desenvolvimento de inteligência artificial. No início deste ano, ela e os legisladores estaduais aprovaram medidas que regulamentam companheiros de IA, aplicativos e personagens que oferecem suporte emocional às pessoas.
Um porta-voz da governadora afirmou que Hochul revisaria a legislação.
Enquanto isso, o Congresso continua debatendo se deve proibir temporariamente os estados de regular a IA. A Câmara dos Representantes aprovou um moratório de 10 anos sobre essa regulamentação estatal como parte do amplo projeto de reforma tributária do presidente Donald Trump no mês passado. O Senado ainda não votou sobre a sua versão do projeto, mas um comitê inseriu uma linguagem que suavizou a disposição, permitindo efetivamente que os estados regulamentem a IA, caso estejam dispostos a abrir mão de financiamento federal para banda larga.
A governadora Hochul escreveu uma carta na semana passada ao líder da maioria do Senado, John Thune, e ao líder da minoria, Charles Schumer, se opondo à versão da Câmara da medida, instando os republicanos a rejeitá-la.
“Se essa proibição federal permanecer na reconciliação, o impacto não é meramente um moratório burocrático; ele mina o direito e a responsabilidade fundamentais dos estados de proteger a segurança, saúde, privacidade e vitalidade econômica de seus cidadãos”, afirmou Hochul em sua carta.
