Lei de Transparência na Inteligência Artificial de Fronteira da Califórnia Aprovada
Data-chave: A Califórnia aprova a primeira lei do país focada na regulamentação de modelos de inteligência artificial de fronteira.
No dia 29 de setembro de 2025, o Governador da Califórnia, Gavin Newsom, assinou a SB 53 — a Lei de Transparência na Inteligência Artificial de Fronteira (TFAIA) — tornando-a lei. Segundo a análise do Senado, a lei “exige que grandes desenvolvedores de inteligência artificial (IA) publiquem estruturas de segurança, divulguem relatórios de transparência específicos e relatem incidentes críticos de segurança ao Escritório de Serviços de Emergência (OES).” A lei também “cria proteções aprimoradas para denunciantes que reportam violações de segurança da IA e estabelece um consórcio para projetar uma estrutura para ‘CalCompute’, uma plataforma de nuvem pública para expandir a pesquisa segura e equitativa em IA.” Tanto Newsom quanto seu patrocinador principal, o Senador Scott Wiener, elogiaram a lei como um equilíbrio apropriado entre inovação e a imposição de guardrails sensatos sobre modelos de IA de fronteira.
Contexto
A TFAIA é a sucessora da SB 1047 (a Lei de Inovação Segura e Segura para Modelos de IA de Fronteira). A SB 1047 passou pela legislatura da Califórnia, mas foi vetada por Newsom devido a temores de que impactasse negativamente a economia de IA da Califórnia. Antes do veto, o projeto causou significativa controvérsia no Vale do Silício. Simultaneamente ao veto, o governador anunciou um grupo de trabalho para considerar novos esforços legislativos. O grupo de trabalho lançou seu relatório em março. A TFAIA passou por ambas as câmaras legislativas com margens amplas — 59 a 7 na Assembleia e 29 a 8 no Senado — e foi rapidamente assinada por Newsom.
Escopo da Lei
A TFAIA se aplica a “grandes desenvolvedores de fronteira.” Como ponto de partida, a lei define desenvolvedores de fronteira como pessoas que treinaram, estão treinando ou iniciaram o treinamento de um modelo de IA fundamental usando, ou pretendendo usar, uma quantidade de poder computacional maior que 10^26 operações inteiras ou de ponto flutuante em seu processo de desenvolvimento e modificação. Por sua vez, “grande desenvolvedor de fronteira” é definido como um desenvolvedor de fronteira que, juntamente com afiliados, teve uma receita bruta anual superior a $500 milhões no ano anterior.
Os limites de poder computacional e receita bruta anual provavelmente restringem a aplicabilidade da lei a corporações de tecnologia de escala global. A TFAIA reconhece os “amplos benefícios para os californianos e a economia da Califórnia” que o desenvolvimento de IA traz e afirma que “modelos fundamentais desenvolvidos por empresas menores podem [levantar a necessidade de] legislação adicional… naquele momento.” A TFAIA também visa regular “risco catastrófico”, que é definido como risco que contribuirá materialmente para a morte ou ferimento grave de mais de 50 pessoas ou mais de $1 bilhão em danos à propriedade de um único incidente.
Obrigações de Transparência
Estrutura de IA
A lei estabelece um conjunto de obrigações para grandes desenvolvedores de fronteira, exigindo que adotem e divulguem protocolos de segurança projetados para reduzir a chance de riscos catastróficos. Especificamente, grandes desenvolvedores de fronteira devem publicar uma “estrutura de IA de fronteira” detalhada em seu site, que deve incluir, entre outras coisas, avaliações de risco para cenários catastróficos, medidas tomadas para mitigar esses riscos, estruturas de governança interna, medidas de cibersegurança para proteger pesos de modelos não lançados e planos de resposta a incidentes. Além disso, a estrutura deve explicar como o grande desenvolvedor de fronteira incorpora padrões nacionais e internacionais e aplica as melhores práticas da indústria. Espera-se que os desenvolvedores também utilizem avaliadores de terceiros para testar se suas estratégias de mitigação são eficazes.
A lei envolve mais do que uma divulgação única dessa estrutura; grandes desenvolvedores de fronteira devem atualizar suas estruturas anualmente, e quaisquer alterações devem ser tornadas públicas dentro de 30 dias.
A lei também proíbe grandes desenvolvedores de fronteira de fazer declarações falsas ou enganosas sobre risco catastrófico ou sua adesão à sua estrutura publicada. Além disso, a lei permite que grandes desenvolvedores de fronteira façam redações de suas divulgações públicas que sejam necessárias para proteger seus segredos comerciais, interesses de cibersegurança, segurança pública ou segurança nacional. No entanto, os desenvolvedores devem manter versões não redigidas desses registros por pelo menos cinco anos.
Relatório de Transparência
Sempre que um novo modelo de fronteira ou um modelo substancialmente alterado for implantado, o desenvolvedor deve liberar um relatório de transparência delineando os usos, limitações ou restrições do modelo e sua avaliação de risco catastrófico.
Obrigações de Relato
Além dos requisitos de publicação, a TFAIA exige comunicação regular com as autoridades governamentais. Grandes desenvolvedores de fronteira são obrigados a enviar resumos de suas avaliações de risco catastrófico ao OES a cada três meses ou de acordo com um cronograma designado.
Relato de Segurança Crítica
Nos termos da TFAIA, o OES estabelecerá um mecanismo pelo qual um desenvolvedor de fronteira deve relatar um incidente crítico de segurança dentro de 15 dias da ocorrência. Se um incidente crítico de segurança representar um risco iminente de morte ou ferimento físico grave, o desenvolvedor de fronteira deve divulgar esse incidente a uma autoridade governamental dentro de 24 horas. Além disso, o OES estabelecerá um mecanismo para que um grande desenvolvedor de fronteira possa submeter confidencialmente relatórios de avaliação de risco catastrófico.
Recomendações para Atualizações
A TFAIA exige atualizações anuais para permitir que o estatuto acompanhe o desenvolvimento tecnológico. A partir de 1º de janeiro de 2027, o Departamento de Tecnologia será obrigado a avaliar anualmente o desenvolvimento tecnológico, a pesquisa científica e os padrões internacionais para atualizar as definições de “modelo de fronteira”, “desenvolvedor de fronteira” e “grande desenvolvedor de fronteira.” A partir de 1º de janeiro de 2027, o procurador-geral da Califórnia também será obrigado a apresentar um relatório anual para informar a legislatura e o governador, cobrindo informações anonimizadas e agregadas de denunciantes cobertos.
Aplicação
Se um grande desenvolvedor de fronteira (1) não publicar ou transmitir um documento em conformidade exigido pela lei, (2) fizer uma declaração falsa ou enganosa em violação à proibição da lei, (3) não relatar um incidente conforme exigido pela lei ou (4) não cumprir sua própria estrutura de IA de fronteira, o procurador-geral do estado pode buscar uma penalidade civil de até $1 milhão por violação.
CalCompute
A TFAIA estabelece um consórcio para projetar uma estrutura para “CalCompute”, um cluster de computação em nuvem pública destinado a promover uma IA segura e equitativa. Após a apropriação, o consórcio incluirá uma plataforma de nuvem totalmente possuída com a expertise necessária para operação e suporte. Até 1º de janeiro de 2027, o consórcio deve apresentar um relatório abrangente à legislatura detalhando a estrutura, custos, governança e recomendações de força de trabalho para a criação e operação do CalCompute.
Proteções para Denunciantes
A TFAIA proíbe que desenvolvedores de fronteira impeçam ou retaliem empregados responsáveis por avaliar, gerenciar ou abordar riscos de incidentes críticos de segurança de divulgar sua crença razoável de que as atividades do desenvolvedor de fronteira representam um perigo substancial para a saúde ou segurança pública, ou violam a lei. Os desenvolvedores de fronteira também devem fornecer aviso escrito claro a todos os seus empregados sobre esse direito como denunciantes pelo menos uma vez por ano. Os grandes desenvolvedores de fronteira têm a obrigação adicional de estabelecer um processo interno razoável pelo qual um denunciante possa submeter informações de boa-fé sobre quaisquer riscos para notificar os diretores e executivos do desenvolvedor de fronteira, que devem revisar essas informações pelo menos uma vez por trimestre. Um denunciante também é protegido ao poder mover uma ação civil sob a lei contra um desenvolvedor de fronteira para obter uma medida cautelar e, em um caso bem-sucedido, até recuperar honorários advocatícios.
