A Lei de Transparência em IA da Califórnia (CAITA) pode ser Alterada para Regular Plataformas de Mídia Social
No ano passado, a Assembleia Geral da Califórnia aprovou a Lei de Transparência em IA da Califórnia (CAITA), que foi sancionada pelo Governador Gavin Newsom em 19 de setembro de 2024 e entrará em vigor em 1º de janeiro de 2026. No entanto, este ano, a mesma Assembleia Geral aprovou a AB 853, uma emenda à CAITA com implicações potencialmente abrangentes.
A CAITA atualmente se aplica apenas a certos provedores de sistemas de inteligência artificial generativa (GenAI) acessíveis ao público. No entanto, a versão emendada da CAITA afirma que “grandes plataformas online” e fabricantes de dispositivos de “captura” também devem cumprir certos requisitos de preservação de dados e divulgação.
Definições de Plataforma e Dispositivos
A AB 853 define grandes plataformas online como plataformas de mídia social com pelo menos dois milhões de usuários mensais durante os doze meses anteriores; os dispositivos de captura são “dispositivos que podem gravar fotografias, áudio ou vídeo”. A definição de “provedor coberto” sob a CAITA original já incluía essas plataformas e dispositivos, se estivessem envolvidos na provisão ou licenciamento de um sistema de GenAI coberto, mas agora sua cobertura sob a CAITA emendada seria explícita e suas obrigações mais especificamente ajustadas.
Próximos Passos
O Governador Newsom tem até 12 de outubro de 2025 para sancionar a AB 853, após o que a data de entrada em vigor dos requisitos gerais da CAITA será adiada até 2 de agosto de 2026. Se o governador não assinar a AB 853, a versão atual da CAITA entrará em vigor em 1º de janeiro de 2026.
Visão Geral da Versão Atual da CAITA
A versão atual da CAITA é, em essência, uma lei de notificação. Ela exige que certos negócios que produzem saídas de GenAI incluam divulgações “latentes” dentro dessas saídas. Uma divulgação “latente” é definida pela lei como “presente, mas não manifesta”. Os negócios cobertos devem oferecer aos usuários a opção de incluir divulgações “manifestas” em suas saídas de GenAI, com “manifesta” definida como “facilmente percebida, compreendida ou reconhecida por uma pessoa natural”.
A CAITA atualmente se aplica a qualquer pessoa ou empresa “que cria, codifica ou de outra forma produz um sistema de GenAI que tem mais de 1.000.000 de visitantes ou usuários mensais e é acessível publicamente dentro das fronteiras geográficas da Califórnia.” A AB 853 não mudaria essas disposições, apenas estenderia sua data de entrada em vigor.
A Emenda à CAITA
A emenda proposta à CAITA exigiria que grandes plataformas online detectassem e mantivessem dados de proveniência — semelhante a um registro de cadeia de custódia para dados de treinamento — em conformidade com padrões amplamente aceitos da indústria e fornecessem aos usuários uma interface para inspecionar esses dados de proveniência.
Além disso, os fabricantes de dispositivos de captura, na medida do tecnicamente viável, devem fornecer aos usuários a opção de incluir informações de divulgação latente especificadas no conteúdo que capturam ou alteram. Esses requisitos são mais detalhados e, portanto, potencialmente mais onerosos do que os requisitos na lei existente.
Impacto dos Requisitos de Preservação de Dados de Proveniência
Ao contrário da versão atual da CAITA, a emenda proposta exigiria que grandes plataformas online armazenassem dados de proveniência de forma que possam ser facilmente inspecionados pelos usuários. Também proibiria essas plataformas de remover intencionalmente esses dados de proveniência. A preservação e a disponibilização desses dados de proveniência provavelmente acarretarão custos, como custos operacionais para armazenamento, gerenciamento e segurança de dados.
As entidades regulamentadas, incluindo plataformas, também devem garantir que essas divulgações latentes em saídas geradas por IA sejam preservadas de maneira que possam ser identificadas por uma ferramenta de detecção de IA. Haverá um custo associado a esse requisito, pois, dependendo dos padrões e tecnologias usados para criar divulgações latentes, essas ferramentas de detecção de IA podem ser específicas para plataformas ou mais universais, de modo que também possam detectar conteúdo de GenAI de plataformas de mídia social e dispositivos de captura.
Penalidades e Implicações da CAITA
Independentemente de o Governador Newsom assinar ou não a AB 853, o impacto mais significativo da CAITA decorrerá das penalidades impostas às empresas por remover ou falhar em manter dados de proveniência, e da exigência de que provedores cobertos ofereçam ferramentas de detecção de IA aos usuários. Essas penalidades incluem responsabilidade no valor de $5.000 por violação e honorários advocatícios para o autor vitorioso.
Esses requisitos podem ajudar a combater a desinformação, mas também podem criar uma falsa sensação de segurança que permite que atores mal-intencionados mais sofisticados explorem a confiança dos usuários nessas ferramentas como fonte de verdade. Além disso, permanece incerto se essas ferramentas de detecção devem ser capazes de identificar conteúdo gerado por qualquer sistema ou apenas conteúdo gerado pelo provedor coberto que oferece essa ferramenta específica.
Cronograma de Implementação da AB 853
| Provisões da CAITA | Data de Entrada em Vigor |
|---|---|
| Provisões Gerais | 2 de agosto de 2026 |
| Provisões para Grandes Plataformas Online | 1º de janeiro de 2027 |
| Provisões para Fabricantes de Dispositivos de Captura | 1º de janeiro de 2028 |
