De acordo com o Relatório de Segurança de Dados de IA de 2025 da Cyera, a adoção de IA está superando a governança de dados e os controles necessários, resultando em preocupações com a privacidade e segurança. 66% dos entrevistados relataram que a IA teve acesso excessivo a dados sensíveis, destacando a falta de monitoramento em tempo real e políticas adequadas de governança.
Na Califórnia, foi aprovada a nova lei “Transparency in Frontier Artificial Intelligence Act” (TFAIA), que exige que grandes desenvolvedores de IA publiquem protocolos de segurança e relatórios de transparência. A lei também oferece proteção aprimorada para denunciantes que relatam violações de segurança relacionadas à IA.
Em 29 de setembro de 2025, o governador da Califórnia, Gavin Newsom, sancionou a Lei de Transparência em Inteligência Artificial na Fronteira (TFAIA), que exige que desenvolvedores de IA revelem publicamente um framework de segurança e relatórios de transparência sobre o uso e restrições de seus modelos. Esta legislação pioneira representa a primeira regulamentação significativa da Califórnia sobre desenvolvedores de IA.
Em 29 de setembro, o governador da Califórnia, Gavin Newsom, assinou a lei Transparency in Frontier Artificial Intelligence Act, tornando a Califórnia o primeiro estado a exigir divulgações de segurança padronizadas e públicas por desenvolvedores de modelos de inteligência artificial avançada. A lei, que entra em vigor em janeiro de 2026, impõe penalidades civis de até US$ 1.000.000 por violação e se aplica a desenvolvedores de modelos “fronteiriços” que superam um certo limite de capacidade computacional.
A Califórnia promulgou a Lei de Transparência em Inteligência Artificial SB 53, que exige que grandes desenvolvedores de IA publiquem em seus sites uma descrição de como integram normas nacionais e internacionais em seus frameworks de IA. A nova legislação também estabelece um mecanismo para responder publicamente a perguntas do público, garantindo a transparência dos processos.
A gestão e a governança de dados são fundamentais para o sucesso das iniciativas de IA, de acordo com especialistas da InfoVerge. Eles destacaram a importância de construir uma base de dados robusta e implementar um quadro de governança eficaz para escalar com confiança as soluções de IA.
À medida que os modelos de linguagem (LLMs) se tornam comuns em áreas como saúde, finanças, educação e até na tomada de decisões políticas, suas respostas podem influenciar a percepção das pessoas sobre questões e a participação no debate público. Um novo estudo alerta que os preconceitos sutis nos sistemas de IA podem distorcer o discurso público e minar os processos democráticos.
Com a adoção acelerada da IA generativa, os riscos associados também aumentam. Ferramentas de governança de IA oferecem uma maneira de gerenciar esses riscos, mas escolher a solução certa em um mercado saturado e em rápida evolução é um desafio complexo.
Os legisladores da Califórnia fizeram história ao aprovar uma lei inovadora de transparência em IA focada nos “modelos de fronteira”, os sistemas de inteligência artificial mais avançados em desenvolvimento. Esta legislação, conhecida como a Lei de Transparência em Inteligência Artificial de Fronteira (SB 53), estabelece novos requisitos para transparência e governança de riscos, visando promover a inovação e proteger os direitos civis.
A UE está criando diretrizes e um Código de Prática para ajudar os desenvolvedores e fornecedores de sistemas de IA a se manterem em conformidade com a Lei de IA, definindo obrigações de transparência para sistemas de categorização biométrica e reconhecimento de emoções. A consulta está aberta até 2 de outubro e convida partes interessadas a compartilhar suas opiniões sobre essas questões.