A Califórnia promulgou novas leis de segurança e transparência em IA, exigindo que as empresas forneçam notificações prévias e avaliações de risco ao usar tecnologias de tomada de decisão automatizada. O governador Newsom vetou a proposta ‘No Robo Bosses Act’, que buscava regular o uso de sistemas de decisão automatizada nas empresas.
O monitoramento de segurança em inteligência artificial não é mais opcional, pois interações com clientes impulsionadas por IA são críticas para os negócios. A falta de monitoramento pode resultar em respostas tóxicas e enviesadas que ameaçam a confiança do cliente e a conformidade regulatória.
Este blog examina 18 leis relacionadas à IA que a Califórnia promulgou em 2024, com 8 delas exploradas em mais detalhes em um blog acompanhante do CSET Emerging Technology Observatory (ETO). O texto também cronica a história da Califórnia na regulamentação da IA e outras tecnologias emergentes, além de destacar vários projetos de lei sobre IA que passaram pela legislatura da Califórnia em 2025.
Ekaterina Zaharieva, comissária de startups da União Europeia, defende que há muita propaganda contra a Lei de IA, afirmando que um regime unificado é essencial para manter a confiança no setor. Ela também anunciou um fundo de €5 bilhões para ajudar startups a se tornarem players globais sem precisar sair da Europa.
A Comissão Europeia está considerando moderar suas leis de IA em resposta à pressão de empresas de tecnologia dos EUA, mas nega que os EUA tenham influência sobre sua agenda legislativa. O ato de IA proíbe sistemas de risco considerados “inaceitáveis” e impõe requisitos rigorosos em áreas de alto risco, como saúde e policiamento.
A Lei de Inteligência Artificial do Colorado entrará em vigor em 1º de fevereiro de 2026, regulamentando sistemas de IA considerados “de alto risco” em áreas como contratação e concessão de empréstimos. Os empregadores devem se preparar agora, revisando contratos com fornecedores e realizando avaliações de risco para garantir a conformidade.
A próxima crise da IA pode não vir do que ela faz, mas do que faz sem permissão. A Governança de IA baseada em Checkpoints garante que cada decisão relevante da IA receba aprovação humana documentada antes da implementação, aumentando a intensidade da supervisão à medida que a capacidade da IA cresce.
À medida que a Inteligência Artificial continua sua ascensão rápida, uma conclusão crítica se solidifica: o sucesso e a integração ética da IA dependem totalmente de uma governança robusta e de estratégias de dados resilientes. Organizações que aceleram sua adoção de IA estão percebendo que essas não são meramente caixas de verificação de conformidade, mas pilares fundamentais que determinam sua capacidade de inovar de forma responsável.
A Comissão Europeia está considerando adiar partes de sua Lei de Inteligência Artificial após pressão de empresas de tecnologia dos EUA e do governo americano. A proposta pode incluir um período de “carência” de um ano para empresas que utilizam IA de alto risco, permitindo mais tempo para se adaptarem às novas regras.
Recentemente, tenho refletido sobre como a inovação em IA está superando rapidamente as regras que a orientam. A Lei de Inteligência Artificial da União Europeia é a primeira tentativa significativa de acompanhar essa mudança, estabelecendo diretrizes claras sobre o que deve ser a “IA responsável” na prática.