As ferramentas de inteligência artificial (IA) estão se espalhando rapidamente pelos locais de trabalho, mudando a forma como as tarefas diárias são realizadas. A adoção da IA está ocorrendo de forma não monitorada, levando ao surgimento da “shadow AI” como um novo ponto cego de segurança que as organizações precisam abordar.
O governo federal da Austrália está considerando o uso de programas de inteligência artificial para redigir submissões sensíveis ao gabinete, apesar das preocupações com a segurança e possíveis violações de dados. A ministra das Finanças, Katy Gallagher, anunciou que o serviço público desenvolverá seu próprio programa de IA para aumentar a produtividade entre os funcionários governamentais.
À medida que as instituições financeiras adotam a IA para automatizar a conformidade, surge uma questão crucial: realmente entendemos as decisões desses sistemas? A IA explicável pode oferecer clareza sobre como os algoritmos chegam a conclusões, tornando a conformidade com a regulamentação mais transparente e responsável.
Este blog examina 18 leis relacionadas à IA que a Califórnia promulgou em 2024, com 8 delas exploradas em mais detalhes em um blog acompanhante do CSET Emerging Technology Observatory (ETO). O texto também cronica a história da Califórnia na regulamentação da IA e outras tecnologias emergentes, além de destacar vários projetos de lei sobre IA que passaram pela legislatura da Califórnia em 2025.
Ekaterina Zaharieva, comissária de startups da União Europeia, defende que há muita propaganda contra a Lei de IA, afirmando que um regime unificado é essencial para manter a confiança no setor. Ela também anunciou um fundo de €5 bilhões para ajudar startups a se tornarem players globais sem precisar sair da Europa.
A Comissão Europeia está considerando moderar suas leis de IA em resposta à pressão de empresas de tecnologia dos EUA, mas nega que os EUA tenham influência sobre sua agenda legislativa. O ato de IA proíbe sistemas de risco considerados “inaceitáveis” e impõe requisitos rigorosos em áreas de alto risco, como saúde e policiamento.
A próxima crise da IA pode não vir do que ela faz, mas do que faz sem permissão. A Governança de IA baseada em Checkpoints garante que cada decisão relevante da IA receba aprovação humana documentada antes da implementação, aumentando a intensidade da supervisão à medida que a capacidade da IA cresce.
À medida que a Inteligência Artificial continua sua ascensão rápida, uma conclusão crítica se solidifica: o sucesso e a integração ética da IA dependem totalmente de uma governança robusta e de estratégias de dados resilientes. Organizações que aceleram sua adoção de IA estão percebendo que essas não são meramente caixas de verificação de conformidade, mas pilares fundamentais que determinam sua capacidade de inovar de forma responsável.
A Comissão Europeia está considerando adiar partes de sua Lei de Inteligência Artificial após pressão de empresas de tecnologia dos EUA e do governo americano. A proposta pode incluir um período de “carência” de um ano para empresas que utilizam IA de alto risco, permitindo mais tempo para se adaptarem às novas regras.
Recentemente, tenho refletido sobre como a inovação em IA está superando rapidamente as regras que a orientam. A Lei de Inteligência Artificial da União Europeia é a primeira tentativa significativa de acompanhar essa mudança, estabelecendo diretrizes claras sobre o que deve ser a “IA responsável” na prática.