Um painel de especialistas expressou preocupações sobre a recente lei de Inteligência Artificial da UE, que pode representar um ônus significativo para novos produtos de tecnologia médica e afastar desenvolvedores do mercado europeu. Eles esperam que o Digital Omnibus, a ser apresentado em breve, alivie algumas dessas exigências regulatórias.
A União Europeia criou o Regulamento Europeu de Inteligência Artificial, estabelecendo regras claras e vinculativas para o desenvolvimento e uso de IA, visando proteger os direitos fundamentais das pessoas enquanto promove a inovação confiável. Com uma abordagem baseada em riscos, o regulamento classifica a IA em diferentes níveis de risco, garantindo mais direitos e proteção para os cidadãos europeus.
A Califórnia promulgou novas leis de segurança e transparência em IA, exigindo que as empresas forneçam notificações prévias e avaliações de risco ao usar tecnologias de tomada de decisão automatizada. O governador Newsom vetou a proposta ‘No Robo Bosses Act’, que buscava regular o uso de sistemas de decisão automatizada nas empresas.
O monitoramento de segurança em inteligência artificial não é mais opcional, pois interações com clientes impulsionadas por IA são críticas para os negócios. A falta de monitoramento pode resultar em respostas tóxicas e enviesadas que ameaçam a confiança do cliente e a conformidade regulatória.
Ekaterina Zaharieva, comissária de startups da União Europeia, defende que há muita propaganda contra a Lei de IA, afirmando que um regime unificado é essencial para manter a confiança no setor. Ela também anunciou um fundo de €5 bilhões para ajudar startups a se tornarem players globais sem precisar sair da Europa.
A Comissão Europeia está considerando moderar suas leis de IA em resposta à pressão de empresas de tecnologia dos EUA, mas nega que os EUA tenham influência sobre sua agenda legislativa. O ato de IA proíbe sistemas de risco considerados “inaceitáveis” e impõe requisitos rigorosos em áreas de alto risco, como saúde e policiamento.
A próxima crise da IA pode não vir do que ela faz, mas do que faz sem permissão. A Governança de IA baseada em Checkpoints garante que cada decisão relevante da IA receba aprovação humana documentada antes da implementação, aumentando a intensidade da supervisão à medida que a capacidade da IA cresce.
A Comissão Europeia está considerando adiar partes de sua Lei de Inteligência Artificial após pressão de empresas de tecnologia dos EUA e do governo americano. A proposta pode incluir um período de “carência” de um ano para empresas que utilizam IA de alto risco, permitindo mais tempo para se adaptarem às novas regras.
Em 29 de setembro de 2025, o governador da Califórnia, Gavin Newsom, assinou a Lei de Transparência em Inteligência Artificial de Fronteira, tornando a Califórnia o primeiro estado a estabelecer um quadro legal abrangente para garantir transparência e responsabilidade no desenvolvimento de modelos de inteligência artificial avançada. A lei exige que os desenvolvedores publiquem relatórios de transparência e implementem um quadro de IA de fronteira para mitigar riscos catastróficos.
A União Europeia está considerando um atraso significativo nas disposições-chave de sua Lei de Inteligência Artificial, em resposta ao lobby intenso de gigantes da tecnologia dos EUA e à pressão da administração Trump. Essa mudança pode representar um recuo do ambicioso quadro regulatório da Europa, anteriormente considerado um padrão global para a governança de IA.