O Ato de Inteligência Artificial da UE apresenta decisões difíceis para as empresas que operam no bloco, exigindo a criação de uma estrutura robusta de gerenciamento de riscos. As empresas devem encontrar um equilíbrio entre inovação e conformidade em um ambiente regulatório em rápida evolução.
O senador da Califórnia Jerry McNerney apresentou o projeto de lei “No Robo Bosses Act”, que visa garantir a supervisão humana nas decisões tomadas por inteligência artificial no local de trabalho. O projeto de lei estabelece salvaguardas necessárias para proteger os trabalhadores de decisões automatizadas injustas ou ilegais.
O Ato de IA da UE representa uma mudança regulatória significativa, estabelecendo novos padrões para o desenvolvimento e uso de inteligência artificial na União Europeia. Este artigo explora áreas críticas onde as equipes de cibersegurança e privacidade devem se concentrar para garantir a conformidade e aproveitar as oportunidades apresentadas pelo Ato de IA da UE.
As tecnologias de reconhecimento emocional (ERTs) têm sido objeto de controvérsia e sua regulação está em debate, especialmente no contexto do AI Act da União Europeia. Embora o ato proíba a inferência explícita do estado emocional dos indivíduos, ele permite a identificação das expressões emocionais, criando uma potencial lacuna na proteção dos usuários.
Os governos em todo o mundo estão enfrentando a rápida expansão da IA e lutam para equilibrar a regulamentação com o desenvolvimento e a inovação. A abordagem varia, com a União Europeia buscando um quadro legal rigoroso, enquanto os EUA adotam uma atitude mais flexível e voltada para o crescimento econômico.
Em 12 de fevereiro de 2025, a Autoridade Europeia de Seguros e Pensões Ocupacionais (“EIOPA”) publicou uma consulta sobre sua opinião preliminar sobre a governança e gestão de riscos da inteligência artificial (“IA”). A opinião visa esclarecer os principais princípios e requisitos na legislação setorial de seguros para sistemas de IA que não são proibidos ou considerados de alto risco sob o Regulamento (UE) 2024/1689.
A indústria de tecnologia expressou preocupações significativas sobre um novo rascunho do Código de Prática para Inteligência Artificial de Uso Geral (GPAI), que visa ajudar os provedores de IA a cumprir a Lei de IA da UE. Os representantes do setor argumentam que o rascunho apresenta problemas sérios, especialmente em relação às obrigações de direitos autorais e avaliações de risco externas.
O Código de Prática GPAI é um documento que estabelece requisitos de conformidade com a lei de direitos autorais da UE para modelos de IA de uso geral. A versão final do Código está prevista para ser lançada em 2 de maio de 2025.
Várias associações editoriais francesas apresentaram uma queixa legal conjunta contra a Meta por uso não autorizado de trabalhos protegidos por direitos autorais para treinar sua inteligência artificial generativa. Elas buscam a remoção de diretórios de dados criados sem autorização e a proteção e compensação para criadores e autores cujas obras foram utilizadas no treinamento de modelos de IA generativa.
No recente cúpula de Paris sobre inteligência artificial (IA), o Vice-Presidente JD Vance declarou que os Estados Unidos seguiriam seu próprio caminho em relação à IA, resistindo a regulamentações excessivas da União Europeia. Apesar da pressão por inovação, continua incerta a forma como os EUA promoverão essa inovação sem comprometer a segurança.