O Ato de IA da UE representa uma mudança regulatória significativa, estabelecendo novos padrões para o desenvolvimento e uso de inteligência artificial na União Europeia. Este artigo explora áreas críticas onde as equipes de cibersegurança e privacidade devem se concentrar para garantir a conformidade e aproveitar as oportunidades apresentadas pelo Ato de IA da UE.
As tecnologias de reconhecimento emocional (ERTs) têm sido objeto de controvérsia e sua regulação está em debate, especialmente no contexto do AI Act da União Europeia. Embora o ato proíba a inferência explícita do estado emocional dos indivíduos, ele permite a identificação das expressões emocionais, criando uma potencial lacuna na proteção dos usuários.
Os governos em todo o mundo estão enfrentando a rápida expansão da IA e lutam para equilibrar a regulamentação com o desenvolvimento e a inovação. A abordagem varia, com a União Europeia buscando um quadro legal rigoroso, enquanto os EUA adotam uma atitude mais flexível e voltada para o crescimento econômico.
Em 12 de fevereiro de 2025, a Autoridade Europeia de Seguros e Pensões Ocupacionais (“EIOPA”) publicou uma consulta sobre sua opinião preliminar sobre a governança e gestão de riscos da inteligência artificial (“IA”). A opinião visa esclarecer os principais princípios e requisitos na legislação setorial de seguros para sistemas de IA que não são proibidos ou considerados de alto risco sob o Regulamento (UE) 2024/1689.
A indústria de tecnologia expressou preocupações significativas sobre um novo rascunho do Código de Prática para Inteligência Artificial de Uso Geral (GPAI), que visa ajudar os provedores de IA a cumprir a Lei de IA da UE. Os representantes do setor argumentam que o rascunho apresenta problemas sérios, especialmente em relação às obrigações de direitos autorais e avaliações de risco externas.
O governo central da Espanha aprovou um projeto de lei para regular o uso ético e inclusivo da inteligência artificial, que inclui a obrigatoriedade de rotulação de conteúdos gerados por IA. O ministro da transformação digital, Óscar López, afirmou que essa regulação visa proteger os cidadãos e harmonizar a legislação nacional sobre novas ferramentas digitais.
O autor, um acadêmico de direitos humanos da Universidade de Nottingham, argumenta que os sistemas de IA estão criando danos sociais novos que minam a independência judicial e manipulam a formação da opinião política. Este artigo se concentra nos riscos e danos que esses sistemas representam para o estado de direito, destacando questões relacionadas à opacidade algorítmica e à falta de salvaguardas legais adequadas.
Várias associações editoriais francesas apresentaram uma queixa legal conjunta contra a Meta por uso não autorizado de trabalhos protegidos por direitos autorais para treinar sua inteligência artificial generativa. Elas buscam a remoção de diretórios de dados criados sem autorização e a proteção e compensação para criadores e autores cujas obras foram utilizadas no treinamento de modelos de IA generativa.
No recente cúpula de Paris sobre inteligência artificial (IA), o Vice-Presidente JD Vance declarou que os Estados Unidos seguiriam seu próprio caminho em relação à IA, resistindo a regulamentações excessivas da União Europeia. Apesar da pressão por inovação, continua incerta a forma como os EUA promoverão essa inovação sem comprometer a segurança.
O lançamento da Lei de IA da UE apresenta desafios significativos para as empresas que operam na União Europeia, exigindo a implementação de uma robusta estrutura de gerenciamento de riscos. As organizações devem se preparar para uma mudança regulatória contínua em 2025 e além, garantindo conformidade com as novas exigências que virão.
