Europa proíbe inteligência artificial de rastreamento emocional sob novas regras de IA
A Europa tomou uma decisão histórica ao banir tecnologias de inteligência artificial (IA) capazes de rastrear emoções dos funcionários através de webcams e sistemas de reconhecimento de voz. Essa medida faz parte das novas diretrizes de IA elaboradas pela União Europeia (UE).
Diretrizes da UE sobre IA
A partir de 2 de agosto, os sites nos países da UE também estarão proibidos de usar tecnologias de IA que enganem as pessoas para que gastem dinheiro. O Ato de Inteligência Artificial, elaborado no ano passado pela Comissão Europeia, representa o primeiro conjunto abrangente de regras sobre IA no mundo, visando proteger os indivíduos contra discriminação, assédio e manipulação baseados em IA.
Segundo um oficial da Comissão, “a ambição é proporcionar segurança jurídica para aqueles que fornecem ou implantam sistemas de inteligência artificial no mercado europeu, bem como para as autoridades de vigilância do mercado. As diretrizes não são legalmente vinculativas.”
Práticas Proibidas
Entre as práticas proibidas estão os padrões obscuros habilitados por IA, que são embutidos em serviços para manipular os usuários a fazer compromissos financeiros substanciais. Além disso, aplicações que exploram usuários com base em fatores como idade, deficiência ou situação socioeconômica também são banidas.
Rastreamento Emocional e Vigilância
As novas regras proíbem que empregadores utilizem webcams e sistemas de reconhecimento de voz para rastrear as emoções dos funcionários. Além disso, câmeras de vigilância móvel equipadas com tecnologias de reconhecimento facial baseadas em IA para fins de aplicação da lei são proibidas, com algumas exceções limitadas e salvaguardas rigorosas.
Consequências e Prazos
Os países da UE têm até 2 de agosto para designar autoridades de vigilância do mercado que farão a aplicação das regras de IA. As violações das normas de IA podem resultar em multas que variam de 1,5% a 7% da receita global total das empresas.
Comparação Internacional
O Ato de IA da UE é mais abrangente do que a abordagem de conformidade voluntária da Estados Unidos, enquanto a abordagem da China visa manter a estabilidade social e o controle estatal. Alguns especialistas alertam que o ritmo de desenvolvimento na indústria de IA, juntamente com mudanças políticas significativas nos últimos meses, pode fazer com que as diretrizes se tornem obsoletas antes de entrarem em vigor.
Desafios Futuros
Entre os últimos desenvolvimentos está uma iminente guerra comercial desencadeada por tarifas introduzidas pelo presidente dos EUA, Donald Trump. Fiona Ghosh, uma parceira do escritório de advocacia Ashurst, declarou que “as diretrizes não podem navegar pelo novo cenário político”.
Entretanto, as instituições responsáveis da UE terão que manter sua posição pró-regulamentação independentemente das circunstâncias. O que é claro é que a UE traçou sua linha na areia e não parece estar disposta a recuar.
