A Lei de IA da UE: As Primeiras Obrigações Entram em Vigor
A Lei de Inteligência Artificial (IA) da União Europeia (UE) visa criar um quadro legal uniforme para o desenvolvimento, comercialização e uso de sistemas de IA dentro da UE. Este esforço está alinhado com os valores da UE, que incluem a promoção de uma IA humano-cêntrica e confiável, garantindo ao mesmo tempo um alto nível de proteção da saúde, segurança e direitos fundamentais, conforme estabelecido na Carta dos Direitos Fundamentais da União Europeia.
A Lei de IA se aplica a fornecedores que colocam sistemas de IA no mercado ou os colocam em serviço, bem como a usuários que utilizam esses sistemas. Por exemplo, se um empregador utiliza sistemas de IA no processo de recrutamento, ele deverá considerar principalmente as obrigações relacionadas aos usuários.
Alfabetização em IA
A primeira obrigação que entrou em vigor em 2 de fevereiro de 2025 é garantir um nível suficiente de alfabetização em IA. O objetivo é assegurar que todos os indivíduos envolvidos em sistemas de IA dentro da organização possuam as habilidades e conhecimentos necessários para tomar decisões informadas e usar os sistemas de IA de forma responsável.
Ao tomar medidas para garantir um nível adequado de alfabetização em IA, é necessário considerar:
- O conhecimento técnico, experiência, educação e treinamento do pessoal e de outras pessoas que lidam com a operação e uso de sistemas de IA;
- O contexto em que os sistemas de IA serão utilizados.
Os empregadores devem também considerar as pessoas ou grupos sobre os quais os sistemas de IA serão aplicados. A Lei de IA não especifica quais medidas um empregador deve adotar para alcançar um nível ‘suficiente’ de alfabetização em IA, o que dificulta a demonstração de conformidade, mas também oferece uma oportunidade para que os empregadores determinem o que é ‘suficiente’ para sua organização e funcionários.
Por essa razão, as organizações que utilizam sistemas de IA devem organizar cursos de treinamento sobre alfabetização em IA. A implementação de uma política detalhada de uso responsável de IA também contribuiria para atender a essa obrigação de alfabetização.
É importante observar que nem todos os funcionários precisam alcançar o mesmo nível de alfabetização em IA. Não se trata de uma obrigação “tamanho único”, mas de uma que requer uma abordagem mais personalizada. No entanto, todos que entram em contato com a IA são esperados para compreender os princípios básicos, assim como lidar de forma responsável e crítica com os sistemas de IA. A conformidade com essa obrigação é um processo contínuo e dinâmico.
Práticas de IA Proibidas
A partir de 2 de fevereiro de 2025, a Lei de IA proíbe uma série de práticas em IA consideradas inaceitáveis, que vão contra as normas e valores fundamentais europeus, como a violação dos direitos fundamentais consagrados na Carta.
Algumas das práticas de IA que agora estão proibidas incluem:
- Sistemas de IA que utilizam técnicas subliminares além da consciência de uma pessoa ou técnicas manipulativas ou enganosas;
- Sistemas de IA que exploram vulnerabilidades de uma pessoa ou grupo devido à sua idade ou deficiência;
- Sistemas de IA que avaliam ou classificam pessoas com base em seu comportamento social ou características pessoais conhecidas, inferidas ou previstas, levando a tratamento desfavorável;
- Sistemas que criam ou expandem bancos de dados de reconhecimento facial através da coleta indiscriminada de imagens faciais da internet ou filmagens de CCTV;
- Sistemas que inferem as emoções de uma pessoa, exceto quando usados para razões médicas ou de segurança.
As empresas que desenvolvem ou utilizam práticas de IA proibidas estarão sujeitas a multas administrativas de até 35 milhões de euros ou, se o infrator for uma empresa, até 7% de seu faturamento total global anual, o que for maior. Ao impor multas a PMEs e startups, os interesses e a viabilidade econômica serão considerados, podendo resultar em uma multa menor.
Política de IA
Em conformidade com suas obrigações sob a Lei de IA, o Escritório de IA da UE deverá incentivar e facilitar a elaboração de códigos de prática, levando em conta abordagens internacionais.
O termo códigos de conduta é interpretado de forma bastante ampla neste contexto, e não está claro se isso inclui uma Política de IA ou não. No entanto, estabelecer tal política é certamente recomendado. Em uma política de IA, os empregadores podem criar diretrizes claras para o uso de IA dentro da empresa, incluindo quais sistemas de IA podem ser utilizados, por quem e até que ponto os sistemas podem ser aplicados em relação a certos funcionários.
Considerações Finais para Empregadores
As primeiras obrigações sob a Lei de IA já estão em vigor. Esta regulamentação global de IA, há muito esperada, começa a se enraizar no mundo dos negócios, e é crucial que os empregadores estejam plenamente cientes de suas obrigações.
Os empregadores devem:
- Mapear quais sistemas de IA estão sendo utilizados em suas organizações;
- Qualificar esses sistemas de IA com base em seu nível de risco;
- Parar de usar quaisquer sistemas de IA que apresentem um nível inaceitável de risco.
Após isso, devem mapear o nível atual de alfabetização em IA dentro da organização e avaliar quais medidas adicionais são necessárias (por exemplo, treinamentos, regulamentos internos etc.).
Embora não seja obrigatório, também recomendamos a elaboração de uma política de IA com diretrizes claras sobre o uso de IA dentro da empresa. Acreditamos que a criação de uma política de IA é uma maneira relativamente simples e acessível para os empregadores darem o primeiro passo em direção a um nível adequado de alfabetização em IA.
Por fim, é importante estar atento ao que está por vir: as próximas obrigações sob a Lei de IA entrarão em vigor em 2 de agosto de 2025.
As consequências de não cumprir as obrigações são significativas, e assim, recomenda-se que os empregadores considerem buscar assessoria legal profissional se tiverem qualquer dúvida sobre recursos humanos, privacidade e IA dentro de suas organizações, ou se desejarem ajuda para elaborar uma política de IA ou organizar cursos de treinamento.
