AI Talks: Compreendendo o Ato de IA da UE – Obrigações de Alfabetização em IA e Práticas Proibidas
O Ato de IA da União Europeia (UE) está prestes a revolucionar o cenário regulatório para sistemas de inteligência artificial (IA) na Europa. Como a primeira legislação abrangente de IA do tipo, introduz requisitos rigorosos de conformidade, incluindo obrigações de alfabetização em IA e usos proibidos de sistemas de IA.
1. O Ato de IA em resumo
O Ato de IA da UE visa estabelecer um quadro harmonizado para sistemas de IA, categorizando-os com base em níveis de risco. Entre as principais características do Ato de IA, destacam-se:
- Um escopo amplo que abrange fornecedores, implementadores, fabricantes, importadores e distribuidores de sistemas de IA, mesmo que baseados fora da UE, mas que operem dentro de seu mercado.
- Uma definição para sistemas de IA.
- Um cronograma de fiscalização gradual, começando com certas obrigações entrando em vigor imediatamente.
- Penas severas por não conformidade, que podem superar aquelas impostas sob o Regulamento Geral sobre a Proteção de Dados (GDPR).
2. O que é um sistema de IA sob o Ato de IA da UE?
O Ato de IA da UE não se aplica a todos os sistemas de IA, mas especificamente àqueles que atendem à definição de um “sistema de IA”. De acordo com o Artigo 3(1) do Ato, um sistema de IA é definido como um sistema baseado em máquinas projetado para operar com diferentes níveis de autonomia e que pode apresentar adaptabilidade após a implementação.
Para esclarecer o escopo dessa definição, a Comissão Europeia (CE) divulgou diretrizes que visam ajudar os fornecedores e outras partes relevantes a determinar se um sistema se constitui um sistema de IA dentro do significado do Ato de IA da UE.
3. Obrigações imediatas de conformidade a partir de 2 de fevereiro de 2025
a. Alfabetização em IA (Artigo 4)
i. Conceito
O Artigo 4 do Ato de IA da UE exige que fornecedores e implementadores de sistemas de IA garantam um nível adequado de alfabetização em IA para suas equipes e usuários que interagem com sistemas de IA.
A CE criou um repositório vivo de práticas em andamento entre fornecedores de sistemas de IA para compartilhar exemplos de iniciativas de alfabetização em IA. Este repositório pode ajudar outras organizações a construir suas próprias estratégias para atender às obrigações de alfabetização.
ii. O que fazer agora para se preparar para a conformidade com suas obrigações de alfabetização?
- Avalie as práticas atuais: Avalie os níveis atuais de alfabetização em IA dentro de sua organização.
- Aproveite o repositório de práticas de IA: Consulte o repositório para encontrar práticas que podem ser relevantes.
- Considere participar do Pacto de IA.
- Atualize regularmente as práticas: Mantenha-se atualizado com padrões em evolução de alfabetização em IA.
b. Práticas de IA Proibidas (Artigo 5)
i. Conceito
O Artigo 5 do Ato de IA da UE proíbe a colocação no mercado da UE, a colocação em serviço ou o uso de certos sistemas de IA que representam um risco inaceitável, incluindo:
- Manipulação e engano baseados em IA prejudiciais.
- Exploração de vulnerabilidades baseadas em IA.
- Avaliação ou previsão de risco de crime individual.
Essas proibições entrarão em vigor seis meses após a entrada em vigor do Ato de IA, a partir de 2 de fevereiro de 2025.
ii. Sua documentação de conformidade é coberta por privilégio legal?
O Ato de IA da UE concede aos reguladores amplos poderes investigativos, incluindo acesso a avaliações de risco de IA e documentação de conformidade. No entanto, o privilégio legal pode proteger certas comunicações internas da divulgação. As empresas devem considerar consultar assessoria jurídica para garantir que suas estratégias de conformidade permaneçam privilegiadas, quando aplicável.
4. Próximos passos para as empresas
Para empresas com presença global, as orientações emitidas pela CE são um recurso crucial para gerenciar as complexidades da conformidade com o Ato de IA da UE. Algumas práticas recomendadas incluem:
- Avaliar se seus sistemas de IA se enquadram no escopo do Ato de IA da UE.
- Identificar se sua empresa é um fornecedor, implementador ou ambos sob o Ato de IA.
- Rever e mitigar riscos associados a implementações de IA.
Com a implementação gradual do Ato de IA da UE, agora é o momento para as empresas alinharem suas estratégias de IA com as expectativas regulatórias. A conformidade hoje ajudará as organizações a mitigar riscos e evitar penalidades significativas no futuro.
