Algumas Implicações da Lei de IA da UE para Desenvolvedores de Jogos de Vídeo
Este artigo fornece uma visão geral do impacto do Regulamento (UE) 2024/1689 de 13 de junho de 2024, que estabelece regras harmonizadas sobre inteligência artificial (“Lei de IA”), sobre os desenvolvedores de jogos de vídeo. Cada vez mais, esses desenvolvedores estão integrando sistemas de IA em seus jogos, incluindo a geração de cenários, personagens não jogáveis (NPCs) e histórias de objetos a serem encontrados no jogo. Algumas dessas aplicações estão sujeitas a regulamentações específicas e criam obrigações sob a Lei de IA.
A Lei de IA entrou em vigor em 1º de agosto de 2024 e será aplicada gradualmente ao longo dos próximos dois anos. A aplicação das disposições da Lei de IA depende predominantemente de dois fatores: o papel do desenvolvedor de jogos e o nível de risco da IA.
O Papel do Desenvolvedor de Jogos
O Artigo 2 da Lei de IA delimita o escopo da regulamentação, especificando quem pode estar sujeito à Lei. Os desenvolvedores de jogos podem se enquadrar em duas dessas categorias:
- Provedores de sistemas de IA: desenvolvedores de sistemas de IA que os colocam no mercado da UE ou colocam o sistema de IA em operação sob seu próprio nome ou marca, seja a pagamento ou gratuitamente (Artigo 3(3) da Lei de IA).
- Usufrutuários de sistemas de IA: usuários de sistemas de IA no curso de uma atividade profissional, desde que estejam estabelecidos na UE ou tenham usuários do sistema de IA baseados na UE (Artigo 3(4) da Lei de IA).
Assim, os desenvolvedores de jogos serão considerados (i) provedores se desenvolverem seu próprio sistema de IA e (ii) usufrutuários se integrarem um sistema de IA existente criado por um terceiro em seus jogos.
Nível de Risco da IA e Obrigações Relacionadas
A Lei de IA classifica os sistemas de IA em quatro categorias com base no risco associado a eles (Artigo 3(1) da Lei de IA). As obrigações dos operadores econômicos variam dependendo do nível de risco resultante dos sistemas de IA utilizados:
- Sistemas de IA com riscos inaceitáveis: são proibidos (Artigo 5 da Lei de IA). No setor de jogos de vídeo, as proibições mais relevantes são a provisão ou uso de sistemas de IA que implementam técnicas manipulativas ou exploram as vulnerabilidades das pessoas, causando danos significativos. Por exemplo, é proibido usar NPCs gerados por IA que manipulem os jogadores a gastar mais em um jogo.
- Sistemas de IA de alto risco: (Artigos 6, 7 e Anexo III da Lei de IA) acionam obrigações rigorosas para provedores e, em menor grau, para usufrutuários (Seções 2 e 3 da Lei de IA). Os sistemas de IA de alto risco relevantes usados em jogos de vídeo são aqueles que representam um risco significativo de dano à saúde, segurança ou direitos fundamentais das pessoas, considerando seu propósito. Em particular, os sistemas de IA utilizados para reconhecimento emocional (Anexo III(1)(c) da Lei de IA) podem ser usados para tornar as interações entre jogadores e NPCs mais fluidas e naturais, resultando em emoções intensas nos jogadores.
- Sistemas de IA com risco de transparência específico: incluem chatbots, sistemas de IA que geram conteúdo sintético ou deep fakes, ou sistemas de reconhecimento emocional. Eles acionam obrigações mais limitadas, listadas no Artigo 50 da Lei de IA.
- Sistemas de IA com risco mínimo: não são regulamentados pela Lei de IA. Esta categoria inclui todos os outros sistemas de IA que não se enquadram nas categorias mencionadas.
A Comissão Europeia afirmou que, em princípio, jogos de vídeo habilitados para IA não enfrentam obrigações sob a Lei de IA, mas as empresas podem adotar voluntariamente códigos de conduta adicionais. Vale ressaltar que, em casos específicos, como os descritos nesta seção, a Lei de IA se aplicará. Além disso, a obrigação de alfabetização em IA se aplica independentemente do nível de risco do sistema, incluindo risco mínimo.
Obrigações de Alfabetização em IA
A obrigação de alfabetização em IA se aplica a partir de fevereiro de 2025 (Artigo 113 a da Lei de IA) tanto a provedores quanto a usufrutuários (Artigo 4 da Lei de IA), independentemente do nível de risco da IA. A alfabetização em IA é definida como habilidades, conhecimento e compreensão que permitem que provedores, usufrutuários e pessoas afetadas tomem decisões informadas sobre a implementação de sistemas de IA, além de conscientizá-los sobre as oportunidades, riscos e possíveis danos que a IA pode causar.
O objetivo final é garantir que a equipe dos desenvolvedores de jogos possa tomar decisões informadas em relação à IA, levando em conta seu conhecimento técnico, experiência, educação e treinamento, e o contexto em que o sistema de IA será utilizado.
A Lei de IA não detalha como provedores e usufrutuários devem cumprir a obrigação de alfabetização em IA. Na prática, várias etapas podem ser tomadas para alcançar a alfabetização em IA:
- Determinar como e quais funcionários atualmente usam ou planejam usar ou desenvolver IA em um futuro próximo;
- Avaliar o conhecimento atual dos funcionários sobre IA para identificar lacunas (por exemplo, por meio de pesquisas ou sessões de quiz);
- Fornecer atividades de treinamento e materiais para os funcionários que usam IA sobre os princípios básicos da IA, e pelo menos os conceitos, regras e obrigações que são relevantes.
Conclusão
A regulamentação de sistemas de IA na UE pode ter um impacto significativo nos desenvolvedores de jogos de vídeo, dependendo da forma como os sistemas de IA são usados dentro de jogos específicos. É um momento inicial para a Lei de IA e estamos observando cuidadosamente este espaço, especialmente à medida que a Lei de IA evolui para se adaptar a novas tecnologias.
