IA generativa: tipos de modelos, riscos e obrigações

O essencial

• Um modelo de IA generativa aprende a estrutura estatística dos seus dados de treino e amostra essa estrutura para produzir texto, imagens, áudio, vídeo ou código inéditos.
• Cinco arquiteturas concentram a quase totalidade das utilizações: transformers, modelos de difusão, GAN, autocodificadores variacionais e modelos de fluxo. Cada uma gera de forma distinta e falha de forma distinta.
• A expressão descreve um comportamento técnico e não um estatuto jurídico. O direito europeu regula uma categoria vizinha mas autónoma, a dos modelos de IA de fins gerais.
• Presume-se que um modelo é de fins gerais acima de 10^23 FLOP de computação acumulada de treino, e que comporta risco sistémico acima de 10^25 FLOP.
• Poucas organizações treinam um modelo. Muitas tornam-se, ainda assim, seu prestador para efeitos legais, por afinação ou pela simples aposição da sua marca.

O que é um modelo de IA generativa?

Um modelo de IA generativa é um modelo de aprendizagem automática que aprende a estrutura estatística de um conjunto de dados e depois amostra essa estrutura aprendida para produzir conteúdos novos, semelhantes aos dados de partida sem os copiar. Enquanto um classificador convencional responde a uma pergunta colocada sobre uma entrada, um modelo de IA generativa dá origem a algo que antes não existia: um parágrafo, uma imagem, uma melodia, uma função.

A distinção é mais profunda do que parece. A maior parte da aprendizagem automática em produção estima a probabilidade de uma etiqueta dada uma entrada. Um modelo generativo estima, pelo contrário, a distribuição dos próprios dados, o que constitui um problema bastante mais difícil e uma capacidade bastante mais aberta. Uma vez que um sistema tenha modelado o modo como se constroem um texto ou uma imagem, podem pedir-se-lhe quantidades arbitrárias de qualquer um deles.

Vale a pena dizer sem rodeios aquilo que a maioria dos materiais divulgativos deixa implícito: «IA generativa» é uma descrição técnica e não uma categoria regulamentar. Nem o direito europeu nem o norte-americano ligam obrigações ao mero adjetivo «generativo». As obrigações ligam-se a categorias precisas: modelos de IA de fins gerais, sistemas de risco elevado e determinados contextos de utilização. Um modelo concreto pode integrar-se em todas, em algumas ou em nenhuma. Este guia trata as duas metades: o que são estes modelos e a que obriga verdadeiramente construí-los ou utilizá-los.

Quanto à família mais vasta em que se inscrevem, consulte o nosso guia sobre o que é um modelo de IA.

Modelos generativos e modelos discriminativos

A fórmula mais cómoda para reter a diferença é esta: um modelo discriminativo traça fronteiras, um modelo generativo extrai amostras.

Um filtro de spam é discriminativo. Aprende uma fronteira entre mensagem indesejada e mensagem legítima e coloca cada mensagem recebida de um lado ou do outro. Não saberia redigir uma mensagem de correio eletrónico. Um modelo generativo treinado sobre o mesmo corpus aprende, ao invés, como uma mensagem se constrói e pode produzir uma a pedido.

Em termos formais, os modelos discriminativos estimam a probabilidade de uma etiqueta condicionada à entrada. Os modelos generativos estimam a distribuição conjunta dos dados, o que lhes permite sintetizar instâncias novas. É por essa razão que um sistema de IA generativa se reorienta com tanta facilidade para tarefas para as quais nunca foi expressamente treinado, e pela mesma razão os seus modos de falha revelam-se difíceis de delimitar à partida.

Como funciona um modelo de IA generativa

Todo o modelo assenta na mesma lógica em dois tempos: comprimir e depois amostrar.

Durante o treino, o modelo é exposto a um corpus muito vasto e ajusta os seus parâmetros de modo a que as regularidades desse corpus se tornem mais prováveis sob o próprio modelo. Nada fica armazenado à letra no sentido corrente. O que permanece é uma codificação comprimida e com perdas de regularidades: como se constroem as frases, como se conformam os rostos, como se resolvem as sequências de acordes.

Durante a inferência, o processo desdobra-se para fora. O sistema amostra a distribuição aprendida, condicionada pela instrução recebida. Como a amostragem é probabilística, uma mesma instrução pode devolver resultados diferentes, e o modelo não dispõe de qualquer representação interna sobre a verdade daquilo que produz.

Este último ponto acarreta uma consequência de governação que passa facilmente despercebida. Um resultado fluente, seguro de si e errado não é um defeito introduzido por engenharia descuidada. Decorre diretamente do modo como o sistema está construído: o objetivo de treino premeia a plausibilidade face à distribuição aprendida e não a correspondência ao mundo. A taxa pode baixar-se através de ancoragem documental, avaliação e revisão humana. Suprimi-la com uma correção não é possível. A nossa análise sobre o principal risco da IA generativa desenvolve este ponto.

As cinco famílias de modelos

Quase todo o modelo em serviço pertence a uma de cinco famílias arquitetónicas. Não são permutáveis: cada uma gera através de um mecanismo próprio, adequa-se a modalidades distintas e degrada-se à sua maneira.

Transformers e modelos autorregressivos

Os transformers geram sequencialmente, prevendo o token seguinte a partir de tudo o que precede. O mecanismo de atenção permite ponderar partes distantes da entrada no momento em que se produz cada token, o que tornou tratável a coerência a longa distância no texto. Esta família alimenta as séries GPT, Claude, Gemini e Llama, e transbordou largamente do texto para o código, o áudio e as sequências proteicas. Força: coerência e generalidade. Fraqueza: o custo e a fabulação segura de si que decorre da pura previsão do token seguinte.

Modelos de difusão

Os modelos de difusão aprendem a inverter um processo de ruído. O treino destrói progressivamente uma imagem com ruído aleatório enquanto o modelo aprende a desfazer cada passo. Na inferência parte do ruído puro e remove ruído até uma amostra, guiado por uma instrução textual. Esta família suplantou as GAN na síntese de imagens de qualidade e sustenta hoje o Stable Diffusion, o DALL-E e grande parte da geração de vídeo. Força: qualidade das amostras e estabilidade do treino. Fraqueza: os muitos passos de remoção de ruído tornam a geração lenta.

Redes generativas adversariais (GAN)

Uma GAN treina duas redes uma contra a outra. O gerador produz candidatos, o discriminador procura separá-los dos dados reais, e ambos melhoram até que o resultado do gerador passe a prova. As GAN produziram os primeiros rostos sintéticos verdadeiramente fotorrealistas e continuam úteis onde importa a geração rápida numa única passagem. Força: velocidade na inferência e nitidez. Fraqueza: instabilidade do treino e colapso de modos, em que o gerador se recolhe a uma porção estreita da distribuição.

Autocodificadores variacionais (VAE)

Um VAE comprime a entrada numa distribuição de probabilidade sobre um espaço latente e depois descodifica amostras desse espaço de volta a dados. Sendo o espaço latente contínuo e estruturado, é possível interpolar de forma significativa entre dois pontos. Os resultados saem mais desfocados do que os de uma GAN ou de um modelo de difusão, razão pela qual os VAE servem hoje mais frequentemente de componente dentro de um sistema maior do que de gerador principal. Força: representações latentes estruturadas e controláveis. Fraqueza: fidelidade das amostras.

Modelos de fluxo normalizador

Os modelos de fluxo aplicam uma sucessão de transformações invertíveis que projetam uma distribuição simples sobre outra complexa. Como cada passo é invertível, calculam verosimilhanças exatas, ao passo que as restantes famílias se limitam a aproximá-las. Força: estimação exata de densidade e reversibilidade. Fraqueza: restrições arquitetónicas e custo computacional elevado para qualidade comparável.

Família	Gera	Força	Fraqueza principal	Sistema representativo
Transformer / autorregressivo	Texto, código, áudio	Coerência, generalidade	Custo, fabulação	GPT, Llama
Difusão	Imagens, vídeo, áudio	Qualidade das amostras	Inferência lenta	Stable Diffusion
GAN	Imagens	Rapidez, nitidez	Treino instável	StyleGAN
VAE	Imagens, representações latentes	Espaço latente estruturado	Amostras desfocadas	VQ-VAE
Fluxo normalizador	Imagens, áudio	Verosimilhanças exatas	Custo computacional	Glow

A família utilizada determina o que importa verificar. Testar a fiabilidade factual de um gerador de texto é exercício distinto de verificar a memorização de dados de treino num gerador de imagens, e um e outro alimentam aquelas evidências de avaliação que um auditor acabará por exigir.

IA generativa, modelo de base, LLM, modelo de fins gerais

Quatro expressões circulam como se fossem sinónimas. Designam realidades distintas, e apenas uma produz efeitos jurídicos.

• Modelo de IA generativa descreve o que o modelo faz: produz conteúdos novos. Nada diz sobre a sua dimensão, o seu alcance ou o seu método de treino.
• Modelo de base descreve como foi construído e como é usado: pré-treino alargado sobre grandes volumes de dados e posterior adaptação a muitas tarefas a jusante. A maioria é generativa, mas o traço definidor continua a ser a amplitude e a reutilização.
• Grande modelo de linguagem (LLM) designa um modelo de base cuja modalidade é o texto. Todo o LLM pertence à IA generativa. O inverso não se verifica.
• Modelo de IA de fins gerais (GPAI) é uma categoria jurídica do Regulamento europeu da IA. Assenta na generalidade e nas capacidades e não na arquitetura, e é a única das quatro que faz nascer por si obrigações legais.

Um pequeno modelo de imagens afinado sobre um catálogo de produtos pertence à IA generativa e quase seguramente não constitui um modelo de fins gerais. Um modelo textual de fronteira acumula as quatro qualificações. O nosso guia sobre a IA de fins gerais trata a categoria jurídica em profundidade.

Quando um modelo passa a GPAI regulado

As orientações da Comissão Europeia dirigidas aos prestadores de modelos de IA de fins gerais, publicadas em 18 de julho de 2025, substituíram uma definição imprecisa por um critério operacional assente na computação de treino.

Presume-se que um modelo é de fins gerais quando a computação acumulada utilizada para o treinar excede 10^23 operações de vírgula flutuante e ele é capaz de gerar linguagem, texto para imagem ou texto para vídeo. A Comissão fundamenta a escolha observando que esse limiar corresponde aproximadamente a um modelo de mil milhões de parâmetros treinado sobre um vasto conjunto de dados, ponto a partir do qual costuma manifestar-se uma generalidade genuína.

Acima de 10^25 FLOP opera uma segunda presunção: o modelo é tido como de risco sistémico nos termos do artigo 55.º. A Comissão pode ainda designar um modelo como sistémico em atenção às suas capacidades, independentemente da computação. Neste patamar superior situam-se os laboratórios de fronteira, e a ele corresponde um conjunto de obrigações mais pesado. Veja o que é um modelo de fronteira quanto a esse nível.

Em ambos os casos trata-se de presunções e não de linhas rígidas. Um prestador pode sustentar que um modelo situado acima do limiar não é de fins gerais, e a Comissão pode, inversamente, atrair ao âmbito um modelo situado abaixo.

O calendário conta para efeitos de planeamento. As obrigações relativas aos modelos de fins gerais aplicam-se desde 2 de agosto de 2025. Os poderes de execução da Comissão perante os prestadores, incluindo pedidos formais de informação e coimas, iniciam-se em 2 de agosto de 2026.

A leitura prática para a maioria das organizações é a seguinte: com toda a probabilidade nunca treinará um modelo destes, com toda a probabilidade utilizará algum, e pode tornar-se seu prestador sem ter lançado uma única sessão de treino.

O que o Regulamento europeu exige ao prestador

Sobre o prestador de um modelo de fins gerais recaem quatro obrigações de base ao abrigo do artigo 53.º, às quais acresce uma camada adicional quando o modelo é sistémico.

Documentação técnica e informação aos agentes a jusante

O prestador deve elaborar e manter atualizada documentação técnica que abranja a conceção do modelo, o processo de treino, os resultados de avaliação e a finalidade prevista, nos termos do anexo XI. Deve ainda facultar aos prestadores a jusante que integrem o modelo, nos termos do anexo XII, elementos bastantes para compreenderem as suas capacidades e limites e para cumprirem as suas próprias obrigações.

É a segunda obrigação que as empresas subestimam. Quem constrói um produto sobre o modelo de um terceiro encontra nessa documentação a matéria-prima do seu próprio processo de conformidade, e a questão pertence à negociação contratual e não à esperança. O nosso guia sobre os requisitos de documentação dos sistemas de IA precisa o que contém um processo completo.

Política de direitos de autor e resumo dos dados de treino

Os prestadores devem dotar-se de uma política de cumprimento do direito de autor da União. Na prática tudo gira em torno do respeito pelas reservas de direitos expressas ao abrigo do artigo 4.º, n.º 3, da Diretiva relativa aos direitos de autor no mercado único digital, ou seja, a exclusão da prospeção de textos e dados que os titulares manifestam em forma legível por máquina.

Devem igualmente publicar um «resumo suficientemente pormenorizado» dos conteúdos utilizados no treino, segundo o modelo de formulário divulgado pelo Serviço para a IA em 24 de julho de 2025. A disposição transforma os dados de treino de segredo comercial em artefacto parcialmente divulgado, e é a que mais provavelmente alimentará litígios.

Marcação dos conteúdos sintéticos

Ao abrigo do artigo 50.º, os prestadores de sistemas que gerem áudio, imagem, vídeo ou texto sintéticos devem marcar esses resultados em formato legível por máquina e torná-los detetáveis como artificialmente gerados. Os responsáveis pela implementação que produzam falsificações profundas devem divulgá-lo. Estas obrigações de transparência aplicam-se a partir de 2 de agosto de 2026.

Para um modelo de risco sistémico, o artigo 55.º acrescenta a avaliação do modelo, incluindo ensaios adversariais, a apreciação e mitigação dos riscos sistémicos, a comunicação de incidentes graves ao Serviço para a IA e a proteção da cibersegurança do modelo e da sua infraestrutura física. O código de boas práticas voluntário disponibiliza um formulário de documentação e opera como presunção de conformidade quanto a boa parte destes requisitos. O mapa completo das obrigações consta do nosso guia operacional do Regulamento europeu.

Os riscos próprios dos modelos generativos

Grande parte do risco em matéria de IA é herdada: qualquer modelo pode estar enviesado, ser atacado ou ficar mal supervisionado. Um conjunto mais restrito respeita especificamente à geração, e o catálogo mais nítido continua a ser o perfil de IA generativa do NIST (AI 600-1), publicado em julho de 2024 como complemento do quadro de gestão de risco. Identifica doze categorias de risco e mais de duzentas ações sugeridas.

As categorias verdadeiramente próprias da geração são as seguintes:

• Confabulação, que o NIST define como a produção de conteúdos enunciados com segurança mas erróneos, coloquialmente alucinações. Encabeça a lista por ser estrutural e não acidental.
• Integridade da informação, isto é, a capacidade de produzir em volume conteúdos sintéticos persuasivos, que é precisamente o que a marcação do artigo 50.º procura contrariar.
• Propriedade intelectual, que abrange tanto a proveniência dos dados de treino como os resultados que reproduzem material protegido.
• Proteção de dados, incluindo a memorização e a restituição de dados pessoais provenientes dos corpora de treino. A CNPD tem-se pronunciado sobre este terreno.
• Informação CBRN, ou seja, o contributo para capacidades químicas, biológicas, radiológicas ou nucleares.
• Enviesamentos lesivos e homogeneização, quando os resultados gerados estreitam o leque de pessoas e ideias representadas.
• Cadeia de valor e integração de componentes, ou seja, o risco herdado de um modelo, conjunto de dados ou componente que não se construiu.

O perfil de gestão de risco para modelos GPAI e de base do CLTC de Berkeley acrescenta a camada operacional: pontos de decisão nas etapas relevantes do desenvolvimento, limiares explícitos de tolerância ao risco, exercícios de equipa vermelha sobre capacidades perigosas e transparência através de fichas de modelo e de sistema.

Nenhum destes elementos é uma falha à espera de correção. Cada um é uma propriedade a medir, delimitar e documentar, que é exatamente aquilo para que existe um quadro de controlos. A nossa panorâmica sobre o risco associado à IA mostra como transpô-los para um registo.

Governar um modelo que não construiu

Quase todas as organizações que leem estas linhas são responsáveis pela implementação e não treinadoras. Isso não as coloca fora do regime, e essa posição é menos estável do que aparenta.

Pode tornar-se prestador sem treinar coisa alguma. Afinar o modelo de um terceiro sobre dados próprios, ou apor o seu nome ou marca sobre um sistema dele derivado, basta para deslizar para o papel de prestador e para as respetivas obrigações. A questão não é quem lançou o cálculo de treino, mas quem coloca o produto no mercado.

Quatro movimentos cobrem o essencial:

1. Localize os modelos efetivamente em uso. Não se governa um inventário de que não se dispõe, e as ferramentas generativas entram na empresa pelas notas de despesa e pelas extensões do navegador em vez de pelas compras. É o problema da IA na sombra, e a sua resolução condiciona tudo o resto.
2. Fixe a fronteira entre prestador e responsável pela implementação modelo a modelo. Deixe-a por escrito para cada sistema: quem é o prestador, o que entregou, o que muda havendo afinação. A ambiguidade neste ponto converte um incidente numa discussão sobre responsabilidade.
3. Obtenha a documentação a jusante e conserve-a. A informação do anexo XII pertence ao contrato. Exija-a na compra e não depois do incidente.
4. Defina avaliação e registo antes da entrada em serviço. Decida o que é um resultado aceitável, como o medirá e o que conservará. Reconstituir a prova a posteriori custa bastante mais do que recolhê-la ao longo do percurso.

Nada disto exige compreender as cabeças de atenção. Exige saber que modelo de IA generativa se encontra por detrás de que processo de negócio e a que obriga cada um. É a governação da IA aplicada a uma classe determinada de sistemas.

Perguntas frequentes

O ChatGPT é um modelo de IA generativa? Não exatamente. O ChatGPT é um sistema de IA construído sobre modelos generativos da família GPT. A distinção não é um preciosismo: o Regulamento europeu regula de modo distinto os modelos e os sistemas, colocando as obrigações do artigo 53.º no prestador do modelo e as de transparência do artigo 50.º no prestador do sistema e nos responsáveis pela sua implementação. Na linguagem corrente os termos confundem-se. Num processo de conformidade, a diferença decide quem deve o quê.

Qual é um exemplo de modelo de IA generativa? O GPT e o Llama são modelos textuais assentes em transformers. O Stable Diffusion é um modelo de difusão para imagens. O StyleGAN é uma rede generativa adversarial especializada em rostos. Cada um gera segundo um mecanismo diferente, e essa escolha determina que riscos predominam: memorização e exposição ao direito de autor nas imagens, confabulação no texto.

Que diferença existe entre IA generativa e um LLM? Um grande modelo de linguagem é uma espécie dentro do género, especializada em texto. A categoria mais vasta abrange também modelos de imagem, áudio, vídeo e moleculares. Todo o LLM é generativo; a maioria dos modelos generativos não são LLM. A confusão persiste porque os modelos textuais são aqueles com que o público interage diretamente.

O Regulamento europeu regula todos os modelos? Não. O Regulamento não regula um modelo por este ser generativo. As obrigações surgem quando o modelo se qualifica como modelo de IA de fins gerais, presumido acima de 10^23 FLOP, ou quando um sistema se enquadra num caso de utilização de risco elevado ou aciona as obrigações de transparência do artigo 50.º. Um pequeno modelo de imagens afinado para uma tarefa interna fica fora do regime GPAI, ainda que o caso de utilização que o rodeia possa estar regulado.

Quais são os principais tipos de modelos? Cinco famílias: transformers e modelos autorregressivos para sequências, modelos de difusão para imagem e vídeo, redes generativas adversariais, autocodificadores variacionais e modelos de fluxo. Transformers e difusão concentram hoje a maioria das implementações em produção, ao passo que GAN, VAE e fluxos servem cada vez mais de componentes internos de sistemas maiores e não de gerador principal.

Quem responde pelos resultados lesivos? Depende do papel ocupado. O prestador do modelo deve a documentação, a política de direitos de autor e, acima do limiar sistémico, a avaliação e a comunicação de incidentes. O prestador do sistema deve a transparência e a marcação dos resultados. O responsável pela implementação deve uma utilização adequada, a supervisão humana quando exigível e a divulgação das falsificações profundas. A afinação ou a aposição de marca pode fazê-lo passar de responsável pela implementação a prestador, motivo pelo qual a fronteira se fixa por escrito, modelo a modelo.

Conclusão

A questão arquitetónica está resolvida. Transformers, difusão, GAN, VAE e fluxos encontram-se amplamente documentados, e qualquer técnico competente sabe explicar como um modelo de IA generativa converte uma instrução num resultado. A questão da responsabilidade não está, e será essa a ocupar as funções de conformidade ao longo de 2026, à medida que os poderes de execução entram em jogo e as obrigações de transparência começam a morder.

O deslocamento útil consiste em deixar de tratar estes sistemas como categoria tecnológica para os tratar como classe de ativos governada: inventariada, classificada face aos limiares europeus, documentada, avaliada e atribuída a um responsável com nome próprio. A AI Sigil foi construída exatamente para esse trabalho e converte as obrigações do Regulamento europeu, da norma ISO 42001 e do quadro NIST em controlos e evidências que resistem a uma auditoria.