IA generativa: tipos de modelos, riesgos y obligaciones

Lo esencial

• Un modelo de IA generativa aprende la estructura estadística de sus datos de entrenamiento y muestrea esa estructura para producir texto, imágenes, audio, vídeo o código inéditos.
• Cinco arquitecturas concentran la práctica totalidad de los usos: transformers, modelos de difusión, GAN, autocodificadores variacionales y modelos de flujo. Cada una genera de forma distinta y falla de forma distinta.
• La expresión describe un comportamiento técnico, no un estatuto jurídico. El Derecho europeo regula una categoría vecina pero diferenciada, la de los modelos de IA de uso general.
• Se presume que un modelo es de uso general por encima de 10^23 FLOP de cómputo acumulado de entrenamiento, y que entraña riesgo sistémico por encima de 10^25 FLOP.
• Pocas organizaciones entrenan un modelo. Muchas se convierten, aun así, en su proveedor a efectos legales, mediante ajuste fino o por la mera colocación de su marca.

¿Qué es un modelo de IA generativa?

Un modelo de IA generativa es un modelo de aprendizaje automático que aprende la estructura estadística de un conjunto de datos y después muestrea esa estructura aprendida para producir contenidos nuevos que se asemejan a los datos de partida sin copiarlos. Mientras un clasificador convencional responde a una pregunta formulada sobre una entrada, un modelo de IA generativa alumbra algo que antes no existía: un párrafo, una imagen, una melodía, una función.

La distinción cala más hondo de lo que parece. La mayor parte del aprendizaje automático en producción estima la probabilidad de una etiqueta dada una entrada. Un modelo generativo estima, en cambio, la distribución de los datos mismos, lo que constituye un problema bastante más arduo y una capacidad bastante más abierta. Una vez que un sistema ha modelado cómo se construyen un texto o una imagen, cabe pedirle cantidades arbitrarias de cualquiera de los dos.

Conviene decir sin rodeos aquello que la mayoría de los materiales divulgativos deja implícito: «IA generativa» es una descripción técnica, no una categoría regulatoria. Ni el Derecho europeo ni el estadounidense anudan obligaciones al solo adjetivo «generativo». Las obligaciones se anudan a categorías precisas: modelos de IA de uso general, sistemas de alto riesgo y determinados contextos de despliegue. Un modelo concreto puede encajar en todas, en algunas o en ninguna. Esta guía aborda ambas mitades: qué son estos modelos y a qué obliga realmente construirlos o utilizarlos.

Para la familia más amplia en la que se inscriben, consulte nuestra guía sobre qué es un modelo de IA.

Modelos generativos y modelos discriminativos

La fórmula más cómoda para retener la diferencia es esta: un modelo discriminativo traza fronteras, un modelo generativo extrae muestras.

Un filtro antispam es discriminativo. Aprende una frontera entre correo no deseado y correo legítimo y sitúa cada mensaje entrante a un lado o al otro. No sabría redactar un correo. Un modelo generativo entrenado sobre el mismo corpus aprende, por el contrario, cómo se construye un correo y puede producir uno a demanda.

En términos formales, los modelos discriminativos estiman la probabilidad de una etiqueta condicionada a la entrada. Los modelos generativos estiman la distribución conjunta de los datos, que es lo que les permite sintetizar instancias nuevas. Por esa razón un sistema de IA generativa se reorienta con tanta facilidad hacia tareas para las que nunca fue entrenado de forma expresa, y por esa misma razón sus modos de fallo resultan difíciles de acotar de antemano.

Cómo funciona un modelo de IA generativa

Todo modelo descansa sobre la misma lógica en dos tiempos: comprimir y después muestrear.

Durante el entrenamiento, el modelo se expone a un corpus muy amplio y ajusta sus parámetros de modo que las regularidades de ese corpus resulten más probables bajo el propio modelo. Nada se almacena literalmente en el sentido corriente. Lo que permanece es una codificación comprimida y con pérdidas de regularidades: cómo se construyen las frases, cómo se conforman los rostros, cómo se resuelven las progresiones de acordes.

Durante la inferencia el proceso se despliega hacia fuera. El sistema muestrea la distribución aprendida, condicionada por la instrucción recibida. Como el muestreo es probabilístico, una misma instrucción puede arrojar salidas distintas, y el modelo carece de representación interna alguna sobre la verdad de lo que produce.

Este último punto acarrea una consecuencia de gobernanza que se pasa por alto con facilidad. Una salida fluida, segura de sí y equivocada no es un defecto introducido por una ingeniería descuidada. Se sigue directamente del modo en que el sistema está construido: el objetivo de entrenamiento premia la plausibilidad bajo la distribución aprendida, no la corrección frente al mundo. Cabe rebajar la tasa mediante anclaje documental, evaluación y revisión humana. No cabe suprimirla con un parche. Nuestro análisis sobre el principal riesgo de la IA generativa desarrolla esta cuestión.

Las cinco familias de modelos

Casi todo modelo desplegado pertenece a una de cinco familias arquitectónicas. No son intercambiables: cada una genera mediante un mecanismo propio, conviene a modalidades distintas y se degrada a su manera.

Transformers y modelos autorregresivos

Los transformers generan de forma secuencial, prediciendo el token siguiente a partir de todo lo anterior. El mecanismo de atención permite ponderar partes distantes de la entrada al producir cada token, lo que hizo tratable la coherencia a larga distancia en el texto. Esta familia impulsa las series GPT, Claude, Gemini y Llama, y ha desbordado ampliamente el texto hacia el código, el audio y las secuencias proteicas. Fortaleza: coherencia y generalidad. Debilidad: el coste y la fabulación segura de sí que acompaña a la pura predicción del token siguiente.

Modelos de difusión

Los modelos de difusión aprenden a invertir un proceso de ruido. El entrenamiento destruye progresivamente una imagen con ruido aleatorio mientras el modelo aprende a deshacer cada paso. En inferencia parte del ruido puro y elimina ruido hasta una muestra, guiado por una instrucción textual. Esta familia desplazó a las GAN en la síntesis de imágenes de calidad y hoy sostiene Stable Diffusion, DALL-E y la mayor parte de la generación de vídeo. Fortaleza: calidad de las muestras y estabilidad del entrenamiento. Debilidad: los numerosos pasos de eliminación de ruido ralentizan la generación.

Redes generativas antagónicas (GAN)

Una GAN entrena dos redes la una contra la otra. El generador produce candidatos, el discriminador intenta separarlos de los datos reales, y ambos mejoran hasta que la salida del generador supera la prueba. Las GAN produjeron los primeros rostros sintéticos verdaderamente fotorrealistas y siguen siendo útiles allí donde importa la generación rápida en una sola pasada. Fortaleza: velocidad en inferencia y nitidez. Debilidad: inestabilidad del entrenamiento y colapso de modos, en el que el generador se repliega sobre una porción estrecha de la distribución.

Autocodificadores variacionales (VAE)

Un VAE comprime la entrada en una distribución de probabilidad sobre un espacio latente y luego descodifica muestras de ese espacio de vuelta a datos. Al ser el espacio latente continuo y estructurado, cabe interpolar de manera significativa entre dos puntos. Las salidas resultan más borrosas que las de una GAN o un modelo de difusión, razón por la cual los VAE actúan hoy más a menudo como componente dentro de un sistema mayor que como generador principal. Fortaleza: representaciones latentes estructuradas y controlables. Debilidad: fidelidad de las muestras.

Modelos de flujo normalizador

Los modelos de flujo aplican una sucesión de transformaciones invertibles que proyectan una distribución simple sobre otra compleja. Como cada paso es invertible, calculan verosimilitudes exactas, allí donde las demás familias se limitan a aproximarlas. Fortaleza: estimación exacta de densidad y reversibilidad. Debilidad: restricciones arquitectónicas y elevado coste computacional a calidad comparable.

Familia	Genera	Fortaleza	Debilidad principal	Sistema representativo
Transformer / autorregresivo	Texto, código, audio	Coherencia, generalidad	Coste, fabulación	GPT, Llama
Difusión	Imágenes, vídeo, audio	Calidad de las muestras	Inferencia lenta	Stable Diffusion
GAN	Imágenes	Rapidez, nitidez	Entrenamiento inestable	StyleGAN
VAE	Imágenes, representaciones latentes	Espacio latente estructurado	Muestras borrosas	VQ-VAE
Flujo normalizador	Imágenes, audio	Verosimilitudes exactas	Coste computacional	Glow

La familia empleada determina qué procede verificar. Someter a prueba la fiabilidad factual de un generador de texto es un ejercicio distinto de comprobar la memorización de datos de entrenamiento en un generador de imágenes, y uno y otro alimentan esas evidencias de evaluación que un auditor terminará por reclamar.

IA generativa, modelo fundacional, LLM, modelo de uso general

Cuatro expresiones circulan como si fueran sinónimas. Designan realidades distintas, y solo una produce efectos jurídicos.

• Modelo de IA generativa describe lo que el modelo hace: produce contenidos nuevos. Nada dice sobre su tamaño, su alcance o su método de entrenamiento.
• Modelo fundacional describe cómo se construyó y cómo se usa: preentrenamiento amplio sobre grandes volúmenes de datos y posterior adaptación a numerosas tareas posteriores. La mayoría son generativos, pero el rasgo definitorio sigue siendo la amplitud y la reutilización.
• Gran modelo de lenguaje (LLM) designa un modelo fundacional cuya modalidad es el texto. Todo LLM pertenece a la IA generativa. Lo inverso no se sostiene.
• Modelo de IA de uso general (GPAI) es una categoría jurídica del Reglamento europeo de IA. Se asienta sobre la generalidad y las capacidades, no sobre la arquitectura, y es la única de las cuatro que desencadena por sí misma obligaciones legales.

Un pequeño modelo de imágenes ajustado sobre un catálogo de productos pertenece a la IA generativa y casi con seguridad no constituye un modelo de uso general. Un modelo textual de frontera acumula las cuatro calificaciones. Nuestra guía sobre la IA de uso general trata la categoría jurídica en profundidad.

Cuándo un modelo pasa a ser un GPAI regulado

Las directrices de la Comisión Europea dirigidas a los proveedores de modelos de IA de uso general, publicadas el 18 de julio de 2025, sustituyeron una definición imprecisa por un criterio operativo basado en el cómputo de entrenamiento.

Se presume que un modelo es de uso general cuando el cómputo acumulado empleado para entrenarlo supera 10^23 operaciones en coma flotante y es capaz de generar lenguaje, texto a imagen o texto a vídeo. La Comisión razona que ese umbral se corresponde aproximadamente con un modelo de mil millones de parámetros entrenado sobre un gran conjunto de datos, que es donde suele aparecer una generalidad genuina.

Por encima de 10^25 FLOP opera una segunda presunción: el modelo se considera de riesgo sistémico conforme al artículo 55. La Comisión puede además designar un modelo como sistémico en atención a sus capacidades, con independencia del cómputo. En ese escalón superior se sitúan los laboratorios de frontera, y le corresponde un conjunto de obligaciones más gravoso. Véase qué es un modelo de frontera para ese nivel.

En ambos casos se trata de presunciones y no de líneas rígidas. Un proveedor puede sostener que un modelo situado por encima del umbral no es de uso general, y la Comisión puede, a la inversa, atraer al ámbito un modelo situado por debajo.

El calendario importa a efectos de planificación. Las obligaciones relativas a los modelos de uso general se aplican desde el 2 de agosto de 2025. Las facultades de ejecución de la Comisión frente a los proveedores, incluidas las solicitudes formales de información y las multas, comienzan el 2 de agosto de 2026.

La lectura práctica para la mayoría de las organizaciones es la siguiente: con toda probabilidad usted nunca entrenará uno de estos modelos, con toda probabilidad desplegará alguno, y puede convertirse en su proveedor sin haber lanzado una sola sesión de entrenamiento.

Qué exige el Reglamento europeo al proveedor

Sobre el proveedor de un modelo de uso general recaen cuatro obligaciones básicas en virtud del artículo 53, a las que se suma un estrato adicional cuando el modelo es sistémico.

Documentación técnica e información a los agentes posteriores

El proveedor debe elaborar y mantener actualizada una documentación técnica que abarque el diseño del modelo, su proceso de entrenamiento, los resultados de evaluación y su finalidad prevista, conforme al anexo XI. Debe además facilitar a los proveedores posteriores que integren el modelo, conforme al anexo XII, elementos suficientes para comprender sus capacidades y sus límites y para cumplir sus propias obligaciones.

Es la segunda obligación la que las empresas subestiman. Quien construye un producto sobre el modelo de un tercero encuentra en esa documentación la materia prima de su propio expediente de cumplimiento, y la cuestión pertenece a la negociación contractual antes que a la esperanza. Nuestra guía sobre los requisitos de documentación de los sistemas de IA precisa qué contiene un expediente completo.

Política de derechos de autor y resumen de los datos de entrenamiento

Los proveedores deben dotarse de una política de cumplimiento del Derecho de autor de la Unión. En la práctica todo gira en torno al respeto de las reservas de derechos formuladas al amparo del artículo 4, apartado 3, de la Directiva sobre los derechos de autor en el mercado único digital, esto es, la exclusión de la minería de textos y datos que los titulares expresan en forma legible por máquina.

Deben asimismo publicar un «resumen suficientemente detallado» de los contenidos utilizados para el entrenamiento, con arreglo a la plantilla difundida por la Oficina de IA el 24 de julio de 2025. La disposición convierte los datos de entrenamiento de secreto empresarial en artefacto parcialmente divulgado, y es la que con mayor probabilidad alimentará los litigios.

Marcado de los contenidos sintéticos

En virtud del artículo 50, los proveedores de sistemas que generen audio, imagen, vídeo o texto sintéticos deben marcar esas salidas en un formato legible por máquina y hacerlas detectables como generadas artificialmente. Los responsables del despliegue que produzcan ultrafalsificaciones deben revelarlo. Estas obligaciones de transparencia se aplican desde el 2 de agosto de 2026.

Para un modelo de riesgo sistémico, el artículo 55 añade la evaluación del modelo, incluidas las pruebas adversarias, la valoración y mitigación de los riesgos sistémicos, la notificación de incidentes graves a la Oficina de IA y la protección de la ciberseguridad del modelo y de su infraestructura física. El código de buenas prácticas voluntario aporta un formulario de documentación y opera como presunción de conformidad respecto de buena parte de estos requisitos. El mapa completo de obligaciones figura en nuestra guía operativa del Reglamento europeo.

Los riesgos propios de los modelos generativos

Buena parte del riesgo en materia de IA es heredado: cualquier modelo puede estar sesgado, ser atacado o quedar mal supervisado. Un conjunto más reducido atiende específicamente a la generación, y el catálogo más nítido sigue siendo el perfil de IA generativa del NIST (AI 600-1), publicado en julio de 2024 como complemento del marco de gestión de riesgos. Identifica doce categorías de riesgo y más de doscientas acciones sugeridas.

Las categorías verdaderamente propias de la generación son estas:

• Confabulación, que el NIST define como la producción de contenidos enunciados con seguridad pero erróneos, coloquialmente alucinaciones. Encabeza la lista porque es estructural y no accidental.
• Integridad de la información, esto es, la capacidad de producir en volumen contenidos sintéticos persuasivos, que es precisamente lo que el marcado del artículo 50 pretende contrarrestar.
• Propiedad intelectual, que abarca tanto la procedencia de los datos de entrenamiento como las salidas que reproducen material protegido.
• Protección de datos, incluida la memorización y la restitución de datos personales procedentes de los corpus de entrenamiento. La AEPD ha publicado orientaciones útiles para los responsables del tratamiento.
• Información CBRN, es decir, la contribución a capacidades químicas, biológicas, radiológicas o nucleares.
• Sesgos perjudiciales y homogeneización, cuando las salidas generadas estrechan el abanico de personas e ideas representadas.
• Cadena de valor e integración de componentes, o sea, el riesgo heredado de un modelo, un conjunto de datos o un componente que no se ha construido.

El perfil de gestión de riesgos para modelos GPAI y fundacionales del CLTC de Berkeley añade la capa operativa: puntos de decisión en las etapas relevantes del desarrollo, umbrales explícitos de tolerancia al riesgo, ejercicios de equipo rojo sobre capacidades peligrosas y transparencia mediante fichas de modelo y de sistema.

Ninguno de estos elementos es un fallo a la espera de corrección. Cada uno es una propiedad que procede medir, acotar y documentar, que es exactamente para lo que existe un marco de controles. Nuestra panorámica sobre el riesgo asociado a la IA muestra cómo trasladarlos a un registro.

Gobernar un modelo que usted no ha construido

Casi toda organización que lea estas líneas es responsable del despliegue y no entrenadora. Ello no la sitúa fuera del régimen, y esa posición resulta menos estable de lo que aparenta.

Cabe convertirse en proveedor sin entrenar nada. Ajustar el modelo de un tercero sobre datos propios, o estampar el nombre o la marca sobre un sistema derivado de él, basta para deslizarse al papel de proveedor y a sus obligaciones. La cuestión no es quién lanzó el cálculo de entrenamiento, sino quién introduce el producto en el mercado.

Cuatro movimientos cubren lo sustancial:

1. Localice los modelos realmente en uso. No se gobierna un inventario del que no se dispone, y las herramientas generativas entran en la empresa por las notas de gastos y las extensiones del navegador antes que por compras. Es el problema de la IA en la sombra, y su resolución condiciona todo lo demás.
2. Fije la frontera entre proveedor y responsable del despliegue modelo por modelo. Déjelo por escrito para cada sistema: quién es el proveedor, qué entregó, qué cambia si media un ajuste fino. La ambigüedad en este punto convierte un incidente en una discusión sobre responsabilidad.
3. Obtenga la documentación posterior y consérvela. La información del anexo XII pertenece al contrato. Reclámela en la compra, no después del incidente.
4. Defina evaluación y registro antes de la puesta en servicio. Decida qué es una salida aceptable, cómo la medirá y qué conservará. Reconstruir la prueba a posteriori cuesta bastante más que recogerla sobre la marcha.

Nada de esto exige comprender los cabezales de atención. Exige saber qué modelo de IA generativa se sitúa detrás de qué proceso de negocio y a qué obliga cada uno. Eso es gobernanza de la IA aplicada a una clase determinada de sistemas.

Preguntas frecuentes

¿Es ChatGPT un modelo de IA generativa? No exactamente. ChatGPT es un sistema de IA construido sobre modelos generativos de la familia GPT. La distinción no es un tecnicismo ocioso: el Reglamento europeo regula de manera distinta los modelos y los sistemas, y sitúa las obligaciones del artículo 53 en el proveedor del modelo y las de transparencia del artículo 50 en el proveedor del sistema y sus responsables del despliegue. En el habla corriente los términos se confunden. En un expediente de cumplimiento, la diferencia decide quién debe qué.

¿Cuál es un ejemplo de modelo de IA generativa? GPT y Llama son modelos textuales basados en transformers. Stable Diffusion es un modelo de difusión para imágenes. StyleGAN es una red generativa antagónica especializada en rostros. Cada uno genera mediante un mecanismo distinto, y esa elección determina qué riesgos predominan: memorización y exposición al derecho de autor en las imágenes, confabulación en el texto.

¿Qué diferencia hay entre IA generativa y un LLM? Un gran modelo de lenguaje es una especie dentro del género, especializada en texto. La categoría más amplia comprende también modelos de imagen, audio, vídeo y moleculares. Todo LLM es generativo; la mayoría de los modelos generativos no son LLM. La confusión persiste porque los modelos textuales son aquellos con los que el público interactúa de forma directa.

¿Regula el Reglamento europeo todos los modelos? No. El Reglamento no regula un modelo por el hecho de ser generativo. Las obligaciones surgen cuando el modelo se califica como modelo de IA de uso general, presunto por encima de 10^23 FLOP, o cuando un sistema encaja en un caso de uso de alto riesgo o activa las obligaciones de transparencia del artículo 50. Un pequeño modelo de imágenes ajustado para una tarea interna queda fuera del régimen GPAI, aunque el caso de uso que lo rodea sí pueda estar regulado.

¿Cuáles son los principales tipos de modelos? Cinco familias: transformers y modelos autorregresivos para secuencias, modelos de difusión para imagen y vídeo, redes generativas antagónicas, autocodificadores variacionales y modelos de flujo. Transformers y difusión concentran hoy la mayoría de los despliegues en producción, mientras GAN, VAE y flujos actúan cada vez más como componentes internos de sistemas mayores antes que como generador principal.

¿Quién responde de las salidas dañinas? Depende del papel que se ocupe. El proveedor del modelo debe la documentación, la política de derechos de autor y, por encima del umbral sistémico, la evaluación y la notificación de incidentes. El proveedor del sistema debe la transparencia y el marcado de las salidas. El responsable del despliegue debe un uso apropiado, la supervisión humana cuando resulte exigible y la revelación de las ultrafalsificaciones. El ajuste fino o la colocación de marca puede hacerle pasar de responsable del despliegue a proveedor, motivo por el cual la frontera se fija por escrito, modelo a modelo.

Conclusión

La cuestión arquitectónica está zanjada. Transformers, difusión, GAN, VAE y flujos se hallan ampliamente documentados, y cualquier técnico competente sabe explicar cómo un modelo de IA generativa convierte una instrucción en una salida. La cuestión de la responsabilidad no lo está, y será la que ocupe a las funciones de cumplimiento a lo largo de 2026, conforme entren en juego las facultades de ejecución y empiecen a morder las obligaciones de transparencia.

El desplazamiento útil consiste en dejar de tratar estos sistemas como una categoría tecnológica para tratarlos como una clase de activos gobernada: inventariada, clasificada frente a los umbrales europeos, documentada, evaluada y atribuida a un responsable con nombre y apellidos. AI Sigil está construido precisamente para ese trabajo y convierte las obligaciones del Reglamento europeo, de la norma ISO 42001 y del marco NIST en controles y evidencias que resisten una auditoría.