Los reguladores internacionales establecen límites en la generación de imágenes explícitas por IA
En una sola semana, los reguladores de tres continentes tomaron medidas contra plataformas de IA capaces de generar imágenes explícitas. Se abrió una investigación formal por parte del regulador de medios del Reino Unido. Malasia e Indonesia bloquearon completamente el acceso a una herramienta de generación de imágenes de IA, siendo los primeros países en hacerlo. Tres senadores de EE. UU. pidieron a empresas tecnológicas que retiraran una aplicación de IA de sus tiendas. El mensaje es claro: el contenido sexualmente explícito generado por IA, especialmente aquel que involucra a menores, se ha convertido en un desencadenante universal de cumplimiento normativo.
Emergencia de una línea roja
Las acciones de cumplimiento comparten un hilo común: sistemas de IA que pueden generar imágenes íntimas no consensuadas o contenido que retrata a menores. A diferencia de los debates sobre el sesgo de IA o la transparencia algorítmica, esta no es un área en la que los reguladores estén explorando; están actuando de manera rápida y con una alineación internacional inusual.
Este patrón se alinea con desarrollos nacionales. La Ley de Gobernanza de IA Responsable de Texas, que entrará en vigor el 1 de enero de 2026, prohíbe explícitamente los sistemas de IA desarrollados con la intención de crear material de abuso sexual infantil o contenido deepfake explícito que involucre a menores. El Reino Unido está avanzando hacia la criminalización de «aplicaciones de nudificación». Malasia e Indonesia no esperaron nueva legislación: simplemente bloquearon el acceso bajo la autoridad existente.
La teoría de cumplimiento es sencilla: las leyes existentes de protección al consumidor, seguridad infantil y obscenidad se aplican al contenido generado por IA de la misma forma que lo hacen con el contenido creado por humanos. Los reguladores no están esperando estatutos específicos para IA.
Implicaciones para las organizaciones
Las organizaciones que implementan capacidades de generación de imágenes por IA, ya sean productos orientados al cliente o herramientas internas, deben evaluar su exposición ahora. La ola de cumplimiento presenta varias consideraciones concretas:
- Revisión de políticas de contenido. Si su organización utiliza o ofrece generación de imágenes por IA, las políticas de uso aceptable pueden necesitar prohibir explícitamente la generación de imágenes íntimas no consensuadas y cualquier contenido que retrate a menores en contextos sexuales. Las políticas son más efectivas cuando se aplican técnicamente, no solo de forma contractual.
- Verificación de edad. Varias acciones de cumplimiento citan la inadecuada verificación de edad como un punto de fallo. Las organizaciones deben evaluar si sus mecanismos actuales de verificación son suficientes, especialmente para aplicaciones de cara al consumidor.
- Monitoreo de salida. Confiar únicamente en el filtrado de entrada no es suficiente. La investigación del Reino Unido citó específicamente preocupaciones sobre las salidas, no solo sobre los comandos. Las organizaciones deben considerar si tienen visibilidad sobre lo que sus herramientas de IA generan realmente.
- Diligencia debida del proveedor. Para las organizaciones que utilizan API o plataformas de generación de imágenes de IA de terceros, las prácticas de seguridad de contenido del proveedor son ahora una consideración material. Los términos del contrato pueden necesitar abordar el cumplimiento de políticas de contenido, derechos de auditoría y indemnización por cumplimiento regulatorio.
Expectativa de un impulso continuo
La coordinación internacional es notable. Los requisitos de transparencia de la Ley de IA de la UE para el contenido generado por IA entrarán en vigor en agosto de 2026, incluyendo obligaciones de marcado y etiquetado. La Ley de Seguridad en Línea del Reino Unido ya impone deberes a las plataformas que albergan contenido generado por los usuarios. Los estados de EE. UU. continúan avanzando en legislación específica para IA, con los requisitos de transparencia de California ahora en vigor.
Para los abogados internos, la conclusión práctica es que las imágenes explícitas generadas por IA, especialmente aquellas que involucran a menores, no son un área gris. Es una prioridad de cumplimiento en múltiples jurisdicciones. Las organizaciones que implementan herramientas de generación de imágenes por IA no deben esperar a recibir una citación o una orden de bloqueo para evaluar sus controles.
