Los Legisladores de la UE y los Líderes de la Industria Tecnológica Toman Medidas para Facilitar el Cumplimiento de la Ley de IA de la UE
Los deepfakes pueden ser creados y utilizados para diversos fines. Si se revelan adecuadamente como deepfakes y su creación no viola ninguna ley aplicable, la existencia de un deepfake generalmente no genera preocupación entre los legisladores. Según un informe, el principio rector es determinar si la existencia del deepfake viola los derechos de privacidad o propiedad intelectual de alguien, o si engaña a los consumidores, al público general o a individuos notables que no han sido debidamente advertidos.
Sin embargo, existen preocupaciones sobre la amenaza a la seguridad y la privacidad que esta tecnología representa, dada su capacidad para difundir desinformación e influir en el comportamiento a través del engaño. Su habilidad para suplantar a personas y causar daños reputacionales tanto a nivel corporativo como personal, así como ser un vehículo para estafadores, la posiciona como un terreno fértil para desestabilizar la confianza pública.
Los archivos de deepfake aumentaron drásticamente de 500,000 dólares en 2023 a 8 millones en 2025. Junto con la proliferación de archivos, hubo un alarmante aumento del 3,000 por ciento en los intentos de fraude en 2023. En 2024, los incidentes de deepfake ocurrieron a una tasa de uno cada 5 minutos y se proyecta que las pérdidas financieras en EE. UU. facilitadas por la IA generativa aumenten de 12,3 mil millones de dólares en 2023 a 40 mil millones para 2027, con una tasa de crecimiento anual compuesta del 32 por ciento.
Preocupaciones Globales y Respuestas Legislativas
El creciente uso indebido de los deepfakes y el riesgo a los derechos de los consumidores, la privacidad y la propiedad intelectual han suscitado preocupación en las comunidades internacionales. En consecuencia, los legisladores de todo el mundo han respondido instituyendo diversas leyes que abordan los derechos más vulnerables a ser violados por los deepfakes. El foco actual de las leyes promulgadas y propuestas se centra en:
- Transparencia: etiquetado del contenido generado por IA.
- Consentimiento: permiso de la persona cuya imagen fue publicada, replicada o manipulada por la herramienta de IA.
- Requisitos de eliminación: impuestos a las empresas y plataformas que publican contenido deepfake.
La Ley de IA de la UE
La Ley de IA de la UE, el primer conjunto de leyes que proporciona un marco legal para abordar los riesgos asociados con la IA, entró en vigor en agosto de 2024 y requiere un enfoque gradual para su implementación. Desde su promulgación, la ley ha atraído atención y ha provocado conversaciones que van desde su potencial de establecer un precedente para futuras leyes de IA en todo el mundo, hasta críticas sobre la sobre-regulación y la amenaza que representa para la innovación en el espacio tecnológico.
Ante las preocupaciones planteadas por la industria tecnológica acerca de que la ley impone responsabilidades engorrosas y orientación vaga para el cumplimiento, lo que podría impedir que la UE mantenga un ritmo competitivo con otros países, se propuso un «Paquete de Simplificación Digital» destinado a agilizar las reglas bajo la Ley de IA. La parte «Omnibus Digital» del paquete modifica la ley de una manera que busca una aplicación más predecible y eficiente de sus requisitos.
Colaboración con la Industria Tecnológica
Además, se programaron reuniones proactivas con grupos de la industria tecnológica para discutir específicamente los requisitos de etiquetado bajo la ley de la UE, que entrará en vigor en agosto de 2026. Para asegurar que las plataformas responsables del cumplimiento comprendan cómo cumplir, los reguladores están trabajando con expertos de la industria para establecer un conjunto de protocolos conocido como «código de práctica», que proporcionará a las empresas orientación sobre cómo pueden cumplir con la ley. Ambas partes negociarán los términos del código voluntario en los próximos meses, con un primer borrador previsto para diciembre de 2025, seguido de un segundo borrador en junio y el final en agosto de 2026.
Dado que los marcos regulatorios varían de un país a otro, las empresas que operan a nivel internacional deben alinearse con todos los requisitos en las jurisdicciones donde tienen presencia. Para las empresas que operan en cualquiera de los países de la UE, prestar atención a los requisitos de la Ley de IA es de suma importancia. Incluso si las empresas no operan en esas ubicaciones, la ley se menciona con frecuencia y tiene el potencial de servir como modelo para la legislación en otras jurisdicciones, similar a la influencia significativa del GDPR.
Iniciativas de Cumplimiento y Futuro
Destacando la importancia que todas las partes están dando a facilitar un camino fluido hacia el cumplimiento de la ley, empresas tecnológicas competidoras han formado una coalición para crear una técnica que codifique información sobre el origen del contenido y si es generado por IA en los metadatos. Junto con el avance de la tecnología de IA, es probable que veamos a más innovadores utilizando la innovación para simplificar el cumplimiento regulatorio.
