California’s GenAI Data Training Compliance Law AB 2013: Desafíos y Siguientes Pasos Prácticos para Proteger la Propiedad Intelectual
La nueva ley de Inteligencia Artificial Generativa de California, AB 2013, marca el comienzo de una nueva era de transparencia para los desarrolladores de sistemas de IA generativa. Firmada el 28 de septiembre de 2024 y en vigor desde el 1 de enero de 2026, esta legislación requiere que las organizaciones que utilizan sistemas de IA generativa publiquen detalles claros y de alto nivel sobre los conjuntos de datos utilizados en el entrenamiento o desarrollo de los sistemas.
Independientemente de si una organización simplemente usa modelos de IA generativa o está activamente involucrada en el desarrollo de tales modelos, los amplios requisitos de la ley crean obligaciones de cumplimiento que las empresas deben implementar rápidamente, y presentan desafíos significativos y complejos para proteger los activos de propiedad intelectual propietarios.
¿Quiénes están cubiertos?
La ley tiene un alcance amplio. En términos generales, AB 2013 requiere que los desarrolladores publiquen información sobre sus datos de entrenamiento. Un «desarrollador» según la ley no se limita a los desarrolladores de modelos de IA generativa, sino también a las organizaciones que «modifican sustancialmente» estos modelos.
La ley se aplica a cualquier sistema, ya sea gratuito o de pago, que esté «disponible para los californianos» y que se haya lanzado o modificado significativamente a partir del 1 de enero de 2022. Cualquier modificación sustancial a un sistema de IA incluye nuevas versiones o lanzamientos, o cualquier cambio material en la funcionalidad o el rendimiento de un sistema de IA. Cualquier organización que diseñe, produzca, ajuste, vuelva a entrenar o modifique sustancialmente sistemas de IA o servicios debe cumplir.
¿Qué debe ser divulgado?
Los desarrolladores sujetos a AB 2013 deben publicar un «resumen de alto nivel» que detalle los conjuntos de datos utilizados en el desarrollo y entrenamiento de sus sistemas. Estos resúmenes deben incluir información como:
- Fuentes / propietarios de conjuntos de datos y cómo cada conjunto de datos avanza en el propósito previsto.
- Volumen aproximado (rangos / estimaciones para datos dinámicos).
- Tipos de puntos de datos (etiquetas utilizadas o características generales para datos no etiquetados).
- Estado de la propiedad intelectual (presencia de derechos de autor, marcas comerciales, patentes o datos de dominio público), y si los conjuntos de datos fueron comprados o licenciados.
- Información personal o información agregada de consumidores.
- Información sintética. Cualquier limpieza, procesamiento o modificaciones realizadas, y su propósito previsto.
Aunque puede requerirse un nivel adicional de detalle, dado el inicio de la ley, sigue siendo incierto el nivel de detalle necesario para cumplir con cada categoría de información. Esto plantea la necesidad de una revisión sustancial del cumplimiento y, como mínimo, la necesidad de mantener registros durante los períodos de desarrollo y evaluación de los sistemas de IA generativa.
Desafíos de cumplimiento y consejos estratégicos
AB 2013 introduce varios desafíos significativos de cumplimiento para los desarrolladores de sistemas de IA generativa, en gran medida debido al lenguaje amplio y a veces ambiguo de la ley. Una de las principales preocupaciones implica el impacto que los requisitos de divulgación pueden tener en el valor de los activos de propiedad intelectual, especialmente los secretos comerciales, así como generar preocupaciones significativas para la estrategia de propiedad intelectual de una empresa, particularmente en lo que respecta a derechos de autor y patentes.
La ley requiere que los desarrolladores revelen los detalles de los datos de entrenamiento utilizados en sus sistemas de IA generativa. Esta información es a menudo altamente sensible y contiene material valioso propietario y secretos comerciales de los desarrolladores de IA.
Otro desafío clave para cumplir con AB 2013 radica en la obligación de las empresas de indicar explícitamente si sus conjuntos de datos incluyen material protegido por derechos de autor o por patentes, incluso si solo como entradas de entrenamiento. Esto plantea riesgos adicionales relacionados con la propiedad intelectual, entre ellos la creación de riesgos de litigio al señalar a terceros titulares de derechos que su propiedad intelectual es parte de los datos de entrenamiento.
Las empresas deben también navegar las complejidades de identificar y contabilizar información personal o del consumidor, particularmente bajo regulaciones californianas como el CCPA / CPRA, cuando los conjuntos de datos provienen de repositorios de terceros o de código abierto, los cuales pueden carecer de transparencia sobre la naturaleza y origen de los datos.
Exenciones
AB 2013 incluye algunas exenciones, pero son bastante restrictivas. Los sistemas utilizados únicamente para fines de seguridad o integridad, para operaciones aéreas en el espacio aéreo nacional, o desarrollados para la seguridad nacional, militar o defensa no están cubiertos por esta ley.
Siguientes pasos prácticos
Las organizaciones deben ser proactivas al planificar su estrategia de cumplimiento. Los siguientes pasos pueden proporcionar una hoja de ruta simple; sin embargo, consultar con un asesor legal de confianza es siempre la mejor estrategia.
Inventariar todos los sistemas de IA generativa (públicos e internos) lanzados o modificados desde enero de 2022. Identificar acuerdos claros de propiedad y licencia para cada activo de propiedad intelectual empresarial, señalando cualquier conjunto de datos que carezca de documentación. Desarrollar plantillas de divulgación en el sitio web que aborden cada requisito. Mantener documentación sobre la obtención y procesamiento de datos para respaldar las divulgaciones, creando versiones específicas para el público que mitiguen el riesgo de divulgación de secretos comerciales.
Conferir con asesores legales para encontrar nuevas formas de mantener la información propietaria y los secretos comerciales confidenciales, incluyendo la posible renegociación de los términos de cualquier licencia o acuerdo de confidencialidad. Construir una posición de propiedad intelectual legalmente defendible antes de hacer cualquier divulgación, creando, con la ayuda de asesores legales, un plan de respuesta a litigios y riesgos de aplicación. Monitorear desarrollos legales, incluyendo el caso mencionado que argumenta que la ley obliga a la divulgación de conjuntos de datos de entrenamiento propietarios y otros posibles cambios regulatorios.
Por qué es importante
El incumplimiento podría llevar a la ejecución por parte del Fiscal General de California u otros entes estatales. La transparencia mejorada tiene como objetivo abordar la confianza del consumidor, el sesgo, los derechos de autor y las preocupaciones sobre la privacidad. Esta ley es un potencial modelo para otros estados o incluso para la regulación federal de la IA. Abordar una estrategia de cumplimiento ahora ahorrará tiempo y complicaciones a las organizaciones cuando las ejecuciones se vuelvan más comunes.
