Nueva Ley de California Requerirá Transparencia y Medidas de Divulgación en IA
El 19 de septiembre de 2024, el Gobernador de California, Gavin Newsom, firmó la California AI Transparency Act, una ley que exigirá a los proveedores de sistemas de inteligencia artificial (IA) generativa que:
- Ofrezcan una herramienta de detección de IA.
- Brinden a los usuarios de IA la opción de incluir una divulgación manifiesta que indique que el contenido es generado por IA.
- Incluyan una divulgación latente en el contenido generado por IA.
- Establezcan un contrato con los licenciatarios que exija mantener la capacidad del sistema de IA para incluir dicha divulgación latente en el contenido que el sistema crea o altera.
La California AI Transparency Act entrará en vigor el 1 de enero de 2026 y es la ley de marcado de agua de IA más completa y específica del país.
Definiciones Clave
Las disposiciones de la ley se aplican a los “proveedores cubiertos”, definidos como “una persona que crea, programa o produce de alguna manera un sistema de IA generativa que tiene más de 1,000,000 de visitantes o usuarios mensuales y es accesible públicamente” dentro de California. Además, un sistema de IA generativa se define como:
Una inteligencia artificial que puede generar contenido sintético derivado, incluyendo texto, imágenes, video y audio, que emula la estructura y características de los datos de entrenamiento del sistema.
La ley también define “inteligencia artificial” como:
Un sistema basado en máquinas o ingenierías que varía en su nivel de autonomía y que puede, para objetivos explícitos o implícitos, inferir a partir de la entrada que recibe cómo generar salidas que pueden influir en entornos físicos o virtuales.
Los proveedores cubiertos deberán cumplir con la ley a partir de la fecha en que entre en vigor; es decir, el 1 de enero de 2026.
Requisitos para Proveedores Cubiertos
Los requisitos de transparencia de la ley exigirán que los proveedores cubiertos hagan divulgaciones sobre el uso de sistemas de IA generativa. Primero, se requerirá que los proveedores cubiertos pongan a disposición, sin costo para el usuario, herramientas de detección de IA que permitirán a los usuarios evaluar si el contenido de imagen, video o audio ha sido creado o alterado utilizando un sistema de IA generativa. Sujetas a ciertos requisitos técnicos y protecciones de privacidad, estas herramientas también deberán proporcionar datos de proveniencia del sistema respecto al contenido, para permitir a los usuarios verificar los dispositivos, sistemas o servicios utilizados para generar dicho contenido y la autenticidad del contenido.
Además, se requerirá que los proveedores cubiertos proporcionen a los usuarios tanto divulgaciones latentes en el contenido generado por IA como la opción de incluir una divulgación manifiesta en dicho contenido. Las divulgaciones manifiestas—es decir, divulgaciones en contenido generado por IA que son fácilmente percibidas, comprendidas o reconocidas por una persona natural—se requerirán para identificar el contenido como generado por IA de manera clara, conspicua, apropiada y permanente. Las divulgaciones latentes—aquellas que no son manifiestas, sino que están presentes en los metadatos del contenido generado por IA—deberán transmitir (en la medida en que sea técnicamente factible y razonable, ya sea directamente o a través de un enlace a un sitio web permanente) el nombre del proveedor cubierto, el nombre y número de versión del sistema de IA generativa, la fecha y hora de la creación o alteración del contenido y un identificador único. Las divulgaciones latentes también deberán ser detectables por la herramienta de detección de IA, de acuerdo con estándares industriales ampliamente aceptados, y deben ser permanentes o extraordinariamente difíciles de eliminar.
Finalmente, los proveedores cubiertos que licencien sus sistemas de IA generativa a terceros deberán asegurarse de que los licenciatarios mantengan estos requisitos de divulgación. Si los proveedores cubiertos saben que los licenciatarios de terceros no son capaces de incluir tales divulgaciones, deberán revocar sus licencias dentro de las 96 horas.
Aplicación de la Ley
La ley será aplicada por el Fiscal General de California, un fiscal de la ciudad o un abogado del condado, y prevé sanciones civiles de $5,000 por día si se encuentra que un proveedor cubierto está en violación.
Conclusiones para Partes Interesadas
California se une a otros estados como Colorado, Utah e Illinois en exigir transparencia sobre el uso de IA. Sin embargo, a diferencia de esos otros estados, la ley de California es la primera en crear requisitos específicos y completos relacionados con el marcado de agua. Las empresas que desarrollan sistemas de IA generativa deben estar atentas a estos requisitos técnicos específicos a medida que invierten tiempo y recursos en el desarrollo de tecnología dentro del ámbito de esta ley. Los licenciadores y licenciatarios de sistemas de IA cubiertos deben considerar actualizar sus acuerdos para abordar estos requisitos contractuales.
