¿Cambiarán las Normas de Cumplimiento la Forma en que las Empresas Compran Generative AI?
La compra de inteligencia artificial (IA) por parte de las empresas ha evolucionado de un enfoque centrado en la tecnología a uno centrado en el cumplimiento. Las multas pueden alcanzar los €35 millones o el 7% de los ingresos anuales bajo la Ley de IA de la UE. Esta implementación mixta en diferentes regiones genera una complejidad continua para las empresas globales.
Normas con Fechas Límites Impulsan Cambios Rápidos
La Ley de IA entró en vigor el 1 de agosto de 2024 y estará completamente activa para el 2 de agosto de 2026. Las violaciones de estas normas pueden obligar a las empresas a retirar sistemas de IA del mercado, lo que hace que las soluciones no conformes no sean viables para los negocios. Actualmente, los Estados miembros de la UE están en diferentes etapas de implementación de la ley, mientras que las normas de IA a nivel global son altamente variadas. La aplicación de estas regulaciones ya ha mostrado resultados significativos; por ejemplo, la CNIL de Francia multó a Google con €325 millones y a Shein con €150 millones por violaciones de consentimiento de cookies.
Los Casos de Copyright Aceleran la Demanda de Soluciones Seguras
Acuerdos de copyright de alto perfil están cambiando la forma en que los compradores eligen a los proveedores. Anthropic acordó un acuerdo propuesto de $1.5 mil millones que abarca aproximadamente 500,000 obras a $3,000 por libro, así como la destrucción de archivos obtenidos ilegalmente. Thomson Reuters ganó un juicio parcial contra Ross Intelligence, encontrando que Ross utilizó indebidamente 2,243 encabezados de Westlaw, perjudicando el mercado de Thomson Reuters. Sin embargo, algunos tribunales han fallado a favor de las empresas de IA; en el caso Bartz v. Anthropic, se determinó que el uso de libros impresos comprados para el entrenamiento de IA era ‘altamente transformativo’ y constituía un uso justo.
Los Compradores Empresariales Ahora Priorizan el Cumplimiento
Este panorama legal está cambiando el comportamiento de compra. Factores como seguridad y costo han ganado terreno sobre la precisión y fiabilidad generales. Un líder de la industria comentó: «para la mayoría de las tareas, todos los modelos funcionan lo suficientemente bien ahora, por lo que el precio se ha vuelto un factor mucho más importante». Las empresas que utilizan sistemas de IA deben negociar garantías contractuales que aseguren que el desarrollador del sistema de IA ha realizado revisiones exhaustivas de las entradas de entrenamiento y ha eliminado la dependencia de conjuntos de datos cuestionables. Las organizaciones buscan indemnizaciones de los proveedores de IA por posibles infracciones de propiedad intelectual, violaciones de privacidad de datos y brechas de confidencialidad.
Las Startups de Cumplimiento Obtienen Inversiones Masivas
Las empresas de cumplimiento de IA están asegurando grandes financiamientos, reflejando la demanda empresarial por la reducción de riesgos. Delve recaudó $32 millones a una valoración de $300 millones, liderada por Insight Partners, representando un aumento de aproximadamente 10 veces respecto a su ronda anterior. La compañía ha crecido rápidamente para servir a más de 500 empresas a través de múltiples marcos de cumplimiento, ayudando a los clientes a cumplir en días y cerrar acuerdos más rápido. Zango también recaudó $4.8 millones liderados por Nexus Venture Partners para su plataforma de gobernanza, riesgo y cumplimiento impulsada por IA.
Los Primeros en Moverse Obtienen Ventajas en el Mercado
A pesar de las normas, mantener el cumplimiento práctico sigue siendo difícil. Los modelos de IA pueden aprender y reproducir información sensible de los datos de entrenamiento, lo que puede resultar en salidas que contengan información confidencial. Las empresas están cambiando de un enfoque de ‘construir’ a ‘comprar’, con un marcado aumento en la compra de aplicaciones de terceros en los últimos doce meses, ya que las empresas descubren que las herramientas desarrolladas internamente son difíciles de mantener en un espacio tan dinámico. En lugar de simplemente añadir el cumplimiento como una casilla de verificación, el cambio hacia una compra centrada en el riesgo está creando nuevas categorías de mercado de IA, donde la seguridad legal de una startup puede comandar una prima de valoración 10 veces mayor sobre la pura capacidad tecnológica.
