OneTrust Amplía su Plataforma de Gobernanza de IA con Monitoreo y Cumplimiento en Tiempo Real
OneTrust ha ampliado su plataforma de gobernanza con nuevas capacidades diseñadas para monitorear y hacer cumplir políticas de IA en tiempo real, superando lo que la empresa describe como flujos de trabajo de cumplimiento estáticos y puntuales.
¿Qué hay de nuevo?
La expansión introduce tres capacidades clave:
- Detección e Inventario de Agentes de IA: que descubre y cataloga continuamente los agentes de IA, modelos y conjuntos de datos en el entorno de una organización. El sistema captura propiedad, propósito, integraciones, acceso a datos, linaje y cambios en el ciclo de vida para mantener un registro centralizado.
- Administrador de Políticas de IA y Biblioteca de Políticas: Las organizaciones pueden comenzar con políticas preconstruidas alineadas a estándares como el Marco de Gestión de Riesgos de IA de NIST y el Acta de IA de la UE, o definir las suyas propias. La herramienta monitorea el cumplimiento de forma continua.
- Cumplimiento de Límites de IA: que inspecciona sistemas de IA, incluidos modelos de aprendizaje automático tradicionales y generativos, para verificar configuraciones de límites y detectar violaciones. Cuando se identifican riesgos, el sistema puede implementar automáticamente protecciones, como bloquear o limitar la exposición de datos personales.
La transición de la gobernanza estática a la continua
La actualización se enmarca como una respuesta a la creciente brecha entre la rapidez con que se despliegan los sistemas de IA y cómo se aplica típicamente la gobernanza. Se argumenta que los enfoques de gobernanza tradicionales, que dependen de evaluaciones realizadas en intervalos fijos, no son adecuados para sistemas de IA que evolucionan continuamente en producción.
Integraciones de la plataforma
OneTrust ha observado que el desarrollo de IA se está llevando a cabo cada vez más en plataformas en la nube y herramientas de agentes sin código, lo que dificulta a los equipos de gobernanza mantener visibilidad. Para abordar esto, la plataforma se integra con entornos de desarrollo de IA y servicios en la nube.
Uso de la plataforma por parte de los clientes
Varios clientes ya utilizan la plataforma para la gobernanza de IA. Se destaca que organizaciones utilizan OneTrust para alinear sus prácticas de IA con marcos de gestión de riesgos y para gestionar la gobernanza de IA a nivel empresarial. Los empleados envían casos de uso de IA a través de un proceso de entrada centralizado, donde los riesgos se evalúan y clasifican conforme a la legislación aplicable.
Contexto más amplio
La actualización se produce en un momento en que los reguladores en múltiples jurisdicciones están avanzando con legislaciones y marcos específicos de IA. Para los proveedores de gobernanza, la oportunidad comercial radica en cerrar la brecha entre estos marcos regulatorios y la realidad operativa de los sistemas de IA que funcionan en entornos complejos y multi-nube.
El desafío será demostrar que la gobernanza en tiempo real puede escalar sin crear fricciones que ralenticen las tuberías de desarrollo de IA que pretende supervisar.
