OneTrust Adiciona Monitoramento em Tempo Real e Aplicação à Plataforma de Governança de IA
A OneTrust expandiu sua plataforma de governança com novas capacidades destinadas a monitorar e aplicar políticas de IA em tempo real, superando o que a empresa descreve como fluxos de trabalho de conformidade estáticos e pontuais.
O que há de novo
A atualização visa equipes de dados, riscos e IA que precisam governar agentes, modelos e conjuntos de dados de IA enquanto operam em ambientes de produção, em vez de apenas durante auditorias ou avaliações periódicas.
A expansão introduz três capacidades principais:
Detecção e Inventário de Agentes de IA: Descobre e catalogará continuamente agentes de IA, modelos e conjuntos de dados em todo o ambiente de uma organização, capturando propriedade, propósito, integrações, acesso a dados, linhagem e mudanças no ciclo de vida para manter um registro centralizado.
Gerenciador de Políticas de IA e Biblioteca de Políticas: As organizações podem começar com políticas pré-construídas alinhadas a padrões como o NIST AI Risk Management Framework e o EU AI Act, ou definir suas próprias. A ferramenta monitora a conformidade de forma contínua.
Aplicação de Guardrails de IA: Inspeciona sistemas de IA, incluindo IA generativa e modelos tradicionais de aprendizado de máquina, para verificar configurações de guardrails e detectar violações. Quando riscos são identificados, o sistema pode aplicar automaticamente proteções, como bloquear ou limitar a exposição de dados pessoais.
A mudança de governança estática para contínua
A atualização foi apresentada como uma resposta à crescente lacuna entre a rapidez com que os sistemas de IA são implantados e como a governança é tipicamente aplicada. A necessidade de uma governança que acompanhe a evolução da IA foi enfatizada.
Integrações da Plataforma
A OneTrust observou que o desenvolvimento de IA está cada vez mais acontecendo em plataformas de nuvem e ferramentas de agentes sem código, dificultando a visibilidade para as equipes de governança. Para resolver isso, a plataforma integra ambientes de desenvolvimento de IA e serviços em nuvem.
Como os clientes estão utilizando a plataforma
Algumas organizações já utilizam a plataforma para governança de IA, alinhando suas práticas com os padrões de risco e aproveitando as integrações com plataformas de dados para acelerar revisões e embutir supervisão ao longo do ciclo de vida da IA.
Contexto mais amplo
A atualização chega em um momento em que reguladores em várias jurisdições estão avançando com legislações e estruturas específicas para IA. O desafio para os fornecedores de governança será provar que a governança em tempo real pode escalar sem criar fricções que atrasem os pipelines de desenvolvimento de IA.
Conclusão
A introdução dessas novas capacidades pela OneTrust representa um avanço significativo na governança de IA, movendo-se para um controle contínuo e em tempo real, essencial em um cenário onde a IA se torna cada vez mais integrada aos processos empresariais.
