Kyndryl quer ajudar empresas a manter agentes de IA em conformidade e evitar erros de conformidade custosos
Kyndryl anunciou uma nova funcionalidade de “policy as code” com o objetivo de ajudar organizações a escalar a IA agente em ambientes complexos e regulamentados.
O que é “policy as code”?
A ideia é transformar as regras organizacionais de uma empresa, os requisitos regulatórios e os controles operacionais em políticas legíveis por máquina que governem onde os agentes podem ou não operar.
As organizações geralmente implementam “policy as code” por meio de uma combinação de linguagens de política declarativas e motores de aplicação, criando um código que os agentes de IA podem ler e devem obedecer. Se está no código, o agente de IA deve executar. Se uma instrução não está no código, o agente de IA não pode vê-la ou agir com base nela.
Preocupações com a conformidade
A nova capacidade de “policy as code” surge em meio a crescentes preocupações de conformidade regulatória para empresas que estão aumentando a adoção de IA agente. De acordo com Kyndryl, mais de um terço de seus clientes reclamaram que questões de conformidade estão limitando seriamente sua capacidade de escalar investimentos tecnológicos recentes.
Características e benefícios
A nova funcionalidade visa definir limites operacionais e projetar as ações dos agentes para que permaneçam explicáveis, revisáveis e alinhadas com os requisitos de negócios e regulatórios definidos pelo cliente. As características incluem execução determinística, onde os agentes executam apenas ações que foram previamente permitidas e aplicadas.
Barreiras bloqueiam ações imprevisíveis ou não autorizadas ao longo do fluxo de trabalho, eliminando o impacto operacional de alucinações de agentes, e cada ação e decisão do agente é registrada e explicável, apoiando a conformidade e a supervisão.
Notavelmente, as decisões estão sujeitas à supervisão humana, com os agentes executando tarefas alinhadas a políticas estabelecidas e testáveis, monitoradas por meio de um painel.
Importância em setores regulamentados
Essa abordagem deve ser particularmente valiosa em indústrias altamente regulamentadas, como serviços financeiros, saúde e governo. A “policy as code” ajuda essas indústrias a realizarem os plenos benefícios da IA, reduzindo o risco de falhas de conformidade que podem danificar reputações e incorrer em pesadas penalidades financeiras.
Ao aplicar regras programáticas em larga escala, a “policy as code” ajuda a eliminar o erro humano que pode levar à concessão inadequada de permissões à IA, à interpretação inconsistente de regras e regulamentos e ao fracasso em documentar exceções às operações padrão.
