SS&C Advocacy for Open Governance Standards in Enterprise AI
Recentemente, foi anunciada a publicação de um novo Quadro de Governança de IA Empresarial, que busca a adoção de padrões abertos para a implementação de IA em ambientes regulamentados. Esse quadro reflete a demanda crescente por padrões de implantação de IA portáteis e abertos nas empresas, à medida que o uso de agentes de IA aumenta.
Desafios Atuais
Um dos principais desafios identificados é a falta de um quadro compartilhado que permita às empresas gerenciar e evoluir seus fluxos de trabalho de IA em larga escala, funcionando em todos os modelos, plataformas e relações com fornecedores. As empresas precisam ser capazes de construir, adaptar e reconstruir fluxos de trabalho de IA de acordo com suas políticas de governança.
Embora padrões existentes, como NIST e ISO 42001, ofereçam diretrizes importantes sobre gestão de riscos de IA e governança de dados, eles não abordam diretamente a complexidade operacional da implementação de agentes de IA em grande escala. À medida que as empresas avançam para fluxos de trabalho autônomos e de múltiplas etapas, há uma lacuna crescente na operacionalização e gestão desses sistemas.
Princípios da Nova Estrutura
O novo quadro busca abordar essa lacuna com princípios que incluem:
- Portabilidade: a capacidade de substituir qualquer modelo, ferramenta ou componente do fluxo de trabalho sem a necessidade de reconstruir os sistemas ao redor.
- Auditabilidade em tempo de construção: um registro permanente em cada nó do design do fluxo de trabalho, incluindo decisões, alternativas e aprovações.
- Observabilidade em tempo de execução: monitoramento contínuo do que o sistema faz em produção, em comparação com o design pretendido.
- Soberania de dados: restrições geográficas e regulatórias sobre o processamento de dados desde o design até a execução.
- Resiliência operacional: alternativas pré-validas em cada nó para garantir que mudanças de modelo, de fornecedor ou restrições contratuais não levem a falhas em todo o sistema.
Próximos Passos
Um grupo de trabalho está sendo estabelecido para desenvolver ainda mais esses padrões. As empresas, reguladores e participantes da indústria interessados em participar são convidados a entrar em contato.
Conclusão
À medida que as organizações implementam a IA em larga escala, a necessidade de um quadro de governança claro e eficaz se torna cada vez mais crucial. A adoção de padrões abertos pode facilitar a integração e a operação de fluxos de trabalho de IA, promovendo um ambiente mais seguro e eficiente para a implementação de tecnologias avançadas.
