Singapore: Consórcio publica manual abrangente de gerenciamento de riscos de IA para instituições financeiras
O consórcio lançou o “Manual Executivo de Gerenciamento de Riscos de IA”, que fornece orientações sobre governança de IA e gerenciamento de riscos para instituições financeiras. Este manual apoia as instituições em diferentes níveis de maturidade em IA, ajudando a escalar a IA de forma confiável ao adotar e operacionalizar a governança e o gerenciamento de riscos de IA em toda a empresa, permitindo um uso da IA que seja rápido, mas responsável.
Contexto
Em 2018, foram emitidos os 14 Princípios FEAT (Justiça, Ética, Responsabilidade, Transparência) para o uso responsável da IA no setor financeiro. Após a introdução dos princípios FEAT, foi estabelecida uma iniciativa para operacionalizar esses princípios, produzindo uma Metodologia e um Kit de Ferramentas entre 2020 e 2023.
A Fase 1 do projeto resultou na publicação de um documento sobre os riscos e oportunidades emergentes da IA generativa para os bancos em maio de 2024. A Fase 2 reúne bancos, seguradoras, empresas de mercados de capitais, associações do setor, parceiros de tecnologia e consultoria para enfrentar os desafios de governança dos sistemas modernos de IA.
Componentes principais
O “Manual Executivo de Gerenciamento de Riscos de IA” faz parte de um conjunto de três manuais a serem utilizados em conjunto:
- Manual Executivo de Gerenciamento de Riscos de IA: fornece considerações e práticas de implementação para governar a IA em cada seção do escopo do manual.
- Manual de Operacionalização de Gerenciamento de Riscos de IA: fornecerá orientações detalhadas sobre a operacionalização de cada prática de implementação.
- Exemplos de Implementação do Manual de Gerenciamento de Riscos de IA: fornecerá estudos de caso detalhados sobre as experiências de instituições financeiras individuais.
Considerações críticas
O Manual Executivo aborda áreas críticas em 17 considerações:
- Definir responsabilidades para supervisão da IA, estabelecendo um modelo de governança claro com responsabilidade da diretoria e da alta administração;
- Garantir políticas, procedimentos e padrões relacionados à IA que definam conceitos e responsabilidades;
- Melhorar o gerenciamento de riscos em nível organizacional, integrando riscos específicos da IA no quadro de risco da empresa;
- Aprimorar práticas para gerenciamento de riscos de IA de terceiros;
- Melhorar o gerenciamento de riscos em nível de caso de uso através de avaliações de materialidade de riscos;
- Garantir capacidades de inventário de IA;
- Avaliar o contexto e o design do caso de uso;
- Avaliar a compatibilidade do uso de dados com padrões éticos e regulatórios;
- Adotar práticas de gerenciamento de dados apropriadas;
- Avaliar riscos específicos da IA ao integrar produtos de terceiros;
- Garantir que o caso de uso da IA seja construído com salvaguardas adequadas;
- Conduzir testes e revisões antes da implementação;
- Desenvolver planos de monitoramento e contingência;
- Realizar monitoramento contínuo para garantir a adequação ao longo do tempo;
- Capturar mudanças nos casos de uso através de gerenciamento eficaz de mudanças;
- Apoiar a implantação da IA para garantir que seja adequada ao propósito.
Próximos passos
As instituições financeiras devem avaliar sua maturidade atual em governança de IA em relação às 17 considerações e implementar as práticas recomendadas de forma proporcional ao seu perfil de risco e contexto empresarial.
