Singapore: Se publica un manual integral de gestión de riesgos de IA para instituciones financieras
El consorcio ha publicado el manual ejecutivo de gestión de riesgos de IA, el cual proporciona orientación sobre la gobernanza de IA y la gestión de riesgos para instituciones financieras. Este manual apoya a las instituciones en diferentes niveles de madurez en IA para escalar su uso de manera confiable, adoptando y operacionalizando la gobernanza de IA y la gestión de riesgos en toda la empresa, permitiendo un uso de IA en la industria que sea rápido pero responsable.
El manual ejecutivo está destinado a acompañar y apoyar la implementación de las directrices propuestas sobre la gestión de riesgos de IA.
Antecedentes
Se emitieron 14 principios de FEAT (Equidad, Ética, Responsabilidad, Transparencia) para el uso responsable de IA en la industria de servicios financieros. Tras la introducción de estos principios, se estableció una iniciativa para operacionalizarlos, produciendo una metodología y un kit de herramientas.
La fase 1 del proyecto concluyó con la publicación de un documento sobre los riesgos y oportunidades emergentes de la IA generativa para los bancos. La fase 2 reúne a bancos, aseguradoras y empresas de mercados de capital para abordar los desafíos de gobernanza de los sistemas modernos de IA, incluyendo IA tradicional, IA generativa y IA agente. El manual ejecutivo traduce años de colaboración en la industria en orientación práctica que las instituciones pueden implementar independientemente de su nivel actual de madurez en IA.
Componentes clave
El manual ejecutivo es parte de un conjunto de tres manuales diseñados para ser utilizados conjuntamente:
- Manual Ejecutivo de Gestión de Riesgos de IA: Proporciona consideraciones y prácticas de implementación para gobernar la IA en cada sección de su alcance y está destinado como un recurso para ejecutivos en la industria de servicios financieros.
- Manual de Operacionalización de Gestión de Riesgos de IA: Proporcionará orientación detallada sobre la operacionalización de cada práctica de implementación, incluyendo ilustraciones de buenas prácticas.
- Ejemplos de Implementación del Manual de Gestión de Riesgos de IA: Proporcionará estudios de caso detallados sobre las experiencias de instituciones financieras en la implementación de la gobernanza de IA y la gestión de riesgos.
Áreas críticas tratadas
El manual ejecutivo aborda áreas críticas a través de 17 consideraciones, que incluyen:
- Definir responsabilidades para la supervisión de IA mediante un modelo operativo de gobernanza de IA claramente definido.
- Asegurar políticas, procedimientos y estándares efectivos relacionados con IA.
- Mejorar la gestión de riesgos a nivel organizacional integrando riesgos específicos de IA en el marco de riesgo empresarial.
- Mejorar las prácticas de gestión de riesgos de IA de terceros.
- Aumentar la gestión de riesgos a nivel de caso de uso mediante evaluaciones de materialidad.
- Asegurar capacidades de inventario de IA.
- Evaluar el contexto y diseño del caso de uso.
- Adoptar prácticas de gestión de datos adecuadas.
- Evaluar riesgos específicos de IA durante la incorporación de productos de IA de terceros.
- Asegurar que el caso de uso de IA esté construido con las salvaguardias apropiadas.
- Realizar pruebas y revisiones exhaustivas antes de la implementación.
- Desarrollar planes de monitoreo y contingencia.
- Realizar un monitoreo continuo de los casos de uso de IA.
- Capturar cambios en los casos de uso de IA mediante una gestión de cambios efectiva.
- Apoyar el despliegue de IA para asegurar su idoneidad.
El manual enfatiza la proporcionalidad: las medidas de gobernanza deben escalar con el riesgo de IA según la naturaleza del negocio de la institución, la escala de uso de IA y el apetito por el riesgo.
Próximos pasos
Las instituciones financieras deben evaluar su madurez actual en gobernanza de IA en relación con las 17 consideraciones e implementar las prácticas recomendadas de manera proporcional a su perfil de riesgo y contexto empresarial.
