Los interesados piden evitar estructuras específicas de IA duplicadas
Los riesgos relacionados con la inteligencia artificial se abordan en gran medida a través de los marcos regulatorios existentes, según informaron los interesados durante la redacción de un documento de discusión sobre el uso responsable de la inteligencia artificial en el sector de servicios financieros.
Esto incluye la gobernanza corporativa, la conducta, la gestión de riesgos, el ciber-riesgo, la resiliencia operativa y los requisitos de supervisión de terceros. Los interesados alentaron a evitar estructuras específicas de IA duplicadas y, en su lugar, integrar las consideraciones de IA dentro de los marcos de gestión de riesgos empresariales establecidos.
Enfoque y beneficios de la IA
Los interesados expresaron un amplio apoyo al enfoque propuesto por la autoridad, basado en resultados y principios para la gobernanza de la IA. Generalmente, se acordó que la IA podría ofrecer beneficios significativos si se implementa de manera responsable, incluyendo mejoras en la eficiencia, la gestión de riesgos, el cumplimiento y la integridad del mercado.
Sin embargo, muchos interesados advirtieron sobre la posibilidad de requisitos excesivamente prescriptivos o específicos de tecnología, señalando el rápido ritmo de cambio tecnológico y el riesgo de que las reglas rígidas se vuelvan obsoletas rápidamente.
La autoridad confirmó su intención de mantener un enfoque de supervisión neutral ante la tecnología y adecuado a su propósito. Algunos respondentes sugirieron que la proporcionalidad debería reconocer más explícitamente los beneficios esperados o las ventajas competitivas de la adopción de IA.
Riesgos y consideraciones
Otros enfatizaron que la gobernanza de la IA debería extenderse más allá de las consideraciones tradicionales de riesgo operativo, dado el impacto transformador potencial de los cambios empresariales habilitados por la IA. La autoridad reconoció que los consejos de administración y la alta dirección consideran los beneficios estratégicos al determinar si perseguir soluciones habilitadas por IA.
La IA puede amplificar o acelerar los impulsores de riesgo existentes en diversas categorías, como el riesgo operativo, de conducta, de datos, cibernético y estratégico. Algunos interesados hicieron hincapié en el uso creciente de la IA en funciones de inversión, comercio, vigilancia de mercado e investigación, así como las posibles implicaciones para la integridad del mercado y la estabilidad financiera.
El feedback destacó riesgos asociados con comportamientos correlacionados o de manada, dinámicas de mercado aceleradas bajo estrés, dependencia de fuentes de datos alternativas o no estructuradas, y el potencial de manipulación del mercado habilitada por IA o divulgaciones engañosas sobre las capacidades de la IA.
Conclusiones y futuro
La autoridad observó comentarios regulatorios internacionales recientes que destacan el potencial de comportamientos no intencionados o emergentes que surgen de las interacciones entre sistemas de IA desplegados de manera independiente, especialmente en contextos de mercados de capital.
Estas consideraciones informarán la evaluación continua de si se justifica la orientación específica del sector o la aclaración de supervisión para casos de uso de mayor riesgo, que pueden basarse en los marcos regulatorios existentes sobre integridad del mercado y conducta.
Los interesados enfatizaron la importancia de la alineación regulatoria internacional, especialmente para las empresas que operan bajo marcos de gobernanza de IA a nivel grupal que deben cumplir con múltiples regímenes regulatorios. También se identificaron desafíos prácticos relacionados con habilidades, recursos, validación independiente e integración con sistemas existentes.
La autoridad reconoció la importancia de la implementación por fases, el compromiso de supervisión y el diálogo continuo para apoyar la adopción proporcionada y efectiva de prácticas de gobernanza de IA. Planea seguir interactuando con los interesados y monitoreando desarrollos internacionales para informar su análisis de los requisitos regulatorios existentes, las prácticas actuales del mercado y los principios establecidos en el documento de discusión.
El objetivo de la autoridad es apoyar la innovación responsable, asegurando que cualquier mejora a las expectativas de supervisión sea práctica, basada en riesgos y evite duplicaciones innecesarias o cargas regulatorias no intencionadas.
