FINRA publica un resumen sobre la IA agentiva en los servicios financieros
El 27 de enero, se publicaron observaciones sobre el uso emergente de la IA agentiva en la industria de servicios financieros. Los agentes de IA son sistemas autónomos capaces de planificar, tomar decisiones y ejecutar acciones para alcanzar metas y objetivos sin reglas predefinidas o intervención humana continua, lo que los distingue de las herramientas de automatización tradicionales.
Autonomía y supervisión
Se destacó que estos agentes pueden operar con diferentes grados de autonomía y supervisión, pero carecen de juicio humano y conocimiento tácito, lo que puede presentar desafíos en términos de transparencia y supervisión.
Riesgos asociados
- Actuación fuera de su alcance: Los agentes pueden actuar más allá de su ámbito y autoridad previstos.
- Dificultades en la auditoría y transparencia: Estos sistemas pueden ser difíciles de auditar y supervisar.
- Uso indebido o divulgación de datos sensibles: Existe el riesgo de que se manejen datos sensibles de manera inapropiada.
- Conocimiento insuficiente para tareas complejas: Los agentes pueden carecer del conocimiento necesario para realizar ciertas tareas complejas.
- Funciones de recompensa desalineadas: Pueden surgir problemas si las recompensas no están alineadas con los objetivos deseados.
- Riesgos persistentes únicos de GenAI: Entre estos se encuentran el sesgo, las alucinaciones y preocupaciones sobre la privacidad.
Tipos de agentes de IA
- Agentes conversacionales: Interactúan mediante lenguaje natural.
- Agentes de desarrollo de software: Automatizan la codificación y gestión de infraestructura.
- Agentes de detección y prevención de fraudes: Detectan y previenen actividades fraudulentas.
- Agentes de vigilancia comercial y de AML: Monitorean actividades comerciales y cumplimiento AML.
- Agentes de automatización y optimización de procesos: Mejoran la eficiencia de los procesos internos.
- Agentes de ejecución comercial: Ejecutan acciones en el mercado basadas en estrategias definidas.
Se publicó una infografía sobre estos diferentes tipos de agentes de IA.
