FINRA publica visão geral sobre inteligência artificial agentiva nos serviços financeiros
No dia 27 de janeiro, foram publicadas observações sobre o uso emergente da inteligência artificial agentiva na indústria de serviços financeiros. Os agentes de IA são sistemas autônomos capazes de planejar, tomar decisões e executar ações para alcançar metas e objetivos sem regras pré-definidas ou intervenção humana contínua, diferenciando-se das ferramentas de automação tradicionais.
Observou-se que esses agentes podem operar com diferentes graus de autonomia e supervisão, mas carecem de julgamento humano e conhecimento tácito, o que pode apresentar desafios em termos de transparência e supervisão.
Riscos associados aos agentes de IA
- Potencial para os agentes agirem além de seu escopo e autoridade pretendidos;
- Dificuldades em auditabilidade e transparência;
- Potencial uso indevido ou divulgação de dados sensíveis;
- Conhecimento de domínio insuficiente para tarefas complexas;
- Funções de recompensa desalinhadas;
- Riscos persistentes únicos à inteligência artificial generativa, como viés, alucinações e preocupações com a privacidade.
Tipos de agentes de IA
- Agentes conversacionais que interagem via linguagem natural;
- Agentes de desenvolvimento de software que automatizam codificação e gerenciamento de infraestrutura;
- Agentes de detecção e prevenção de fraudes;
- Agentes de vigilância de transações e prevenção à lavagem de dinheiro;
- Agentes de automação e otimização de processos;
- Agentes de execução de transações.
Um infográfico foi disponibilizado sobre esses diferentes tipos de agentes de IA.
