A Resposta da FICO ao Risco de IA: Um Modelo de Fundação que Avalia Cada Saída quanto à Precisão e Conformidade
A FICO, conhecida principalmente como a empresa que determina pontuações de crédito, tem trabalhado com modelos de aprendizado de máquina e IA por anos. No entanto, a empresa decidiu esperar antes de lançar seus próprios modelos de fundação, optando por estabelecer um nível de confiança e conformidade para seus clientes no setor de serviços financeiros.
Recentemente, a FICO anunciou o lançamento de dois modelos de fundação: FICO Focused Language (FICO FLM) e FICO Focused Sequence (FICO FSM). Ambos os modelos foram desenvolvidos inteiramente do zero, baseando-se na experiência acumulada da empresa em dados financeiros e algoritmos para treinamento. A FICO também opera um cluster de GPU.
FICO Focused Language e FICO Focused Sequence
O FICO Focused Language lida principalmente com conversas e aspectos linguísticos das finanças para determinar fraudes e processar documentação de empréstimos. Por outro lado, o FICO Focused Sequence é mais eficaz para análise de transações.
Scott Zoldi, diretor de análise da FICO, destacou que, apesar de anos construindo modelos e detendo várias patentes relacionadas a modelos de IA, a empresa sabia que suas ofertas precisavam atender às rigorosas necessidades de confiança e conformidade de seus principais clientes: bancos e credores.
A Camada de Confiança
O Trust Score é um componente-chave que torna os dois modelos da FICO eficazes para indústrias altamente regulamentadas, como a financeira. O Trust Score funciona como uma barreira que indica o quão próxima uma resposta está de seus dados de treinamento. É similar ao que alguns provedores de nuvem, como a AWS, oferecem como guardrails e fundamentação contextual para modelos maiores e de uso geral.
“O Trust Score basicamente diz que teremos um algoritmo de IA generativa independente, e esse algoritmo será baseado nos dados que foram utilizados para construir o modelo”, afirmou Zoldi.
Como a FICO construiu os modelos do zero, a empresa possui e tem acesso aos exatos conjuntos de dados utilizados para treiná-los. A FICO também colabora de perto com seus clientes para integrar seus dados, permitindo que eles personalizem os modelos para seus casos de uso específicos.
Modelos Específicos de Domínio
A tese da FICO é que algumas indústrias seriam melhor atendidas com modelos específicos de domínio, em vez de reutilizar um modelo de linguagem grande que tem uma compreensão mais geral dos dados. Os instituições financeiras, segundo Zoldi, poderiam estar rodando vários pequenos modelos específicos de domínio para diferentes casos de uso, todos focando apenas em um aspecto do negócio.
Embora o desenvolvimento de um modelo de fundação possa ser desafiador e caro, a maioria das empresas opta por ajustar um modelo de linguagem grande (LLM) de provedores como OpenAI ou Anthropic.
Casos de Uso dos Modelos FICO
O FICO FLM é ideal para entender a linguagem usada em transações, com dois casos gerais de uso: conformidade e comunicações. Ele entende as regras que regem como as instituições financeiras podem e devem fornecer informações aos clientes, além de extrair informações de conversas. O FLM pode detectar se o cliente está passando por dificuldades financeiras, permitindo que o banco adapte sua abordagem.
O FICO FSM, por sua vez, lida com dados de transações, lembrando a totalidade das transações e compras de um consumidor ou organização para estabelecer um padrão. Ele também pode determinar se uma mudança nos padrões de compra indica que alguém teve seu cartão de crédito roubado.
Com isso, os modelos da FICO se destacam no mercado, oferecendo soluções adaptadas às necessidades do setor financeiro e promovendo uma abordagem responsável em relação ao uso de IA.
