La respuesta de FICO al riesgo de la IA: un modelo fundamental que califica cada resultado por precisión y cumplimiento
FICO, conocido principalmente como la empresa que determina las puntuaciones de crédito, ha estado trabajando con modelos de aprendizaje automático e IA durante años. Sin embargo, la compañía decidió esperar antes de lanzar sus propios modelos fundamentales, eligiendo en su lugar establecer un nivel de confianza y cumplimiento para sus clientes en servicios financieros.
Recientemente, FICO anunció el lanzamiento de dos modelos fundamentales, FICO Focused Language (FICO FLM) y FICO Focused Sequence (FICO FSM). Ambos modelos fueron construidos desde cero, aprovechando la vasta experiencia de la compañía en datos financieros y algoritmos para su entrenamiento. FICO también opera un clúster de GPU.
FICO Focused Language y FICO Focused Sequence
FICO Focused Language se centra principalmente en las conversaciones y el aspecto lingüístico de las finanzas para determinar el fraude y procesar la documentación de préstamos. Por otro lado, FICO Focused Sequence es más adecuado para el análisis de transacciones.
Scott Zoldi, director de análisis de FICO, mencionó que, a pesar de los años construyendo modelos, la compañía sabía que sus ofertas debían cumplir con las estrictas necesidades de confianza y cumplimiento de sus principales clientes: bancos y prestamistas.
“Necesitábamos asegurarnos de que estábamos cómodos con la tecnología que cumpliría con el estándar de IA responsable”, dijo Zoldi. “Tenía que ser auditable, transparente y explicable, y necesitábamos desarrollar la tecnología que monitorizara los resultados.” Así, FICO creó su Trust Score, que clasifica las respuestas del modelo en función de criterios específicos para garantizar que la salida se mantenga precisa y fundamentada.
La capa de confianza
El Trust Score es un componente clave que hace que los dos modelos de FICO sean efectivos para industrias altamente reguladas, como las finanzas. Este puntaje actúa como una guía que indica cuán cercana está una respuesta de los datos de entrenamiento. Es similar a cómo algunos proveedores de servicios en la nube, como AWS, ofrecen guardrails para modelos de propósito general.
“El Trust Score básicamente indica que tendremos un algoritmo de IA generativa independiente basado en los datos que se utilizaron para construir el modelo”, explicó Zoldi.
Dado que FICO construyó los modelos desde cero, tienen acceso a los conjuntos de datos exactos utilizados para entrenar los modelos. FICO también trabaja estrechamente con sus clientes para integrar sus datos, permitiendo personalizar los modelos para sus casos de uso específicos. El Trust Score también toma en cuenta el contexto encontrado en los datos. Por ejemplo, si el modelo se utiliza para revisar documentación sobre instrumentos financieros europeos, el Trust Score puede determinar si la respuesta es relevante.
Enfoque en modelos específicos del dominio
La tesis de FICO es que algunas industrias se beneficiarían más de modelos específicos del dominio en lugar de reutilizar un modelo de lenguaje grande que tiene una comprensión más general de los datos. Las instituciones financieras, según Zoldi, podrían estar ejecutando varios modelos pequeños y específicos del dominio para diferentes casos de uso, todos enfocados en un solo aspecto del negocio.
Zoldi destacó que un modelo de nicho solo conocería la información y el conocimiento que necesita, evitando introducir alucinaciones en las respuestas.
A pesar de las ventajas, desarrollar un modelo fundamental puede ser un proceso desafiante y costoso. La mayoría de las empresas optan por ajustar un modelo de lenguaje grande (LLM) de proveedores como OpenAI o Anthropic.
Conclusión
Los modelos FICO, FLM y FSM, que son relativamente pequeños (menos de 1 billón y menos de 1 millón de parámetros, respectivamente), ofrecen soluciones más ágiles y específicas para el sector financiero, permitiendo un enfoque más efectivo y seguro en la gestión de datos y transacciones. La implementación de un Trust Score asegura que el uso de IA en finanzas se mantenga dentro de los estándares de cumplimiento y confianza requeridos en esta industria crítica.
