Réponse de FICO au risque de l’IA : un modèle de base qui évalue chaque sortie pour précision et conformité
FICO, une entreprise largement reconnue pour son rôle dans la détermination des scores de crédit, a travaillé avec des modèles d’apprentissage automatique et d’IA pendant de nombreuses années. Cependant, la société a choisi d’attendre avant de lancer ses propres modèles de base, privilégiant l’établissement d’un niveau de confiance et de conformité pour ses clients dans les services financiers.
Récemment, FICO a annoncé la sortie de deux modèles de base : le FICO Focused Language (FICO FLM) et le FICO Focused Sequence (FICO FSM). Ces modèles ont été conçus entièrement à partir de zéro, s’appuyant sur l’expertise de plusieurs décennies de l’entreprise dans les données financières et les algorithmes de formation.
FICO Focused Language (FLM)
Le FICO FLM traite principalement des conversations et de l’aspect linguistique de la finance pour déterminer la fraude et traiter la documentation des prêts. Ce modèle est crucial pour la conformité et la communication, car il comprend les règles régissant la manière dont les institutions financières doivent fournir et extraire des informations.
Une utilisation particulière du FLM consiste à surveiller les échanges entre une banque et un client afin de détecter si ce dernier traverse des difficultés financières. Cela permet à la banque d’adapter son approche pour fournir des informations pertinentes, tenant compte de la situation économique de l’utilisateur.
FICO Focused Sequence (FSM)
En revanche, le FICO FSM est optimisé pour l’analyse des transactions. Il mémorise l’ensemble des transactions d’un consommateur ou d’une organisation, établissant ainsi un modèle de comportement. Ce modèle peut déterminer si un changement dans les habitudes d’achat, comme des achats importants, pourrait indiquer un vol de carte de crédit.
Contrairement aux modèles de surveillance de fraude traditionnels, qui oublient souvent les détails après un certain temps, le FSM conserve les informations pertinentes, même après une longue période d’inactivité. Cette architecture unique, qui comprend une tête contrastive et une tête supervisée, permet de distinguer si une transaction est dans le modèle ou non et d’évaluer la probabilité de fraude.
La couche de confiance
Un élément clé qui rend ces modèles efficaces dans des secteurs hautement réglementés, comme la finance, est le Trust Score de FICO. Ce score agit comme un garde-fou indiquant à quel point une réponse est conforme à ses données de formation. Il permet de s’assurer que les sorties restent précises et pertinentes.
Le Trust Score évalue les réponses en fonction de leur adéquation avec les données d’entraînement, ce qui aide à prévenir les hallucinations des modèles, un problème commun dans les systèmes d’IA. Une réponse avec un score élevé indique qu’elle est précise et non trompeuse, tandis qu’une réponse à faible score peut nécessiter une réévaluation des données.
Modèles spécifiques au domaine
FICO soutient que certaines industries, comme les institutions financières, peuvent tirer le meilleur parti de modèles spécifiques au domaine plutôt que de modèles d’IA généralistes. Ces modèles se concentrent uniquement sur les informations et les connaissances nécessaires, réduisant ainsi le risque d’erreurs.
Bien que le développement d’un modèle de base soit souvent coûteux et complexe, de nombreuses entreprises choisissent de peaufiner un modèle de langage large existant. Cela dit, l’approche de FICO de créer des modèles petits et spécialisés pourrait bien représenter l’avenir de l’IA dans le secteur financier.
