LatticeFlow AI permet aux entreprises de contrôler le risque AI dans un monde AI agentique en s’associant avec SAP
La collaboration fournit des évaluations techniques approfondies des risques et de la sécurité, ainsi qu’une surveillance continue, offrant des preuves vérifiables sur le comportement des systèmes AI en production.
Introduction
LatticeFlow AI, une entreprise suisse spécialisée dans la gestion de la confiance, des risques et de la sécurité liés à l’IA, a annoncé un partenariat avec un leader mondial des applications d’entreprise. Cette collaboration vise à permettre aux entreprises de renforcer le contrôle et la gouvernance des risques AI, en traduisant les cadres AI et les exigences réglementaires en évaluations techniques vérifiables.
Analyse des risques AI
Avec l’accélération de l’adoption de l’IA, la gestion des risques et la gouvernance ne peuvent plus se baser sur des politiques de haut niveau ou des listes de contrôle manuelles. Les entreprises ont besoin de preuves techniques reflétant la performance et l’évolution des systèmes AI en production pour établir une supervision opérationnelle et construire la confiance au sein de l’organisation.
Grâce à ce partenariat, les entreprises utilisant ces solutions peuvent accéder à une plateforme permettant de traduire les exigences ISO/IEC 4200x en évaluations techniques approfondies, applicables de manière cohérente à tous les systèmes AI développés ou personnalisés dans l’écosystème de l’entreprise. Ces évaluations soutiennent également la conformité avec la législation AI de l’UE en fournissant des preuves objectives et vérifiables pour la gestion des risques AI.
Implications et risques
La plateforme permet l’évaluation technique des AI agentiques, des modèles de base et des systèmes AI personnalisés, y compris les chatbots. Ces évaluations suivent comment la performance, la sécurité et la fiabilité des modèles changent au fur et à mesure qu’ils sont personnalisés ou intégrés dans des systèmes AI. Cela devient une capacité critique, alors que les entreprises combinent des modèles propriétaires, tiers et à poids ouverts dans des environnements réglementés.
Les organisations créant leurs propres cas d’utilisation de l’IA pour des flux de travail critiques ont besoin de preuves techniques pour comprendre et gérer l’évolution des risques en pratique.
Conclusion
La collaboration entre ces deux entités vise à établir une nouvelle norme en matière de gouvernance AI à travers des évaluations techniques approfondies, permettant des décisions basées sur des preuves et accélérant l’adoption de l’IA avec confiance. En développant des évaluations techniques à l’échelle des modèles et des environnements d’entreprise, cette initiative anticipe comment la gouvernance AI sera mise en œuvre à grande échelle, établissant des attentes pour ce qui deviendra une pratique standard à mesure que les systèmes AI continueront d’évoluer.
