Chartis désigne un leader dans les solutions de gouvernance de l’IA
Chartis Research a classé SAS comme un leader de catégorie dans son RiskTech Quadrant pour les solutions de gouvernance de l’IA, plaçant ce groupe de logiciels analytiques parmi les fournisseurs les mieux notés sur un marché soumis à un examen croissant de la part des régulateurs et des conseils d’administration.
Évaluation et fonctionnalités
L’évaluation a examiné 28 fournisseurs dans le cadre d’une étude plus large sur la technologie de gouvernance, de résilience et de conformité. SAS a également été nommé meilleur de sa catégorie pour la gestion de modèle et le flux de travail.
Chartis a souligné l’étendue des fonctions de gouvernance dans la plateforme de données et d’IA. Elle a mis en avant des contrôles pour des cas d’utilisation établis de l’apprentissage automatique ainsi que des approches plus récentes que les organisations commencent à déployer plus largement.
La plateforme comprend des capacités de gouvernance qui vont au-delà de l’apprentissage automatique classique, en englobant la gestion des risques de modèle, l’explicabilité, la détection des biais, la protection de la vie privée et le suivi de bout en bout dans l’environnement d’IA élargi des entreprises.
Focus sur la gouvernance
La gouvernance de l’IA est devenue une priorité pour les organisations déployant l’IA à grande échelle. Les entreprises sont sous pression pour renforcer la surveillance des modèles et des données, et pour montrer que des contrôles existent autour de la prise de décision, du suivi et de la responsabilité.
Cette discipline s’étend également au-delà des départements de conformité. Des entreprises telles que des banques et des assureurs ont appliqué des pratiques formelles de gestion des risques de modèle pendant des années, et des attentes similaires s’étendent désormais à un éventail plus large de systèmes d’IA.
Contrôles de modèle
Chartis a cité la gestion de modèle comme un domaine d’excellence pour le fournisseur. En pratique, cela couvre l’inventaire des modèles, la documentation, le suivi des performances et les approbations de gouvernance. Il comprend également la surveillance des dérives, qui se produit lorsque les performances changent avec l’évolution des données réelles.
Dans la plateforme, la surveillance du cycle de vie détecte la dérive, automatise la documentation et déclenche le réentraînement. La rédaction a également noté les pistes de vérification et les outils d’interprétabilité, souvent essentiels dans les services financiers réglementés.
Données et rapports
La gestion des données a également fait partie de l’évaluation. Des mesures de protection de la vie privée ont été mises en avant, ainsi que la visibilité, le benchmarking et le mapping. L’évaluation a également fait référence au soutien pour les données structurées et non structurées.
La plateforme inclut des outils pour générer des données synthétiques pour des tests dans des conditions plus contrôlées, ce qui a gagné en traction alors que les organisations cherchent des moyens de tester des modèles sans exposer des informations sensibles.
Feuille de route du produit
Le fournisseur a annoncé qu’il ajouterait un nouvel outil dans le trimestre suivant, centralisant les informations sur les modèles, les agents et les cas d’utilisation, avec des évaluations axées sur la visibilité et le contrôle de l’utilisation de l’IA.
Cette reconnaissance par Chartis s’ajoute à un ensemble plus large d’évaluations reçues par le fournisseur dans plusieurs catégories de gestion des risques.
