Kore.ai dévoile une plateforme pour lutter contre la prolifération de l’IA en entreprise
Kore.ai a lancé sa plateforme de gestion des agents (AMP), une couche logicielle pour gouverner et surveiller les agents d’IA au sein des grandes organisations alors que leur déploiement se multiplie et devient de plus en plus difficile à gérer.
De nombreuses entreprises gèrent désormais des agents d’IA à travers des unités commerciales, des équipes de développement et des environnements cloud. Cette prolifération peut laisser les fonctions technologiques et de gestion des risques sans une vue claire de ce qui fonctionne, de son coût ou des contrôles qui s’appliquent. Les analystes de l’industrie décrivent cette tendance comme une « prolifération de l’IA ».
Les prévisions indiquent que les entreprises utiliseront des milliers d’agents d’IA dans leurs fonctions commerciales dans les prochaines années. Ce changement soulève des questions opérationnelles concernant l’application des politiques, l’auditabilité, la surveillance des performances et la mesure des résultats commerciaux.
Couche de contrôle unique
AMP est conçue pour fonctionner à travers différents cadres d’agents, fournisseurs de cloud et environnements de développement. La plateforme consolide l’observabilité, les contrôles de gouvernance, la surveillance des performances et la mesure de la valeur en une seule couche. Cela permet aux organisations de passer d’expérimentations décentralisées à des pratiques de déploiement plus standardisées.
Un point clé est la visibilité sur les actions des agents et leur comportement au fil du temps. Dans de nombreuses organisations, les déploiements commencent comme des initiatives au niveau des équipes dans des domaines tels que le service client, le support informatique, les opérations de vente, la finance et l’ingénierie logicielle. Au fil du temps, des chaînes d’outils et des choix de modèles distincts peuvent émerger, compliquant la supervision pour les équipes de sécurité et les audits internes, en particulier lorsque les agents manipulent des données sensibles.
Tests et évaluation
Kore.ai met en avant un studio d’évaluation comme composant central d’AMP, conçu pour aider les équipes à tester le comportement des agents, les flux de travail et les résultats avant de les déployer en production. La plateforme est également positionnée pour des environnements mixtes où les organisations utilisent plusieurs clouds et cadres d’agents.
La surveillance des coûts devient également une préoccupation pratique. Les agents d’IA peuvent entraîner une utilisation variable en fonction des volumes, des choix de modèles, des appels d’outils et de la fréquence à laquelle les systèmes sont réentraînés ou évalués. AMP aide les entreprises à suivre les performances et les coûts, à appliquer les politiques de gouvernance de manière cohérente et à détecter les anomalies.
Surveillance en entreprise
Les organisations formalisent des cadres de gouvernance de l’IA, souvent impliquant le directeur des systèmes d’information, le directeur de la sécurité de l’information, les équipes de conformité et les propriétaires d’entreprise. Les systèmes basés sur des agents ajoutent de la complexité car ils peuvent enchaîner des actions à travers plusieurs outils et ensembles de données, rendant plus difficile la traçabilité du chemin d’une demande utilisateur initiale à une action automatisée.
La stratégie vise à combler cette lacune opérationnelle en traitant les agents d’IA comme des actifs nécessitant une gestion de cycle de vie, des contrôles de politique et une surveillance continue, semblable à d’autres logiciels critiques pour l’entreprise.
Le lancement est lié au passage de l’IA des pilotes vers des opérations mainstream. De nombreuses entreprises ont dépassé les chatbots et l’automatisation à usage unique pour des flux de travail pilotés par des agents s’étendant sur plusieurs départements et systèmes, augmentant ainsi le besoin de gouvernance et de responsabilité.
AMP est conçue pour des environnements multi-agents et des écosystèmes d’IA hétérogènes. Elle fournit une base centrale pour gouverner l’adoption de l’IA à mesure qu’elle s’étend dans l’organisation.
