Lineaje ajoute la capacité d’appliquer automatiquement des politiques de gouvernance aux composants d’IA
Cette semaine, une plateforme a été dévoilée, découvrant automatiquement les composants d’intelligence artificielle (IA) d’une application, définissant des politiques de sécurité et de gouvernance, puis générant de manière autonome des garde-fous.
Fonctionnalités de la plateforme
Au cœur de cette plateforme se trouvent un ensemble de capacités d’IA intégrées à un cadre d’orchestration pour appliquer des politiques de gouvernance, intégrées dans un serveur de Protocole de Contexte de Modèle (MCP) qui s’intègre aux outils de codage de l’IA.
Les Agents de Découverte développés par la plateforme cartographient en continu un Registre des Composants d’IA (AIBOM) pour identifier chaque modèle, agent, serveur MCP, dépendance, compétences et connexions de données. De plus, des agents d’IA élaboreront un modèle de chaîne de destruction de l’IA pour contrer les menaces connues en utilisant les défenses mises en place par une équipe DevSecOps.
Implications pour les équipes DevSecOps
Ce système permet à la plateforme de dériver l’intention de comportement d’application à partir des outils utilisés pour concevoir et construire une application, qu’elle utilise ensuite pour générer les politiques de gouvernance appropriées. Les équipes DevSecOps peuvent également télécharger des documents de gouvernance internes qui sont convertis en politiques applicables.
De plus, des laboratoires de recherche en IA publient continuellement de nouvelles politiques pour traiter les menaces émergentes dans les environnements d’IA agentique. Cela est crucial car les tactiques et techniques créées pour exploiter les logiciels d’IA évoluent rapidement.
Équipées de ces insights, les équipes DevSecOps peuvent se fier à la plateforme pour cartographier en temps réel chaque système, connexion et motif comportemental afin d’évaluer les risques.
Conclusion
Chaque équipe DevSecOps devra déterminer dans quelle mesure elle souhaite s’appuyer sur l’IA pour générer et appliquer des politiques de gouvernance. À mesure que la confiance dans l’IA augmente, ce processus deviendra progressivement automatisé. La plateforme illustre comment la gouvernance de l’IA est opérationnalisée, rendant la découverte automatisée des composants d’IA, la génération de politiques et l’application des garde-fous intégrées directement dans le flux de travail de développement.
