Adoption de l’IA : Les défis de la gouvernance de la sécurité
Un nouveau rapport révèle que les agents d’IA, les intégrations et les plateformes de développement natives d’IA sont en pleine expansion, soulevant de nouveaux défis critiques en matière de gouvernance de la sécurité.
Le rapport intitulé « Adoption de l’IA en pratique : Ce que les données d’utilisation des entreprises révèlent sur les risques et la gouvernance » fournit des informations sur l’adoption et les modèles d’utilisation de l’IA dans la main-d’œuvre. Il a été constaté que l’utilisation de l’IA a dépassé l’expérimentation et les outils de chat généralistes, pour s’intégrer désormais dans les flux de travail, les plateformes commerciales essentielles et devenir de plus en plus capable d’agir de manière autonome.
Principales conclusions
L’utilisation des principaux fournisseurs de LLM est presque omniprésente. Par exemple, OpenAI est présent dans 96,0 % des organisations, tandis qu’Anthropic est présent dans 77,8 %.
Les outils d’IA les plus utilisés se diversifient au-delà des simples conversations. Des outils tels que l’intelligence de réunion (Otter.ai à 74,2 %, Read.ai à 62,5 %), les présentations (Gamma à 52,8 %), le codage (Cursor à 48,4 %) et la voix (ElevenLabs à 45,2 %) sont désormais largement adoptés.
Les outils agentiques commencent à émerger, avec des outils comme Manus (22 %), Lindy (11 %) et Agent.ai (8 %) établissant une empreinte précoce.
Les intégrations sont courantes et variées. OpenAI et Anthropic sont le plus souvent intégrés aux suites de productivité des organisations, ainsi qu’aux systèmes de gestion des connaissances, aux dépôts de code et à d’autres outils.
L’utilisation est concentrée, avec OpenAI représentant 67 % du volume des invites observées parmi les outils de chat les plus actifs. De plus, 17 % des invites incluent des activités de copier/coller et/ou de téléchargement de fichiers, ce qui pose un risque non négligeable pour les données sensibles.
Risques liés aux données sensibles
Les événements détectés liés aux données sensibles sont principalement constitués de secrets et de credentials (47,9 %), suivis des informations financières (36,3 %) et des données de santé (15,8 %).
La gouvernance de l’IA est devenue une priorité absolue pour les responsables de la sécurité et des risques. Cependant, de nombreux programmes restent étroitement axés sur l’approbation des fournisseurs, les politiques d’utilisation acceptable ou les risques au niveau des modèles. Bien que nécessaires, ces contrôles à eux seuls sont insuffisants. Les risques les plus conséquents liés à l’IA proviennent de la façon dont les employés utilisent réellement les outils d’IA au quotidien.
Conclusion
Comprendre les intersections entre les personnes, les permissions et les plateformes est la base d’une gouvernance efficace de l’IA. Cette recherche souligne l’importance d’une visibilité en temps réel sur les outils d’IA utilisés, leur intégration avec des systèmes critiques et le flux de données sensibles. Les équipes qui réussiront seront celles qui traiteront la gouvernance de l’IA comme un processus continu et adaptatif.
