Les organisations adoptent l’IA mais manquent de gouvernance appropriée sur le développement
Selon une étude récente, 93 pour cent des entreprises au Royaume-Uni utilisent aujourd’hui l’IA d’une manière ou d’une autre. Cependant, la plupart d’entre elles ne disposent pas des cadres nécessaires pour gérer les risques associés à cette technologie et n’intègrent pas la gouvernance de l’IA dans leurs processus de développement logiciel.
Un état des lieux préoccupant
Le rapport révèle que seulement 7 pour cent des entreprises ont complètement intégré des cadres de gouvernance pour gérer les risques liés à l’IA. En outre, une faible proportion, soit 4 pour cent, considère que leur infrastructure technologique est entièrement prête pour l’IA, tandis que seulement 8 pour cent ont intégré la gouvernance de l’IA dans leur cycle de vie de développement logiciel.
Les organisations s’appuient encore largement sur des processus de développement logiciel hérités qui n’ont pas été mis à jour pour tenir compte des risques spécifiques à l’IA, tels que le biais des modèles ou les lacunes d’explicabilité. À peine 28 pour cent appliquent la détection de biais lors des tests, et encore moins (soit 22 pour cent) testent pour l’interprétabilité des modèles.
Des barrières à la gouvernance
Les infrastructures et les outils constituent également des obstacles à la gouvernance, selon les leaders informatiques interrogés. Seulement 4 pour cent des organisations affirment que leurs environnements de données et d’infrastructure sont entièrement prêts à soutenir l’IA à grande échelle. Les registres, les pistes de vérification et le contrôle de version pour les modèles d’IA sont souvent manuels ou totalement absents.
Responsabilité fragmentée
La responsabilité de la supervision de l’IA est également fragmentée. Parmi les personnes interrogées, 9 pour cent rapportent un alignement entre la direction informatique et la gouvernance, tandis que 19 pour cent déclarent qu’il n’y a pas de propriétaire clair pour les activités de gouvernance. L’engagement des dirigeants reste faible, la gouvernance de l’IA étant souvent pilotée au niveau départemental plutôt qu’à travers un leadership stratégique.
Des avantages tangibles de la gouvernance
Il est essentiel de noter que les organisations qui ont adopté une gouvernance de l’IA constatent des avantages réels et tangibles, notamment des déploiements plus rapides, une responsabilité accrue, et une réduction des cycles de révision manuels. Cela représente une fonction de soutien cruciale pour permettre une IA responsable et évolutive.
Il est clair que l’adoption de l’IA dépasse de loin la mise en place de la gouvernance. Les systèmes et les processus n’ont pas suivi le rythme de l’innovation, ce qui crée des défis importants pour les équipes de développement qui manquent des outils et infrastructures nécessaires.
La gouvernance est souvent perçue comme une contrainte, mais les résultats suggèrent le contraire. Les entreprises doivent impérativement investir dans des systèmes de gouvernance robustes pour tirer pleinement parti des bénéfices de l’IA.
