Réparation du playbook de gouvernance de l’IA
Le paysage de la gouvernance de l’IA est de plus en plus chaotique, illustré par des incidents tels que des systèmes d’IA qui refusent des prêts à des candidats qualifiés ou des chatbots qui propagent des informations erronées. Ces problèmes ne sont pas isolés, mais plutôt révélateurs d’une approche défaillante de la gouvernance de l’IA. Il est crucial de reconnaître que la fragmentation des normes et des pratiques à travers le monde nuit à la confiance du public et entrave l’innovation.
Une gouvernance informée par le risque
Pour faire face à ces défis, il est nécessaire de développer une gouvernance informée par le risque. Ce cadre, comparable à un GPS pour la mise en œuvre responsable de l’IA, permet d’identifier, de mesurer et de gérer les risques associés à l’IA avant qu’ils ne se transforment en crises. Il repose sur quatre piliers fondamentaux : évaluation des risques, structures de gouvernance, méthodes de mise en œuvre et harmonisation mondiale.
Évaluation des risques
La première étape consiste à établir une évaluation honnête des risques potentiels, notamment :
- Risques techniques : tels que le dérive des modèles, la dégradation de la qualité des données et les vulnérabilités aux attaques.
- Risques éthiques et sociaux : incluant des décisions biaisées dans l’octroi de prêts basées sur des codes postaux.
- Risques opérationnels : qui menacent l’ensemble de l’entreprise, comme le non-respect des règlements.
Un exemple illustratif est celui de JPMorgan Chase, qui a réalisé une évaluation des risques avant le déploiement de son système d’approbation de prêts et a identifié des biais dans les données historiques.
Structures de gouvernance
La gouvernance doit être efficace, impliquant un engagement actif des conseils d’administration avec une autorité réelle. Des comités interfonctionnels doivent être établis, accompagnés de matrices RACI pour clarifier les rôles et responsabilités.
Un exemple est celui de la Cleveland Clinic, qui a mis en place des mécanismes de gouvernance précis pour son IA diagnostique, permettant une surveillance continue des recommandations de l’IA par des comités multidisciplinaires.
Mise en œuvre des principes de gouvernance
La mise en œuvre efficace des politiques de gouvernance est cruciale. Cela nécessite des outils qui transforment les politiques en pratiques opérationnelles. Les principes d’éthique doivent être intégrés dès le développement, et des systèmes de surveillance doivent être en place pour suivre les performances des modèles.
Harmonisation mondiale
Les organisations opérant à l’échelle mondiale doivent faire face à des exigences variées, comme celles établies par le Règlement sur l’IA de l’UE et la loi SB 1001 de Californie. Il est essentiel de suivre des cadres communs tout en adaptant les structures aux exigences locales.
Conclusion
La gouvernance de l’IA doit évoluer pour inclure des évaluations de risque rigoureuses, une gouvernance active, des méthodes d’implémentation efficaces et une harmonisation mondiale. L’engagement des dirigeants, des allocations budgétaires appropriées et une transformation culturelle sont indispensables pour réussir dans ce domaine en constante évolution.
Les organisations doivent agir rapidement pour construire des cadres robustes de gouvernance de l’IA, sous peine de faire face à des crises futures qui pourraient menacer leur réputation et leur viabilité.
