Feuille de route gouvernementale pour une IA intelligente, sûre et éthique
Le gouvernement fédéral souhaite dynamiser la productivité en lançant l’intelligence artificielle (IA) à grande échelle. Cela inclut la modernisation de la fonction publique avec des outils d’IA. En principe, cela est bien accueilli. Les modèles d’IA prédictive pourraient anticiper les évolutions des tendances en matière de soins de santé, améliorer les prévisions fiscales et aider à détecter la fraude fiscale, entre autres applications.
Les outils de traitement du langage naturel pourraient permettre des consultations plus larges sur les décisions gouvernementales. Cependant, ces opportunités sont accompagnées d’un avertissement : sans un déploiement réfléchi et un leadership capable en matière d’IA, nous risquons de dépenser des fonds publics à la recherche de nouveaux outils attrayants au détriment d’un véritable progrès.
Les défis de l’IA
Les systèmes d’IA ne sont pas des outils à configurer et oublier. Ce sont des systèmes complexes et dynamiques qui soulèvent de graves préoccupations concernant la vie privée, l’éthique et la responsabilité. Ils nécessitent des équipes d’experts divers — des auditeurs d’algorithmes aux conseillers en éthique — pour fonctionner efficacement.
De plus, l’innovation dans le domaine de l’IA se produit à un rythme effréné, tout comme notre capacité à la gérer et à la gouverner. De nouvelles techniques pour atténuer les biais et protéger la vie privée émergent constamment. Si l’IA est lancée trop rapidement et sans expertise interne suffisante, elle pose des risques, et les gouvernements pourraient être dépassés par les systèmes qu’ils espèrent contrôler.
La nécessité d’une gouvernance solide
Bien que la création d’un hub centralisé pour l’IA soit une étape importante, il est essentiel de renforcer les capacités au sein des départements gouvernementaux. De nombreux départements renforcent leurs capacités, mais le rythme du développement de l’IA et le niveau de supervision requis constituent un défi pour les équipes cherchant à évaluer les outils, à gérer les risques ou à décider où et comment l’IA doit être déployée.
Il est impératif que chaque déploiement d’IA soit régi par une supervision robuste et transparente. Un ensemble croissant de politiques, de réglementations et d’institutions, telles que l’AI and Data Act, peut garantir que les systèmes d’IA utilisés à travers l’économie sont transparents, responsables et sûrs.
Évaluation et responsabilité
Au Canada, une évaluation des risques préalable, connue sous le nom d’évaluation d’impact algorithmique, est nécessaire. Cela fait partie de la directive du Conseil du Trésor sur la prise de décision automatisée. Cependant, l’application de cette directive, plutôt que de la législation, nécessite des mécanismes de responsabilité et des organismes indépendants pour enquêter sur les non-conformités.
À une époque où la confiance dans les institutions publiques est faible, ce niveau de transparence est essentiel. Renforcer la confiance du public est crucial pour améliorer les systèmes en place.
Leadership interne en matière d’IA
Sans un leadership intégré en matière d’IA, les départements risquent de s’appuyer sur des solutions toutes faites ou de dépendre lourdement de consultants. Cela peut s’avérer coûteux et insoutenable pour des outils d’IA qui nécessitent des mises à jour et des adaptations régulières. Chaque ministère doit développer la capacité de gérer l’adoption de l’IA, par exemple en nommant un responsable IA.
Ces responsables superviseraient le développement, la mise en œuvre et la gouvernance de l’IA, tout en partageant leurs connaissances pour accélérer l’apprentissage, en coordination avec le hub centralisé pour l’IA.
Conclusion
La voie à suivre est claire : une modernisation ciblée et délibérée qui intègre les connaissances en matière d’IA, équilibre l’innovation avec des principes éthiques et démocratiques, et considère les impacts environnementaux comme des contraintes de conception essentielles. Cette approche permettrait au gouvernement de moderniser ses systèmes de manière sélective et stratégique, d’améliorer les services sans sacrifier l’équité, la responsabilité ou la soutenabilité.
Sans cela, nous risquons d’échanger les fonds publics contre une parade d’expériences coûteuses dont les bénéfices peuvent ne jamais se matérialiser, ou pire, dont les dangers deviendront trop évidents.
