Introduction
Un ordre exécutif récent impose aux agences publiques de développer de nouvelles normes encadrant l’acquisition et l’utilisation de l’intelligence artificielle (IA). L’objectif est d’intégrer des exigences de certification, de divulgation et de gestion des risques dans les processus de passation de marchés publics.
Analyse du cadre proposé
Intégration de garde-fous dans les contrats
Les agences doivent inclure des contrôles visant à prévenir la diffusion de contenus nuisibles ou illicites, à réduire les biais algorithmiques et à protéger les droits civils. Ces exigences, une fois appliquées, fonctionneront comme des obligations réglementaires pour les fournisseurs d’IA souhaitant accéder au marché public.
Certification des fournisseurs
Un système de certification sera mis en place afin que les entreprises démontrent que leurs systèmes d’IA intègrent les contrôles requis. Des mécanismes supplémentaires, tels que le marquage d’eau des contenus synthétiques, pourraient également être envisagés.
Gestion des risques liés à la chaîne d’approvisionnement
Les autorités publiques pourront évaluer de manière indépendante les risques associés aux fournisseurs, même en présence de restrictions fédérales, et décider de poursuivre ou non les achats.
Implications pour les contractants
Obligations accrues
Les entreprises contractantes devront fournir des déclarations de conformité, obtenir des certifications et mettre en place des programmes de gouvernance pour gérer les risques d’IA. Ces exigences toucheront à la fois la sécurité, la transparence et l’équité des systèmes d’IA.
Complexité entre différents niveaux de réglementation
Les organisations qui opèrent à la fois sur le marché public étatique et fédéral devront concilier des exigences potentiellement divergentes, ce qui augmentera la complexité de la conformité et pourra créer des conflits d’obligations.
Conclusion
Cette initiative marque une orientation vers une régulation proactive de l’IA via les achats publics, imposant aux fournisseurs de démontrer la fiabilité et la conformité de leurs solutions. Les acteurs du secteur devront renforcer leurs cadres de gouvernance et rester vigilants face à l’évolution des exigences tant au niveau étatique que fédéral.
