Tendances de la gouvernance de l’IA : Comment la régulation, la collaboration et la demande de compétences façonnent l’industrie
L’intelligence artificielle (IA) transforme les industries, entraînant une demande croissante pour des solutions innovantes et des professionnels formés pour répondre aux besoins de gouvernance.
La gouvernance autonome des systèmes d’IA nécessite à la fois des contrôles organisationnels et techniques face à une activité réglementaire nouvelle et en constante évolution.
La voie à suivre pour l’IA est ouverte et collaborative, avec une automatisation nécessaire pour évoluer avec une adoption responsable.
La régulation de l’IA est là et s’étend
L’IA est déjà soumise à des réglementations applicables qui ne se concentrent pas uniquement sur la technologie elle-même. Par exemple, les lois se concentrent sur la vie privée, la non-discrimination, la responsabilité et la sûreté des produits. De plus, l’activité réglementaire axée sur l’IA s’élargit.
En 2024, la Loi sur l’intelligence artificielle de l’Union européenne a été adoptée après des années de débats. À l’instar du Règlement général sur la protection des données (RGPD), nous nous attendons à ce qu’elle influence de nombreuses lois similaires dans d’autres régions du monde.
L’IA a été discutée par des décideurs du monde entier, et a été mentionnée dans les procédures législatives deux fois plus souvent en 2023 qu’en 2022. Dans certains cas, l’activité réglementaire cible explicitement l’IA générative, comme le montrent les Mesures administratives intérimaires de la Chine pour les services d’IA générative.
Il y a également eu une augmentation des activités liées aux normes sur l’IA et de la collaboration inter-juridictionnelle, illustrée par des initiatives menées par l’Organisation de coopération et de développement économiques (OCDE), le National Institute of Standards and Technology (NIST) des États-Unis, l’UNESCO, l’Organisation internationale de normalisation (ISO) et le Groupe des sept (G7).
En 2024, nous avons vu un accent accru sur la sûreté de l’IA avec le lancement de nouveaux instituts de sécurité de l’IA et l’expansion des efforts menés par des instituts aux États-Unis, au Royaume-Uni, à Singapour et au Japon.
La gouvernance autonome de l’IA nécessitera à la fois des contrôles organisationnels et techniques
De nombreuses organisations choisissent d’adopter des approches d’auto-gouvernance pour mieux s’aligner sur leurs valeurs organisationnelles et construire leur réputation.
En fait, la mise en œuvre des principes d’une organisation implique souvent de respecter des standards éthiques qui vont au-delà des exigences réglementaires. Les organisations peuvent choisir d’utiliser des méthodes et des cadres volontaires tels que le Cadre de gestion des risques de l’IA du NIST des États-Unis, le cadre et l’outil AI Verify de Singapour, et la plateforme de test de sécurité Inspect de l’Institut de sécurité de l’IA du Royaume-Uni.
La gouvernance autonome des systèmes d’IA impliquera à la fois des contrôles organisationnels et, de plus en plus, des contrôles techniques automatisés. L’IA nécessite des systèmes de gestion organisationnelle solides avec des contrôles tels que ceux décrits dans la norme internationale ISO/IEC 42001.
Avez-vous lu ?
Les contrôles techniques sont tout aussi importants que les systèmes socio-techniques. L’automatisation peut souvent les soutenir, par exemple, à travers l’automatisation dans le test de résistance de l’IA, l’identification de métadonnées, la journalisation, la surveillance et les alertes.
Une automatisation sera nécessaire à mesure que la technologie atteindra des vitesses et une intelligence qui nécessitent des contrôles en temps réel. De plus, à mesure que les normes harmonisées et les contrôles techniques de sécurité de l’IA avancent, de nombreuses organisations les adopteront.
La collaboration entre l’humain et l’IA restera essentielle. Par exemple, IBM a mis en place des contrôles organisationnels à travers son Conseil d’éthique de l’IA et son Programme de gouvernance intégré.
Un besoin croissant de professionnels qualifiés en IA
À mesure que le marché de la gouvernance de l’IA continue de s’étendre rapidement, les professionnels qualifiés en IA qui peuvent mettre en œuvre des contrôles organisationnels et techniques responsables seront en forte demande.
Le terrain de jeu s’étendra des leaders technologiques existants aux nouvelles start-ups axées presque exclusivement sur des solutions de gouvernance de l’IA telles que la gestion de l’inventaire de l’IA, la gestion des politiques et le reporting.
Le marché évoluera pour soutenir des domaines spécialisés tels que la gestion des incidents, le test de résistance, les évaluations de conformité et le reporting de transparence. À mesure que cela se produit, le nombre de professionnels formés en gouvernance de l’IA devra augmenter pour y faire face.
Ces professionnels auront besoin de formation pour effectuer des tâches spécifiques aux exigences du marché, y compris les tâches requises par les réglementations. Les programmes d’éducation et de certification joueront un rôle crucial.
Bien que des coûts soient associés à la formation des professionnels et à la mise en œuvre des pratiques d’éthique et de gouvernance de l’IA, les coûts de ne pas le faire peuvent être encore plus élevés.
Les organisations peuvent adopter une approche holistique pour évaluer le retour sur investissement en examinant non seulement les retours traditionnels, mais aussi les retours obtenus par l’impact en réputation et la possibilité de construire de nouvelles capacités organisationnelles.
La voie à suivre est ouverte et collaborative
L’IA change et permet la façon dont les humains travaillent et vivent, offrant des avantages sans précédent aux individus, aux organisations et à la société.
La mise à l’échelle de l’IA nécessite des individus qualifiés et nécessitera souvent une automatisation pour soutenir une adoption responsable. Ces professionnels peuvent également soutenir le besoin croissant de conformité réglementaire efficace et d’auto-gouvernance.
Alors que les entreprises trouvent actuellement des moyens passionnants d’utiliser l’IA, l’avenir réserve encore plus de promesses à mesure qu’elle converge avec d’autres technologies telles que la quantique, la robotique, la biotechnologie et la neurotechnologie.
Dans ce contexte, la technologie ouverte et la collaboration avec des parties prenantes diverses seront critiques. Alors que l’IA transforme les industries, la gouvernance de l’IA est un facilitateur crucial pour débloquer toute la valeur de cette technologie.
