Proposition d’un Cadre de Gouvernance Techno-Légal pour l’IA en Inde
Le Bureau du Conseiller Scientifique Principal a publié un document qui décrit comment l’Inde envisage de gouverner l’intelligence artificielle (IA) à travers ce qu’il appelle un cadre « techno-légal ». Plutôt que de proposer une loi unique sur l’IA, le document soutient que la gouvernance doit opérer à l’intérieur même des systèmes d’IA, par des contrôles techniques appliqués tout au long du cycle de vie du système et ancrés dans des instruments légaux et réglementaires existants.
Modèle « Law-plus »
Le document avance un modèle « law-plus ». Dans cette approche, des règles spécifiques à chaque secteur, une législation subordonnée, des conseils réglementaires, des normes et des mécanismes techniques d’application comblent les lacunes de la gouvernance de l’IA au-dessus des lois existantes. Ce modèle distingue l’Inde des juridictions qui poursuivent des lois complètes sur l’IA et reconsidère la gouvernance de l’IA comme une responsabilité qui commence dès la phase de conception et de déploiement.
Motivations de ce cadre
Le Conseiller Scientifique Principal souligne que, bien que l’IA offre un potentiel transformateur significatif, des risques mal gérés pourraient miner la confiance et ralentir l’adoption. Le document situe l’approche de l’Inde dans un environnement mondial où les gouvernements continuent d’expérimenter avec la réglementation basée sur le risque et les cadres guidés par des principes.
Caractéristiques du cadre techno-légal
Le cœur du document repose sur un changement de conception de la gouvernance. Le cadre définit l’approche techno-légale comme l’intégration d’instruments juridiques, de conditionnements basés sur des règles, de supervision réglementaire et de mécanismes techniques d’application directement dans les systèmes d’IA dès leur conception.
Gouvernance basée sur le cycle de vie
Le document propose que les risques liés à l’IA ne surgissent pas à un seul moment, mais s’accumulent tout au long du cycle de vie d’un système d’IA. Pour faire face à cette problématique, le cadre distingue entre « utilisateurs d’IA » et « sujets d’IA », afin de justifier des mesures de protection à l’échelle du cycle de vie.
Stages de gouvernance
Le cadre organise la gouvernance autour de cinq étapes clés du cycle de vie de l’IA, notamment la collecte de données, la protection des données en utilisation, la formation de l’IA et l’évaluation des modèles, l’inférence sécurisée, et la gouvernance des systèmes autonomes.
Infrastructure publique numérique
Le cadre met également en avant l’importance de l’infrastructure publique numérique comme un outil de gouvernance. Ces plateformes soutiennent l’accès basé sur le consentement, la vérification de l’identité et l’auditabilité à grande échelle.
Limitations du cadre
Le document ne clarifie pas les limites de l’application lorsque les défaillances de l’IA touchent plusieurs régulateurs. De plus, il reste flou sur la manière dont les sujets d’IA peuvent contester les préjudices subis. Le cadre ne définit pas non plus les seuils d’application pour les engagements volontaires et l’autorégulation.
Conclusion
Dans l’ensemble, le cadre techno-légal représente une approche incrémentale qui intègre des garanties dans les systèmes tout en préservant la flexibilité réglementaire à mesure que l’adoption de l’IA évolue.
