Cadre Techno-Légal EXPLIQUÉ : l’Inde dévoile un cadre de gouvernance de l’IA – Ce que cela signifie et comment cela fonctionne
Le Bureau du Conseiller Scientifique Principal de l’Inde a publié un livre blanc sur la gouvernance de l’IA, décrivant un cadre « techno-légal » conçu pour équilibrer l’innovation technologique avec la gestion des risques.
Qu’est-ce que le Cadre Techno-Légal ?
« Renforcer la gouvernance de l’IA grâce à un cadre techno-légal » décrit un mécanisme institutionnel complet pour opérationnaliser l’écosystème de gouvernance de l’IA en Inde, en soulignant que le succès de tout instrument politique dépend de sa mise en œuvre efficace. Le cadre proposé vise à renforcer l’écosystème de gouvernance de l’IA qui comprend l’industrie, le monde académique, le gouvernement, les développeurs de modèles d’IA, les déployeurs et les utilisateurs d’IA.
Comment cela fonctionne ?
Dans le contexte de la gouvernance techno-légale, cette coordination vise à établir des normes uniformes pour les réglementations et directives responsables en matière d’IA. Un groupe de gouvernance de l’IA (AIGG) sera constitué pour coordonner les différents ministères gouvernementaux, régulateurs et organes consultatifs politiques afin de traiter la fragmentation actuelle dans les processus de gouvernance et d’opération.
L’AIGG sera chargé de promouvoir l’innovation responsable en matière d’IA et le déploiement bénéfique de l’IA dans des secteurs clés, tout en identifiant les lacunes réglementaires et en recommandant les modifications légales nécessaires. Un Comité d’Experts en Technologie et Politique (TPEC) sera également mis en place au sein du ministère des Technologies de l’Électronique et de l’Information pour soutenir l’AIGG sur des questions d’importance nationale.
Institut de Sécurité de l’IA
Le cadre introduit également l’Institut de Sécurité de l’IA (AISI), qui servira de centre principal pour évaluer, tester et garantir la sécurité des systèmes d’IA déployés dans différents secteurs. L’AISI devrait soutenir la mission IA de l’Inde en développant des outils techno-légaux pour traiter l’authentification du contenu, les biais et la cybersécurité.
Base de Données des Incidents d’IA
Pour surveiller les risques post-déploiement, une base de données nationale des incidents d’IA sera établie pour enregistrer, classer et analyser les échecs de sécurité, les résultats biaisés et les violations de la sécurité au niveau national. Cette base de données s’inspirera des meilleures pratiques mondiales, tout en étant adaptée aux réalités sectorielles et aux structures de gouvernance de l’Inde.
Les rapports pour cette base de données seront soumis par des organismes publics, des entités privées, des chercheurs et des organisations de la société civile. Le livre blanc préconise également des engagements volontaires de l’industrie et l’auto-régulation, mettant en avant les pratiques dirigées par l’industrie, telles que la publication de rapports de transparence et la réalisation d’exercices de red-teaming.
Le gouvernement prévoit d’offrir des incitations financières, techniques et réglementaires aux organisations qui démontrent un leadership dans les pratiques responsables en matière d’IA. À travers ces mesures, l’accent est mis sur la « cohérence, l’apprentissage continu et l’innovation » afin de prévenir des approches isolées et de fournir de la clarté aux entreprises.
