Proposition d’un cadre techno-juridique pour la gouvernance de l’IA en Inde
Le bureau du Conseiller scientifique principal en Inde a publié un document blanc sur la gouvernance de l’IA, proposant un cadre « techno-juridique » visant à équilibrer l’innovation avec la mitigation des risques. Ce cadre intègre des garanties juridiques, des contrôles techniques et des mécanismes institutionnels pour assurer le développement et le déploiement fiable de l’intelligence artificielle.
Établissement d’un mécanisme institutionnel
Le document blanc, intitulé Renforcer la gouvernance de l’IA grâce à un cadre techno-juridique, décrit un mécanisme institutionnel complet pour opérationnaliser l’écosystème de gouvernance de l’IA en Inde. Il souligne que le succès de tout instrument politique dépend finalement de son application efficace. Le cadre proposé vise à renforcer l’écosystème de l’IA, y compris l’industrie, le milieu académique, les organismes gouvernementaux, les développeurs de modèles d’IA, les déployeurs et les utilisateurs.
Création du Groupe de gouvernance de l’IA
Au cœur de l’initiative se trouve l’établissement du Groupe de gouvernance de l’IA, présidé par le Conseiller scientifique principal. Ce groupe coordonnera les ministères gouvernementaux, les régulateurs et les organes consultatifs pour faire face à la fragmentation actuelle dans la gouvernance de l’IA et les processus opérationnels. Dans le contexte de la gouvernance techno-juridique, cette coordination vise à établir des normes uniformes pour des réglementations et des lignes directrices responsables en matière d’IA.
Commission d’experts en technologie et politique
Pour soutenir le Groupe de gouvernance de l’IA, une Commission d’experts en technologie et politique sera créée, au sein du ministère des Électroniques et des Technologies de l’information. Cette commission rassemblera une expertise multidisciplinaire englobant le droit, la politique publique, l’apprentissage automatique, la sécurité de l’IA et la cybersécurité. Elle conseillera le Groupe sur des questions d’importance nationale, incluant des développements globaux en matière de politique d’IA et de nouvelles capacités d’IA.
Création d’un Institut de sécurité de l’IA
Le cadre propose également la création d’un Institut de sécurité de l’IA, qui agira comme le principal centre pour évaluer, tester et garantir la sécurité des systèmes d’IA déployés dans divers secteurs. Cet institut soutiendra la Mission IndiaAI en développant des outils techno-juridiques pour relever des défis tels que l’authentification de contenu, les biais et la cybersécurité.
Base de données nationale sur les incidents liés à l’IA
Pour surveiller les risques post-déploiement, le cadre introduit une Base de données nationale sur les incidents liés à l’IA pour enregistrer, classifier et analyser les échecs de sécurité liés à l’IA, les résultats biaisés et les violations de sécurité à travers le pays. S’inspirant des meilleures pratiques mondiales, cette base de données sera adaptée aux réalités sectorielles et aux structures de gouvernance de l’Inde.
Engagements volontaires de l’industrie
Le document plaide également pour des engagements volontaires de l’industrie et l’auto-régulation. Les pratiques dirigées par l’industrie, y compris les rapports de transparence et les exercices de red-teaming, sont mises en avant comme essentielles pour renforcer le cadre techno-juridique. Le gouvernement prévoit de fournir des incitations financières, techniques et réglementaires aux organisations démontrant un leadership dans les pratiques responsables en matière d’IA.
Conclusion
En somme, ce cadre vise à établir une gouvernance équilibrée de l’IA en Inde, favorisant l’innovation tout en minimisant les risques. Son succès dépendra de l’engagement de toutes les parties prenantes et de l’application efficace des politiques proposées.
