Avant le Sommet sur l’Impact de l’IA en Inde 2026
Un rapport publié avant le Sommet sur l’Impact de l’IA en Inde 2026 a soulevé des inquiétudes concernant l’approche du pays en matière de gouvernance de l’IA. Intitulé Gouvernance de l’IA à la limite du recul démocratique, le rapport met en lumière l’écart entre l’engagement déclaré de l’Inde envers une IA inclusive et démocratique et l’utilisation rapportée de systèmes d’IA affectant les communautés minoritaires et marginalisées.
Utilisation de l’IA par des entités politiques
Le rapport souligne le rôle de certaines entités politiques dans l’utilisation de matériels générés par l’IA pour diffuser des récits communautaires. Il mentionne des cas où ces entités ont utilisé des vidéos et des images générées par IA pour cibler des leaders de l’opposition. Un exemple notable est celui d’une vidéo supprimée après des critiques généralisées, montrant un leader politique tirant sur des individus visiblement musulmans.
Systèmes de surveillance et reconnaissance faciale
Au-delà du contenu en ligne, le rapport indique que des agences de maintien de l’ordre dans plusieurs États utilisent des systèmes de reconnaissance faciale, des logiciels de police prédictive et d’autres outils de surveillance basés sur l’IA. Ces déploiements manquent d’une supervision indépendante et d’une transparence nécessaires.
Risques pour les communautés ciblées
Des experts avertissent que certaines technologies pourraient être utilisées pour cibler des communautés spécifiques, notamment les travailleurs migrants à faible revenu. Le rapport fait état de citoyens musulmans de langue bengali expulsés vers un pays voisin sans respecter les procédures légales appropriées.
Directives de gouvernance de l’IA
Le document examine également les Directives de gouvernance de l’IA de l’Inde, qui reposent sur des principes de conformité volontaire plutôt que sur des règles contraignantes. Bien que ces directives évoquent la protection des groupes vulnérables, le rapport indique qu’elles ne traitent pas des risques spécifiques auxquels sont confrontées les minorités religieuses et d’autres communautés marginalisées.
Conclusion
Le Sommet sur l’Impact de l’IA 2026 se concentre officiellement sur la démocratisation de l’IA et la réduction de la fracture numérique. Le rapport appelle les dirigeants présents à adopter des réglementations applicables tout au long du cycle de vie de l’IA, à interdire l’utilisation de l’IA pour la surveillance de masse et à garantir une supervision indépendante des systèmes d’IA dans le secteur public. Il est également recommandé d’inclure les communautés affectées dans les discussions de gouvernance pour garantir une approche plus équitable et responsable de l’IA.
