Surveillance Alimentée par l’IA : Équilibrer Sécurité et Vie Privée
La surveillance alimentée par l’IA soulève des questions cruciales concernant la sécurité et les droits civils. Bien que cette technologie puisse renforcer la sécurité, elle comporte également des risques de partialité, d’expansion des missions et d’érosion des libertés civiles.
Où la technologie est utilisée
Les villes, les agences frontalières, les systèmes de transport et les entreprises privées déploient des systèmes d’IA pour diverses raisons : prévention du crime, gestion de la foule, contrôle aux frontières, prévention des pertes dans le commerce de détail et même surveillance de la santé publique. Dans les États autoritaires, ces systèmes sont souvent intégrés à des architectures de contrôle social plus larges, alimentant des projets qui dépassent les objectifs de sécurité publique.
Dans les démocraties, la situation est inégale. Certaines administrations locales ont adopté la reconnaissance faciale pour les enquêtes, tandis que d’autres ont résisté. Par exemple, l’interdiction de la reconnaissance faciale par San Francisco en 2019 a servi de modèle pour d’autres villes américaines qui envisagent de réglementer la surveillance biométrique.
Les dangers de la technologie
Bien que la surveillance par IA soit souvent présentée comme objective et efficace, la réalité est plus complexe. Des enquêtes ont documenté des schémas de préjudice récurrents liés à cette technologie. Un des problèmes les plus pressants est la partialité des systèmes de reconnaissance faciale, qui peuvent produire des taux de faux positifs disproportionnés pour certaines groupes raciaux et de genre, conduisant à des détentions et arrestations injustifiées.
Un autre problème est l’expansion de la mission, où les systèmes initialement introduits pour le contrôle du crime s’étendent progressivement à d’autres domaines, tels que l’immigration ou la surveillance politique. Amnesty International a averti que ces extensions augmentent les inégalités et compromettent les droits fondamentaux.
Régulations face aux préjudices
Les régulations tentent de rattraper le retard, mais avec des résultats inégaux. La loi sur l’IA de l’Union Européenne représente une avancée majeure, adoptant une approche basée sur le risque et restreignant explicitement certaines utilisations de la biométrie. Cependant, d’autres juridictions restent plus permissives, certaines agences de sécurité nationale déployant des systèmes sans contraintes juridiques solides.
L’écosystème commercial
Un des aspects frappants de la surveillance moderne est la frontière floue entre le public et le privé. Les fournisseurs technologiques proposent des systèmes aux agences municipales et nationales, souvent basés sur des ensembles de données d’images massives. Les litiges et les actions en justice commencent à façonner ce que les fournisseurs peuvent légalement faire, mais l’application devra être soutenue.
Une solution plus grande pour la surveillance
Les décisions technologiques sont en fin de compte des choix politiques sur le type de société que nous souhaitons. Une approche humaine signifie placer les individus, et non les capteurs ou les ensembles de données, au centre de la surveillance. Cela nécessite des échanges publics, des explications claires sur l’utilisation de la surveillance, et des protections juridiques fortes.
De plus, il est essentiel de reconnaître que tous les défis ne nécessitent pas une solution technologique. Investir dans des services communautaires, le policing communautaire, et des programmes qui abordent les causes profondes de la criminalité peut souvent construire la sécurité et la confiance plus efficacement que la suspicion automatisée.
Conclusion
La surveillance alimentée par l’IA n’est pas près de disparaître, car elle promet des avantages opérationnels. Le défi pressant est la gouvernance, qui nécessite de préserver les gains de sécurité sans normaliser des systèmes qui érodent les libertés civiles. Les régulations, les actions en justice, et l’activisme journalistique montrent que les sociétés démocratiques peuvent résister lorsque cela est nécessaire.
La question cruciale restera de savoir si ces garde-fous seront institutionnalisés avant que les systèmes de surveillance ne deviennent si ancrés qu’un retour en arrière serait politiquement et techniquement plus difficile.
