Alerte sur les risques de l’IA dans les campagnes électorales
Un document interne préparé pour le commissaire des élections du Canada classe l’utilisation de l’intelligence artificielle (IA) comme un risque élevé pour la campagne électorale en cours. Ce briefing a été élaboré environ un mois avant le début de la campagne.
Risques potentiels associés à l’IA
Le document indique que la prochaine élection générera probablement des plaintes liées à l’utilisation d’outils d’IA qui pourraient constituer une violation de la Loi électorale du Canada. Bien que l’IA puisse être utilisée à des fins légitimes, il existe des risques qu’elle soit utilisée pour enfreindre les règles électorales.
Il est important de noter que la Loi électorale ne prohibe pas spécifiquement l’utilisation de l’IA, des bots ou des deepfakes. Cependant, certaines dispositions de la loi pourraient s’appliquer si des outils d’IA sont utilisés d’une manière qui enfreint la loi.
Exemples de violations potentielles
Les violations peuvent inclure la diffusion de fausses informations, la publication de fausses informations sur le processus électoral ou l’imitation d’un fonctionnaire électoral. Le directeur du laboratoire de risque et de réglementation de l’IA à l’Université de Victoria a souligné les difficultés à identifier ceux qui utilisent l’IA pour enfreindre les règles électorales.
Préoccupations concernant les deepfakes
Le document met en évidence des préoccupations spécifiques concernant l’utilisation d’outils d’IA et des deepfakes — des vidéos ou audio hyperréalistes falsifiés. Bien qu’il n’y ait pas encore eu d’incidents d’utilisation de deepfakes lors d’élections fédérales canadiennes, il existe de nombreux exemples d’utilisation de deepfakes à l’étranger.
Le briefing note met en garde contre une augmentation de la publicité pour des services de deepfake personnalisés sur le dark web, ce qui pourrait exacerber la situation.
La nécessité d’une réglementation
Le document souligne que le Canada a généralement adopté une approche de régulation autonome en matière d’IA, laissant en grande partie ce domaine à l’industrie technologique. Cependant, l’efficacité de cette régulation est contestée. Un projet de loi visant à réglementer certaines utilisations de l’IA a été introduit lors de la dernière session parlementaire, mais n’a jamais été adopté.
Des acteurs malveillants cherchant à propager de la désinformation ne suivront probablement pas les règles gouvernementales ou de médias sociaux, rendant la régulation encore plus difficile.
Impact sur la confiance du public
Il y a des exemples de l’IA utilisée pour diffuser de la désinformation dans cette campagne, ce qui a conduit à une augmentation de la méfiance envers le contenu en ligne. Les chercheurs soulignent que l’utilisation de l’IA pour des fins bénignes peut également modifier la façon dont les campagnes sont menées, en permettant l’expression d’idées politiques étranges ou la normalisation de contenus irréels.
Dans l’ensemble, le document met en lumière les défis croissants posés par l’IA dans le paysage électoral canadien, soulignant la nécessité d’une vigilance accrue et d’une réglementation adaptée pour protéger l’intégrité des élections.
