Le fossé de confiance est réel : les experts conseillent aux autorités de corriger le tir sur l’IA
Les députés fédéraux s’interrogent sur la manière de réguler l’intelligence artificielle (IA), en pesant ses menaces sur l’emploi canadien, la cybersécurité et la souveraineté des données, ainsi que ses promesses économiques.
Le Comité permanent de l’industrie et de la technologie a lancé une étude pour examiner la régulation de l’IA, à la demande d’un parti politique. De nombreuses considérations importantes sont en jeu.
Problématiques soulevées
Les enjeux incluent le défi scientifique d’assurer l’honnêteté des modèles d’IA, la question physique et légale de la souveraineté des données, la question politique du multilatéralisme en matière d’IA, et le débat immédiat sur la création d’un comité dédié à l’IA pour surveiller cette technologie en rapide évolution.
La suggestion de créer un comité gouvernemental sur l’IA a été bien accueillie par de nombreux témoins experts, mais il a été souligné que le gouvernement fédéral n’avait pas mené de consultations publiques adéquates sur l’IA et devait corriger le tir.
Il a été noté qu’il est regrettable que le développement des politiques ait souffert d’un manque de consultations authentiques et généralisées. Le fossé de confiance est réel et doit être comblé.
Perceptions du public
Une étude récente a révélé que 50 % des Canadiens approuvent ou acceptent l’utilisation de l’IA, mais près de 80 % s’inquiètent des résultats négatifs potentiels. Environ 75 % estiment que la régulation de l’IA est nécessaire.
Un rapport de consultation a été critiqué pour donner l’impression de ne pas refléter les véritables préoccupations du public. Les experts ont plaidé pour des assemblées citoyennes afin d’obtenir un retour d’information des Canadiens, qui seront les premiers exposés aux impacts des décisions gouvernementales et industrielles concernant l’IA.
Souveraineté et sécurité des données
De vives discussions ont eu lieu sur la nécessité d’assurer la souveraineté canadienne sur ses propres données. Il a été suggéré que la création de lois de protection de la vie privée solides était la solution, plutôt que de simplement garantir la propriété et les opérations canadiennes des entreprises.
Il a été souligné que les petites entreprises canadiennes n’ont pas la sécurité et la sophistication nécessaires pour fournir ces services à grande échelle. Une fois que les entreprises atteignent une taille suffisante, elles sont souvent liées à des États étrangers et soumises à des lois étrangères.
Défis concernant l’IA autonome
Les systèmes d’IA autonomes actuels ne sont pas fiables car ils sont formés pour imiter le comportement humain. Ces systèmes demeurent opaques, et les entreprises ne peuvent pas garantir leur comportement comme prévu.
Un certain scepticisme est nécessaire, surtout dans le contexte d’enquêtes en cours sur des entreprises qui utilisent les données personnelles canadiennes sans consentement pour former leurs modèles d’IA.
Conclusion et recommandations
La problématique de la régulation de l’IA a été soulevée et a permis d’entendre les points de vue d’experts issus de divers domaines. Il a été recommandé que le Canada travaille à créer des lignes directrices sur l’IA avec d’autres pays partageant des préoccupations similaires, afin de garantir que le Canada soit un leader dans le développement d’une IA sûre et compétente.
