Le comité rejette le projet de loi régissant les chatbots d’IA en raison de préoccupations juridiques
Un projet de loi régissant les services d’intelligence artificielle conversationnelle, comme les chatbots, a été rejeté en comité en raison de craintes d’un procès. Ce projet visait principalement à protéger les mineurs.
Objectifs du projet de loi
Le projet de loi n° 168 régule l’utilisation des « services d’IA conversationnelle », définis comme une IA accessible au public, fonctionnant principalement pour simuler des conversations humaines à travers des communications textuelles, visuelles et audio.
Il exige que ces chatbots informent les utilisateurs qu’ils ne sont pas humains, et ce, plus fréquemment pour les mineurs. Les protections pour les mineurs incluent l’interdiction pour l’IA de produire des déclarations visuelles ou audibles contenant du contenu sexuellement explicite. De plus, les chatbots doivent répondre aux idées suicidaires ou à l’automutilation en orientant les personnes en crise vers des ressources appropriées.
Préoccupations soulevées
Les préoccupations soulevées par le sénateur concernant le projet de loi sont liées à des cas extrêmes où des mineurs ont mis fin à leurs jours après avoir interagi avec des systèmes d’IA. Il a souligné que ces systèmes sont souvent optimisés pour augmenter l’engagement, ce qui peut poser de réels problèmes pour les mineurs dont le jugement et le contrôle des impulsions sont encore en développement.
Réactions au projet de loi
Le seul opposant au projet était un lobbyiste, qui a soutenu que ce type de législation devrait être abordé au niveau fédéral, faisant référence à la Commission fédérale du commerce et à la loi sur la protection de la vie privée des enfants en ligne.
Le lobbyiste a exprimé que la rédaction du projet de loi pourrait créer des risques juridiques, suggérant que le comité avait précédemment rejeté des projets de loi pour éviter des poursuites potentielles.
Résultat du vote
Le projet de loi a été rejeté après un vote de six contre zéro au sein du comité judiciaire du Sénat. Le comité a exprimé le souhait de voir des travaux supplémentaires sur le projet de loi pour le soutenir dans le futur.
