Oregon avance une loi sur les chatbots IA avec une disposition de responsabilité privée
Les législateurs de l’Oregon ont approuvé le projet de loi sénatorial 1546, faisant progresser une mesure qui imposerait des exigences de sécurité, de divulgation et de responsabilité contraignantes aux fournisseurs de chatbots d’intelligence artificielle (IA) et l’envoyant au gouverneur pour signature. Si elle est signée, cette loi prendra effet en 2027 et créera une exposition légale directe liée à la manière dont les chatbots interagissent avec les utilisateurs.
Exigences de transparence et de sécurité
Le projet de loi exige que les opérateurs informent clairement les utilisateurs qu’ils interagissent avec une IA et qu’ils maintiennent des protocoles de sécurité documentés. En outre, il mandate une intervention active dans les scénarios à haut risque, notamment en détectant des signaux d’idéation suicidaire ou d’automutilation, en interrompant les conversations et en dirigeant les utilisateurs vers des ressources de crise.
Protection des mineurs
Des exigences plus strictes sont imposées pour les mineurs. Les plateformes doivent fournir des divulgations répétées, restreindre le contenu sexuellement explicite et éviter les fonctionnalités qui pourraient créer une dépendance émotionnelle. Les entreprises doivent agir lorsqu’il y a « raison de croire » qu’un utilisateur est mineur, même sans confirmation explicite.
Droit d’action privé
La loi crée un droit d’action privé, permettant aux individus de poursuivre les opérateurs en cas de violations et de demander des dommages-intérêts statutaires de 1 000 $ par violation. Ce modèle d’application déplace le risque de conformité des régulateurs vers les utilisateurs, chaque interaction pouvant créer une exposition à la responsabilité.
Implications pour les entreprises
Cette loi s’applique à un large éventail d’entreprises déployant des IA conversationnelles dans les secteurs de la santé, des services financiers, de l’éducation et du support client. Les entreprises doivent redessiner les systèmes de chatbots pour inclure une surveillance en temps réel, des déclencheurs d’intervention, des journaux d’audit et des voies d’escalade. La loi transforme la sécurité d’un principe de conception à une exigence légale directement liée aux résultats du système et des utilisateurs.
Conclusion
La loi sur les chatbots d’IA de l’Oregon marque une étape significative dans la régulation de l’IA conversationnelle, reflétant une préoccupation croissante pour la sécurité et le bien-être des utilisateurs, en particulier des populations vulnérables. La mise en œuvre de cette loi pourrait avoir des répercussions majeures sur la conception et le déploiement des technologies d’IA à l’avenir.
