Washington : appel à des réglementations sur les compagnons de chatbot IA
Le compagnonnage par IA se développe rapidement, notamment parmi les mineurs. Environ un tiers des adolescents américains déclarent compter sur un chatbot IA pour un soutien émotionnel.
Cette tendance alerte les régulateurs de l’État de Washington, en raison de plusieurs cas médiatisés de suicide chez des adolescents impliquant des chatbots. Le gouverneur de l’État a demandé aux législateurs d’introduire un projet de loi visant à établir des protections pour les compagnons chatbots, en particulier pour les mineurs.
Le projet de loi 5984
Le projet de loi 5984 exigerait que des outils comme ChatGPT rappellent aux utilisateurs qu’ils sont des robots, et non des humains, au début d’une conversation et au moins toutes les trois heures au cours d’une interaction continue. Ces règles s’appliqueraient également aux mineurs, avec des protections supplémentaires.
Les chatbots seraient interdits d’avoir des conversations à caractère sexuel avec des utilisateurs mineurs et seraient tenus de les orienter vers des services de santé mentale lorsqu’ils montrent des signes de danger pour eux-mêmes, y compris des troubles alimentaires.
Récemment, des entreprises ont réglé des poursuites affirmant que leurs chatbots avaient conduit à des crises de santé mentale chez des adolescents.
Réactions des entreprises
Un porte-parole d’une des entreprises concernées a déclaré que la société examinait le projet de loi de Washington et était désireuse de travailler avec les régulateurs sur des garde-fous pour l’IA. L’entreprise a récemment cessé d’autoriser des conversations ouvertes avec des mineurs après qu’un adolescent ait développé une forte attache à l’un de ses chatbots et ait mis fin à ses jours.
Un autre cas de suicide d’adolescent impliquant ChatGPT est en cours de litige. Les entreprises concernées n’ont pas répondu aux demandes de commentaires concernant le projet de loi de Washington.
Implications et risques
Une sénatrice a déclaré que plusieurs cas concrets impliquant des chatbots dans des suicides d’enfants étaient apparents. Il existe d’autres cas où des enfants sont émotionnellement dévastés à cause de l’IA. Bien que tout ne soit pas connu, il est clair que l’IA peut établir une dépendance émotionnelle et fournir des informations et des conseils aux enfants.
Washington cherche à coordonner son approche réglementaire en matière d’IA avec d’autres États. L’État pousse pour une série de réglementations sur l’IA lors de la prochaine session législative.
Conclusion
L’objectif est de prévenir des dommages supplémentaires causés par une technologie disponible sur le marché. Washington se positionne ainsi en tant que précurseur dans la régulation des chatbots IA, cherchant à protéger particulièrement les utilisateurs les plus vulnérables.
