WA Gov. Bob Ferguson appelle à des régulations sur les compagnons de chatbot IA
Le compagnonnage par IA croît rapidement, notamment chez les mineurs. Environ un tiers des adolescents américains rapportent compter sur un chatbot IA pour un soutien émotionnel.
Cette tendance alerte les régulateurs de l’État de Washington à la suite de plusieurs cas très médiatisés de suicides d’adolescents impliquant des chatbots. Le gouverneur de l’État a demandé aux législateurs d’introduire un projet de loi visant à établir des protections pour les compagnons chatbot, en particulier pour les mineurs.
Proposition de loi
Le projet de loi 5984 exigerait que des outils comme ChatGPT rappellent aux utilisateurs qu’ils sont des robots, et non des humains, au début d’une conversation et au moins toutes les trois heures durant une interaction continue. Ces règles s’appliqueraient également aux mineurs, avec des protections supplémentaires. Les chatbots seraient interdits de conversations à caractère sexuel avec des utilisateurs mineurs et seraient tenus de les orienter vers des services de santé mentale lorsqu’ils montrent des signes de détresse, y compris des troubles alimentaires.
Cas récents et réactions
La semaine dernière, des entreprises ont réglé des poursuites affirmant que leurs chatbots avaient conduit à des crises de santé mentale chez des adolescents. Un porte-parole d’une de ces entreprises a déclaré que la société examinait le projet de loi et était désireuse de travailler avec les régulateurs sur des garde-fous pour l’IA. Cette société a récemment cessé de permettre des discussions ouvertes avec des mineurs après qu’un adolescent ait développé un attachement fort à un de ses chatbots et ait mis fin à ses jours.
Un autre cas de suicide impliquant ChatGPT d’OpenAI est toujours en cours de litige. Les entreprises concernées n’ont pas répondu aux demandes de commentaires sur le projet de loi de Washington.
Risques et implications
Un sénateur a noté que plusieurs cas montrent l’implication des chatbots dans des suicides d’enfants. D’autres cas existent où des enfants sont émotionnellement dévastés à cause de l’IA. Bien que tout ne soit pas connu, il est clair que l’IA peut établir une dépendance émotionnelle et fournir des informations et des conseils aux enfants.
Washington travaille à coordonner son approche réglementaire de l’IA avec d’autres États. Pendant ce temps, l’État avance avec une série de régulations sur l’IA lors de la prochaine session législative. L’objectif est de prévenir tout dommage supplémentaire causé par une technologie déjà sur le marché.
