Oregon cherche à réguler les chatbots IA
Les législateurs de l’Oregon, qui ont "raté le coche" en ce qui concerne la régulation des réseaux sociaux, ont maintenant l’occasion de s’attaquer aux effets de la prochaine technologie émergente sur les jeunes. Le Sénateur Lisa Reynolds et le comité de la santé comportementale et de la petite enfance qu’elle préside soutiennent le projet de loi 1546 pour réguler les chatbots d’intelligence artificielle.
Le comité a voté 4-1 pour faire avancer le projet de loi avec des amendements au Sénat. Ce projet de loi obligerait les programmes d’IA, tels que les chatbots, à rappeler plus souvent aux utilisateurs qu’ils interagissent avec un outil d’intelligence artificielle et non avec un humain. Cette législation fait suite à une loi récemment adoptée en Californie et à des législations similaires introduites cette année à New York et Washington.
Évaluation de l’utilisation de l’IA chez les adolescents
L’utilisation de l’IA chez les adolescents est de plus en plus courante, avec 72 % des adolescents utilisant des compagnons IA, et plus de 50 % en tant qu’utilisateurs réguliers, selon une organisation à but non lucratif. D’autres recherches notent qu’environ un tiers des adolescents trouvent les conversations avec des chatbots aussi satisfaisantes, voire plus, que les conversations réelles. Les adolescents utilisent les chatbots IA comme compagnons pour un soutien émotionnel ou pour discuter de leur santé mentale.
Certaines études montrent que ces outils manquent de subtilités dans la détection des signes d’alerte, ce qu’un humain pourrait repérer. Il y a eu plusieurs cas ces dernières années où des chatbots ont été impliqués dans des suicides chez des adolescents, selon des témoignages devant un comité sénatorial.
Focus sur la prévention du suicide
Au-delà de l’accès des jeunes, le projet de loi vise également à protéger toute personne exprimant des tendances suicidaires. La législation proposée exigerait des programmeurs de développer des protocoles pour détecter des signes d’idéation suicidaire et de rediriger les utilisateurs vers des lignes d’assistance et autres ressources de crise.
Des organisations de soutien à la santé mentale ont déjà constaté l’impact de l’IA sur les utilisateurs, affirmant que les jeunes bénévoles rassurent souvent les utilisateurs en crise qu’ils parlent à un humain et non à une IA.
Implications et défis
Le projet de loi pourrait faire face à des défis juridiques s’il était adopté, en raison d’un décret exécutif limitant la régulation étatique des services d’IA. Malgré cela, les législateurs restent déterminés à aborder l’utilisation non régulée de l’IA.
Les entreprises technologiques soutiennent généralement le projet de loi, bien qu’elles expriment des préoccupations concernant les exigences potentielles d’avertissements plus fréquents que dans d’autres États. Le projet de loi a été amendé pour s’aligner sur les dispositions d’autres États.
Les législateurs espèrent établir des garde-fous qui garantiront une connexion humaine dans les interactions avec des chatbots, afin d’aider les utilisateurs en détresse et de leur offrir un chemin vers l’espoir.
