Oregon cherche à réglementer les chatbots d’IA
Les législateurs, qui ont « raté le coche » en matière de réglementation des réseaux sociaux, ont maintenant l’occasion d’aborder les effets de la prochaine technologie émergente sur les jeunes. Ils soutiennent un projet de loi pour réglementer les chatbots d’intelligence artificielle.
Le projet de loi
Le projet de loi, déposé par un sénateur, obligerait les programmes d’IA tels que les chatbots à rappeler plus régulièrement aux utilisateurs qu’ils interagissent avec un outil d’intelligence artificielle, et non avec un humain. Cette législation fait suite à une loi récemment adoptée en Californie et à des législations similaires introduites cette année à New York et à Washington.
Utilisation de l’IA chez les adolescents
L’utilisation de l’IA parmi les adolescents devient de plus en plus courante, avec 72 % des adolescents utilisant des compagnons d’IA. Plus de 50 % d’entre eux sont des utilisateurs réguliers. D’autres recherches montrent qu’un tiers des adolescents trouvent les conversations avec des chatbots tout aussi satisfaisantes, voire plus, que les conversations réelles.
Les adolescents utilisent ces chatbots comme compagnons pour un soutien émotionnel ou pour discuter de santé mentale. Cependant, des études montrent que ces outils manquent souvent des signaux d’alerte que les humains, comme les parents ou les amis, pourraient détecter.
Prévention du suicide
Au-delà de l’accès des jeunes, le projet de loi vise également à protéger toute personne exprimant des tendances suicidaires. Il obligerait les programmeurs à développer des protocoles pour détecter les signes de pensées suicidaires et à fournir des ressources de crise appropriées.
Ces plateformes seraient tenues de référer les utilisateurs à une ligne d’assistance en cas de crise et d’interrompre immédiatement la conversation avec le chatbot. Ces protocoles devraient également être rendus publics sur le site des programmes d’IA.
Conclusion
Ce projet de loi pourrait faire face à des défis juridiques s’il est adopté, en raison d’un décret exécutif limitant la réglementation étatique des services d’IA. Malgré cela, les législateurs restent déterminés à aborder l’usage non régulé de l’IA.
