Shapiro veut que la Pennsylvanie régule les chatbots IA. Comment cela fonctionnerait-il ?
Le gouverneur de Pennsylvanie, Josh Shapiro, dirige les agences d’État pour développer des réglementations plus strictes concernant les chatbots d’intelligence artificielle, qu’il considère comme pouvant être trompeurs et nuisibles pour les enfants. Ces nouvelles restrictions pourraient placer la Pennsylvanie sur une liste croissante d’États cherchant à imposer des garde-fous alors que de plus en plus d’enfants utilisent des chatbots IA.
Contexte et justification
Une majorité d’adolescents américains utilise des chatbots, et un tiers d’entre eux a déclaré les utiliser pour des interactions sociales. Ces adolescents rapportent utiliser des chatbots pour pratiquer des conversations, obtenir un soutien émotionnel, jouer des rôles et établir des amitiés. Shapiro a déclaré que sans réglementation, les enfants et d’autres pourraient être vulnérables à des dommages émotionnels.
Un des défis majeurs réside dans la vérification de l’âge. Bien que cette mesure ait gagné en popularité parmi les régulateurs pour protéger les enfants, les experts soulignent que la vérification d’âge peut poser des problèmes techniques et juridiques. Par exemple, il est facile de falsifier une identification en ligne.
Les exigences réglementaires proposées
Le gouverneur a proposé que la Pennsylvanie exige une vérification de l’âge, un consentement parental et une interdiction des chatbots produisant du contenu sexuellement explicite ou violent impliquant des enfants. Il soutient également que les entreprises doivent diriger les utilisateurs mentionnant des comportements autodestructeurs vers les autorités appropriées.
Défis d’application des réglementations
Les questions relatives à l’application de ces exigences sont complexes. Assurer qu’un chatbot ne produise pas de contenu violent ou sexuellement explicite est un défi, car les entreprises d’IA explorent déjà des moyens de bloquer la création de matériel illégal. Les garde-fous actuels peuvent être contournés facilement.
Les législateurs de l’État ont été appelés à développer une législation visant à protéger les enfants et les utilisateurs vulnérables des risques potentiels associés à l’utilisation des chatbots. Un projet de loi bipartisan dans le Sénat de l’État établirait des « normes appropriées à l’âge » et exigerait des mesures de protection contre le contenu encourageant l’automutilation ou la violence.
Conséquences et perspectives d’avenir
Le paysage réglementaire de l’IA aux États-Unis évolue rapidement, et bien que la Pennsylvanie puisse devenir un acteur majeur dans la régulation de l’IA, il est probable que des États comme la Californie et New York définissent la norme. Les entreprises d’IA pourraient être contraintes de se conformer aux réglementations des États ayant une population importante.
Il est essentiel que les agences ne soient pas découragées par la difficulté d’application. Les réglementations devraient être développées comme partie d’un modèle de gestion des risques où plusieurs protections sont mises en place pour garantir une meilleure sécurité.
