Le Sénat de l’État de Pennsylvanie adopte une régulation des chatbots d’IA utilisés par les enfants et les adolescents
Alors que les chatbots d’intelligence artificielle non régulés gagnent en popularité et suscitent des inquiétudes concernant la sécurité, les sénateurs de l’État ont presque unanimement adopté un projet de loi visant à réglementer les services d’accompagnement IA, souvent appelés chatbots.
Propositions et mesures de protection
Le projet de loi, sponsorisé par un sénateur, énonce une série de mesures de protection limitées pour les opérateurs de services de chatbot, définis comme des algorithmes d’IA générative qui simulent des relations humaines avec l’utilisateur. Certaines de ces mesures ne seront requises que lorsque l’opérateur sait ou soupçonne qu’un utilisateur est mineur. Cependant, il n’exige pas explicitement de vérification d’âge.
Risques associés aux chatbots
Le sénateur a souligné que ces systèmes sont conçus pour simuler l’interaction humaine, ce qui peut sembler très réel pour les utilisateurs vulnérables. Il a mentionné plusieurs poursuites contre des entreprises d’IA dont les produits étaient accusés d’avoir contribué à des suicides et à des comportements autodestructeurs.
Obligations des opérateurs
Les opérateurs de chatbots devront prendre des mesures pour garantir que leurs produits ne promeuvent pas l’automutilation, le suicide ou la violence envers autrui. Ils devront également fournir aux utilisateurs des ressources réelles, comme le numéro d’une ligne d’assistance, si un utilisateur évoque des pensées suicidaires.
Lorsqu’il y a des raisons de croire qu’un utilisateur est mineur, le projet de loi exige que les opérateurs informent les utilisateurs qu’ils ne sont pas des humains, leur rappellent ce fait toutes les trois heures et leur suggèrent de faire une pause.
Restrictions pour les mineurs
Lorsque des services sont utilisés par un utilisateur que l’opérateur sait être mineur, il leur sera interdit de générer du contenu visuellement sexuellement explicite et d’encourager des comportements sexuellement explicites. Tout chatbot proposé aux mineurs devra également informer les utilisateurs qu’il peut ne pas convenir aux personnes de moins de 18 ans.
Application et sanctions
Le projet de loi confie au bureau du procureur général de l’État l’application de la loi et prévoit des sanctions civiles allant jusqu’à 10 000 dollars pour les opérateurs de services d’IA qui enfreignent ces règles.
Conclusion
Un responsable a remercié les législateurs pour leur soutien à cette législation sensée, mettant en avant les dangers potentiels liés à la dépendance excessive à l’égard de l’intelligence artificielle. Le projet de loi devra encore être approuvé par la Chambre contrôlée par les démocrates et signé par le gouverneur pour devenir loi.
