Le Sénat de l’État adopte un projet de loi régulant les chatbots IA utilisés par les enfants et les adolescents
Alors que les chatbots d’intelligence artificielle non régulés gagnent en popularité et soulèvent des inquiétudes en matière de sécurité, le Sénat de l’État a presque unanimement adopté un projet de loi visant à réglementer les services de compagnons IA.
Principaux points du projet de loi
Le projet de loi, parrainé par un sénateur, établit une série de protections limitées pour les opérateurs de services de chatbots, définis comme des algorithmes d’IA générative qui simulent des relations humaines avec l’utilisateur. Certaines de ces protections ne seront requises que lorsque l’opérateur sait ou soupçonne que l’utilisateur est un mineur.
Cependant, le projet de loi ne nécessite pas explicitement de vérification d’âge.
Raisons et implications
Le sénateur a souligné que ces systèmes sont conçus pour simuler l’interaction humaine et qu’ils peuvent sembler très réels pour les utilisateurs vulnérables. Il a évoqué plusieurs poursuites contre des entreprises d’IA dont les produits ont été accusés d’encourager le suicide et l’automutilation.
Le projet de loi exige que tous les opérateurs de compagnons IA prennent des mesures pour s’assurer que leurs produits ne promeuvent pas l’automutilation, le suicide ou la violence envers autrui. Il leur impose également de fournir aux utilisateurs des ressources réelles, comme le numéro d’une ligne d’assistance en cas de discussion sur l’automutilation.
Sanctions et mise en œuvre
Les opérateurs seront tenus de publier les protocoles associés sur leur site web accessible au public. Lorsqu’il y a des raisons de croire qu’un utilisateur est mineur, le projet de loi exige qu’ils informent les utilisateurs qu’ils ne sont pas humains, leur rappellent cela toutes les trois heures et leur suggèrent de faire une pause.
Si un service est utilisé par un mineur, l’opérateur sera également interdit de générer du contenu visuel sexuellement explicite et d’encourager les utilisateurs à adopter des actions sexuellement explicites. Tout chatbot proposé aux mineurs devra également avertir les utilisateurs qu’il pourrait ne pas convenir aux personnes de moins de 18 ans.
Le projet de loi confie au bureau du procureur général de l’État l’application de la loi et prévoit des sanctions civiles allant jusqu’à 10 000 dollars pour les opérateurs de services d’IA qui enfreignent cette réglementation.
Conclusion
Le projet de loi doit encore être adopté par la Chambre contrôlée par les démocrates et signé par le gouverneur pour devenir loi. Ce dernier a déjà déclaré qu’il cherchait des moyens de réguler les services de chatbots IA.
