Ce que les règles de l’IA émotionnelle en Chine impliquent pour la conception des chatbots
En décembre 2025, l’Administration du cyberespace de Chine a publié des projets de réglementation visant ce qu’elle appelle des « services IA interactifs semblables à des humains » – des systèmes qui simulent une personnalité et engagent émotionnellement les utilisateurs via textes, images ou voix. Les règles exigent des rappels obligatoires après deux heures d’utilisation continue, une intervention humaine immédiate lorsqu’un suicide est mentionné, ainsi que des limites strictes sur l’utilisation des données d’interaction émotionnelle pour l’apprentissage.
Ces projets font suite à une série de cas très médiatisés aux États-Unis mettant en lumière les risques associés aux chatbots, notamment pour les adolescents. En janvier 2026, plusieurs entreprises ont réglé des poursuites judiciaires engagées par des familles dont les adolescents se sont suicidés après des interactions prolongées avec des chatbots.
La réponse de la Chine face aux risques
Ce qui distingue la réponse chinoise, ce n’est pas sa reconnaissance des risques, mais les outils réglementaires qu’elle est prête à déployer. Les règlements chinois ne sont pas un modèle que les États-Unis devraient copier intégralement. Ils intègrent des contrôles de contenu liés aux « valeurs fondamentales socialistes » et à la sécurité nationale, qui seraient probablement inconstitutionnels aux États-Unis.
Les mécanismes techniques proposés, tels que les dispositifs d’interruption après usage prolongé, l’escalade obligatoire en cas de crise, et la mise en quarantaine des données émotionnelles, abordent des problématiques que les régulateurs américains n’ont pas encore sérieusement examinées.
Les défis de la conception des IA conversationnelles
Les modèles d’IA conversationnelle sont optimisés pour l’engagement, mesurant la rétention des utilisateurs comme critère de succès. Une interaction continue de trois heures avec un chatbot est considérée comme une réussite. Cependant, le problème légal et éthique surgit lorsque l’utilisateur est en crise.
Les plateformes américaines gèrent ces situations via un filtrage basé sur des mots-clés, mais cette méthode présente des limites : les utilisateurs peuvent contourner le filtrage en reformulant leurs messages de détresse. De plus, le style d’interaction de l’IA, qui est validant et émotionnellement affirmatif, s’oppose aux principes d’intervention clinique en situation de crise.
Les solutions proposées par l’administration chinoise
Les réglementations chinoises proposent trois mesures que les États-Unis n’ont pas encore adoptées :
- Interruption obligatoire d’utilisation : après deux heures d’interaction, les systèmes doivent générer un rappel invitant à faire une pause. Cela crée des interruptions régulières conçues pour rompre l’état de flux qui peut mener à une dépendance excessive.
- Escalade humaine pour contenu de crise : en cas de détection de mots liés au suicide ou à l’automutilation, les fournisseurs doivent intégrer des modérateurs humains. La plateforme assume ainsi un devoir de soin au-delà d’un simple devoir d’information.
- Mise en quarantaine des données émotionnelles : les ensembles de données d’apprentissage doivent être vérifiés quant à leur provenance, et les journaux d’interactions émotionnelles ne peuvent être utilisés pour l’entraînement futur sans consentement explicite et séparé.
Comparaison avec les États-Unis
Aux États-Unis, les initiatives législatives sur la sécurité des IA pour les mineurs et les exigences de divulgation de l’utilisation de l’IA progressent, mais tendent à aborder les dangers des chatbots principalement sous l’angle de la divulgation et du contrôle d’accès, plutôt que de la conception d’interactions sécurisées.
Les contraintes constitutionnelles américaines rendent la réglementation complexe, mais cela devrait encourager une réflexion approfondie plutôt qu’un contournement du problème. Les mécanismes des règlements chinois pourraient être adaptés au contexte américain, par exemple en établissant un devoir de soin lorsque des signes de crise sont détectés dans le langage.
Conclusion
Les réglementations en Chine permettront un test à grande échelle des interventions techniques. Leur mise en œuvre générera des données concrètes sur l’efficacité des interruptions obligatoires pour réduire une utilisation excessive sans compromettre l’engagement. Les décideurs américains auront ainsi l’occasion d’apprendre de cette expérience, à condition d’en saisir l’opportunité.
