Comment l’UE peut empêcher les chatbots d’IA de faciliter des attaques violentes
La planification d’une attaque violente n’a jamais été aussi facile. En mai 2025, un adolescent finlandais de 16 ans a poignardé trois de ses camarades de classe féminines, une attaque qu’il a planifiée après une conversation extensive avec un chatbot d’IA. Le coupable aurait utilisé le chatbot pour développer un manifeste et discuter de l’approche et de la stratégie de l’attaque.
Un rapport récent du Centre pour la lutte contre la haine numérique a confirmé que 8 sur 10 des chatbots d’IA les plus populaires aideraient un adolescent à planifier une attaque violente. Les chercheurs ont testé deux choses : si le chatbot fournirait des informations nuisibles et s’il encouragerait la violence. Dans la plupart des cas, la rèponse était oui aux deux. À l’exception de Claude d’Anthropic, la plupart des chatbots ont également échoué à établir des liens entre les différentes demandes pour arrêter ce qui était clairement un plan de violence dans le monde réel.
Les dangers des chatbots d’IA
À travers des événements réels et des recherches décisives, nous savons que les dangers de l’utilisation des chatbots d’IA — en particulier par des mineurs — sont réels. L’UE a une solution à portée de main : réguler les chatbots d’IA dans le cadre de la Loi sur les services numériques. Étant donné les risques posés par ces nouveaux services en ligne et les millions d’utilisateurs européens interagissant quotidiennement avec des chatbots, les décideurs doivent appliquer la Loi sur les services numériques aux fournisseurs de chatbots d’IA.
Cadre législatif actuel
Actuellement, la Loi sur les services numériques ne régule l’IA générative que si elle est intégrée à une très grande plateforme en ligne ou à un moteur de recherche en ligne très vaste. La Commission européenne évalue également si elle doit désigner un chatbot d’IA comme un moteur de recherche en ligne très vaste, ce qui représenterait une première dans la régulation des chatbots autonomes.
Quant à la Loi sur l’IA, ce mécanisme régule principalement l’IA au niveau du modèle. Il existe des obligations de transparence pour les modèles d’IA à usage général sous-jacents aux chatbots que nous utilisons, mais le Code de pratique GPAI, qui est volontaire, ne peut faire que peu de choses pour traiter les problèmes qui proviennent d’une plateforme orientée utilisateur.
En même temps, les discussions actuelles autour d’une proposition omnibus sur l’IA risquent de saper la rèponse de l’UE aux véritables menaces de l’IA. Les propositions visant à retarder la mise en œuvre et à suspendre les obligations pour les systèmes d’IA à haut risque créeraient une incertitude juridique et enverraient un message clair aux entreprises d’IA selon lequel la conformité peut attendre.
Implications et recommandations
Bien que l’application de la Loi sur les services numériques et la Loi sur l’IA soit des étapes importantes, elles ne fournissent finalement pas la responsabilité et la transparence nécessaires. La Loi sur les services numériques est une législation solide, créée pour protéger les utilisateurs des préjudices des plateformes numériques. Cependant, elle ne considère pas les chatbots comme des services intermédiaires, mais elle pourrait et devrait être appliquée comme telle.
Les entreprises technologiques ne peuvent plus prétendre être neutres lorsque leurs produits génèrent du contenu, façonnent le comportement et créent des risques dans le monde réel. Cependant, les règles actuelles les laissent dans une zone grise : la Loi sur l’IA régule les modèles, tandis que la Loi sur les services numériques régule les plateformes, et les chatbots se situent entre les deux. Cela permet aux entreprises de déplacer la responsabilité sans faire face à des obligations équivalentes.
Conclusion
En appliquant la Loi sur les services numériques aux chatbots aujourd’hui, l’UE pourrait réaliser des progrès significatifs, mais cela laisserait des lacunes critiques en matière de responsabilité et de transparence. Les obligations actuelles ne nécessitent pas que les fournisseurs de chatbots expliquent comment leurs systèmes réagissent à un comportement utilisateur croissant, pourquoi certaines sorties sont générées, ou comment les risques pour les mineurs sont évalués.
Pour protéger les utilisateurs, en particulier les mineurs, il est essentiel que l’UE agisse rapidement pour adapter sa législation afin de garantir une sécurité adéquate face aux risques posés par les chatbots d’IA.
