Le Royaume-Uni inclut les chatbots IA dans la loi sur la sécurité en ligne après le scandale Grok
Le gouvernement du Royaume-Uni a annoncé qu’il intégrerait les chatbots IA dans la législation sur la sécurité en ligne, comblant ainsi une lacune mise en évidence après que le chatbot IA Grok a été utilisé pour créer des deepfakes sexualisés.
Responsabilité des fournisseurs de chatbots
Les fournisseurs de chatbots seront tenus de prévenir la génération de contenus illégaux ou nuisibles, élargissant ainsi les règles qui s’appliquent actuellement uniquement aux contenus partagés entre utilisateurs sur les réseaux sociaux. Le gouvernement vise à fermer une faille juridique et à obliger tous les fournisseurs de chatbots IA à respecter les obligations concernant les contenus illégaux dans la Loi sur la sécurité en ligne, sous peine de sanctions.
Contexte de la Loi sur la sécurité en ligne
La Loi sur la sécurité en ligne, entrée en vigueur en juillet, impose aux plateformes hébergeant du contenu potentiellement nuisible de mettre en œuvre des vérifications d’âge strictes, par exemple via des outils de reconnaissance faciale ou des contrôles par carte de crédit. Il est également illégal pour les sites de créer des images intimes non consensuelles ou du matériel d’abus sexuels sur des enfants, y compris les deepfakes sexuels créés par IA.
Enquête sur les plateformes de médias sociaux
En janvier, le régulateur des médias du Royaume-Uni a ouvert une enquête sur une plateforme de médias sociaux pour non-respect de ses obligations de sécurité. Il a noté que tous les chatbots IA ne sont pas encore régulés, notamment ceux qui « permettent uniquement aux gens d’interagir avec le chatbot lui-même et pas avec d’autres utilisateurs ».
Implications et risques
Avec l’évolution rapide de la technologie, la législation peine à suivre. Il est donc essentiel de prendre des mesures pour réguler les chatbots IA, afin de protéger les utilisateurs contre les contenus nuisibles.
Conclusion
La décision d’inclure les chatbots IA dans la loi sur la sécurité en ligne constitue une étape importante pour renforcer la protection des utilisateurs dans un environnement numérique en constante évolution.
