Les chatbots IA face aux nouvelles règles de sécurité au Royaume-Uni
Le gouvernement britannique a annoncé l’inclusion des chatbots IA dans les lois sur la sécurité en ligne, comblant une lacune mise en évidence après que le chatbot IA Grok a été utilisé pour créer des deepfakes sexualisés. Les fournisseurs de chatbots seront désormais responsables de la prévention de la génération de contenu illégal ou nuisible, élargissant ainsi les règles qui s’appliquaient auparavant uniquement au contenu partagé entre utilisateurs sur les réseaux sociaux.
Contexte et mesures annoncées
Cette décision fait suite à une réaction internationale contre Grok, qui a permis aux utilisateurs de créer et de partager des images sexualisées de femmes et d’enfants à l’aide de simples commandes textuelles. Le Premier ministre a déclaré que les nouvelles mesures comprennent une répression des contenus illégaux générés par l’IA. Le gouvernement s’engage à agir rapidement pour fermer une faille juridique et obliger tous les fournisseurs de chatbots IA à respecter les obligations relatives au contenu illégal dans le cadre de la Loi sur la sécurité en ligne.
Obligations sous la Loi sur la sécurité en ligne
Selon cette loi, entrée en vigueur en juillet, les plateformes hébergeant des contenus potentiellement nuisibles doivent mettre en place des vérifications d’âge strictes. Il est également illégal pour les sites de créer ou de partager des images intimes non consensuelles ou des contenus d’abus sexuels sur des enfants, y compris les deepfakes sexuels générés par l’IA.
Enquêtes en cours
En janvier, l’autorité de régulation des médias a ouvert une enquête sur la plateforme hébergeant Grok pour manquement à ses obligations de sécurité. L’autorité de protection des données du pays a également lancé une enquête plus large sur les entreprises liées à Grok pour déterminer si elles ont respecté la loi sur les données personnelles lors de la génération de deepfakes sexualisés.
Réponses aux défis technologiques
Le Premier ministre a souligné que la technologie évolue rapidement, rendant difficile l’adaptation de la législation. Il a déclaré qu’il était nécessaire de prendre les mesures requises pour les chatbots IA. Le gouvernement intensifie ses efforts pour protéger les enfants en ligne et envisage des mesures telles qu’une interdiction des réseaux sociaux pour les moins de 16 ans.
Conclusion
Alors que le gouvernement s’efforce de devenir une « superpuissance de l’IA », l’équilibre entre l’innovation technologique et la protection des utilisateurs, en particulier des enfants, demeure un enjeu crucial. Les nouvelles réglementations sur les chatbots IA représentent une étape importante pour répondre aux préoccupations croissantes concernant la sécurité en ligne.
