Grok sous le coup d’une surveillance réglementaire en Corée du Sud concernant du contenu explicite généré par l’IA
La Corée du Sud a entrepris des actions réglementaires contre Grok, un chatbot d’IA générative développé par xAI, suite à des allégations selon lesquelles le système aurait été utilisé pour générer et distribuer des images deepfake à caractère sexuel exploitant des personnes.
Examen préliminaire des faits
La Commission de protection des informations personnelles du pays a lancé une révision préliminaire pour évaluer si des violations ont eu lieu et si l’affaire relève de sa compétence légale. Cette révision fait suite à des rapports internationaux accusant Grok de faciliter la création d’images explicites et non consensuelles de personnes réelles, y compris des mineurs.
Conséquences juridiques
Conformément à la Loi sur la protection des informations personnelles de Corée du Sud, générer ou modifier des images sexuelles de personnes identifiables sans leur consentement peut constituer un traitement illégal de données personnelles, exposant les fournisseurs à des actions d’exécution.
Préoccupations croissantes
Les préoccupations se sont intensifiées après que des groupes de la société civile ont estimé que des millions d’images explicites avaient été produites via Grok sur une courte période, dont des milliers impliquant des enfants. Plusieurs gouvernements, y compris ceux des États-Unis, d’Europe et du Canada, ont ouvert des enquêtes, tandis que certaines parties de l’Asie du Sud-Est ont choisi de bloquer l’accès au service.
Réponses et mesures
En réponse, xAI a introduit des restrictions techniques empêchant les utilisateurs de générer ou de modifier des images de personnes réelles. Les régulateurs coréens ont également exigé des mesures de protection des jeunes renforcées de la part de la plateforme, avertissant que le non-respect des règles concernant les contenus criminels impliquant des mineurs pourrait entraîner des sanctions administratives.
Pour plus d’informations sur l’IA, la technologie et la diplomatie numérique, n’hésitez pas à poser des questions.
