Le gouvernement exige des actions face aux ‘épouvantables’ deepfakes de Grok AI
Le gouvernement a exigé que la plateforme de médias sociaux X agisse rapidement après que son chatbot AI, Grok, ait été utilisé pour générer des images sexualisées de femmes et d’enfants sans leur consentement. La secrétaire à la Technologie a qualifié la situation d’« absolument épouvantable » et a déclaré que le gouvernement ne tolérerait pas la diffusion de ce qu’elle a qualifié de contenu dégradant et abusif.
Elle a ajouté : « Nous ne pouvons pas et nous ne le ferons pas permettre la prolifération de ces images », affirmant que les plateformes avaient un devoir légal clair d’agir. Cette intervention fait suite à un « contact urgent » établi par le régulateur des médias après des inquiétudes concernant Grok, qui produisait ce que le régulateur a décrit comme des « images dénudées » de personnes réelles.
Réactions des autorités
Un porte-parole a déclaré qu’en fonction de leur réponse, une évaluation rapide serait entreprise pour déterminer s’il y avait des problèmes de conformité potentiels justifiant une enquête. La secrétaire à la Technologie a pleinement soutenu cette approche et toute action d’application qui pourrait être prise.
Elle a précisé que la question concernait l’application de la loi plutôt que la limitation de la liberté d’expression. « Les services et les opérateurs ont une obligation claire d’agir de manière appropriée. Il ne s’agit pas de restreindre la liberté d’expression, mais de faire respecter la loi », a-t-elle déclaré.
Les problèmes soulevés par l’utilisation de Grok
Le gouvernement a priorisé les infractions relatives à l’abus d’images intimes et à la cyberflashing dans le cadre de la Loi sur la sécurité en ligne, y compris les cas où des images sont générées à l’aide de l’IA. Grok est un assistant virtuel gratuit, avec certaines fonctionnalités premium, qui répond aux demandes des utilisateurs lorsqu’il est tagué dans des publications.
Des préoccupations ont émergé depuis que X a introduit un bouton « Modifier l’image », permettant aux utilisateurs de modifier des images à l’aide de commandes textuelles, même s’ils n’ont pas téléchargé la photographie originale et sans le consentement de la personne montrée. Plusieurs femmes dont les images ont été altérées de cette manière ont décrit l’expérience comme déshumanisante.
Implications et risques
Des utilisateurs ont signalé que des photographies quotidiennes publiées sur la plateforme étaient manipulées pour les sexualiser, ce qui a provoqué un sentiment d’humiliation et d’inquiétude pour la sécurité personnelle. En réponse, la plateforme a indiqué qu’elle prenait des mesures contre le contenu illégal, y compris le matériel d’abus sexuel sur des enfants.
Le leader d’un parti politique a appelé le gouvernement à agir rapidement pour empêcher la création d’images sexualisées à l’aide de ce chatbot, suggérant que l’accès à la plateforme pourrait être restreint si les préoccupations étaient fondées. La Loi sur la sécurité en ligne rend illégal la création ou le partage d’images intimes ou sexuellement explicites sans le consentement d’une personne, y compris celles générées par l’IA.
Conclusion
La situation actuelle soulève d’importantes questions sur la responsabilité des plateformes de médias sociaux et l’application de la loi concernant le contenu généré par l’IA. Alors que le gouvernement agit pour protéger les individus contre les abus, il est essentiel que des mesures soient mises en place pour garantir un environnement en ligne sûr et respectueux.
