Les AGs demandent à xAI d’agir davantage contre les deepfakes de Grok
Une coalition bipartisane de 35 procureurs généraux a adressé une lettre à xAI, exhortant l’entreprise à prendre des mesures supplémentaires pour empêcher son chatbot AI, Grok, de générer et diffuser des images intimes non consensuelles (NCII), y compris du contenu impliquant des enfants.
Contexte et problématique
Dans la lettre, la coalition a souligné des rapports selon lesquels Grok avait été utilisé pour « nudifier » de vraies personnes et amplifier le contenu résultant. Elle a également allégué que les choix de produits de xAI, y compris un « mode épicé », ainsi que son marketing, contribuaient au problème.
Demandes de la coalition
Bien que les AGs aient reconnu les efforts récents de xAI en matière d’atténuation, ils ont appelé l’entreprise à fournir des informations spécifiques sur la manière dont elle compte :
- 1. Prévenir que Grok ne produise des NCII,
- 2. Supprimer le contenu NCII existant,
- 3. Suspendre et, le cas échéant, signaler les utilisateurs responsables,
- 4. Offrir aux utilisateurs de X des contrôles faciles pour empêcher Grok de répondre à ou d’éditer leur contenu, et
- 5. Garantir que des mesures de sécurité limitent la production de contenu nuisible sur la plateforme.
Investigations en cours
Comme il a été rapporté précédemment, un procureur général a récemment ouvert une enquête contre xAI, et un autre a émis une lettre de cessation et d’abstention à l’encontre de l’entreprise pour des allégations similaires.
