Pourquoi la décision de X concernant Grok marque un tournant pour l’éthique de l’IA
La plateforme X a mis en place des restrictions importantes sur son outil d’IA, Grok, après des critiques généralisées concernant sa capacité à créer des images sexualisées de personnes réelles.
L’entreprise a confirmé que dans les juridictions où cela est illégal, Grok ne pourra plus modifier les photos d’individus pour les représenter en vêtements révélateurs.
“Nous avons mis en place des mesures technologiques pour empêcher le compte Grok d’autoriser l’édition d’images de personnes réelles en vêtements révélateurs,” indique une annonce sur X.
Réactions aux restrictions de Grok
Le régulateur britannique indépendant de la sécurité en ligne a ouvert une enquête formelle sur X pour déterminer si l’entreprise a respecté ses obligations de protéger les utilisateurs au Royaume-Uni contre le contenu illégal.
“Nous sommes conscients des préoccupations sérieuses soulevées concernant une fonctionnalité de Grok sur X qui produit des images dénudées de personnes et des images sexualisées d’enfants,” a déclaré le régulateur.
Suite à cette situation, un porte-parole a ajouté : “X a déclaré avoir mis en œuvre des mesures pour empêcher le compte Grok d’être utilisé pour créer des images intimes de personnes. C’est un développement bienvenu.”
Cependant, l’enquête formelle se poursuit, car le régulateur travaille activement pour comprendre ce qui a mal tourné et ce qui est fait pour y remédier.
Contexte international
Au-delà du Royaume-Uni, la situation est également préoccupante aux États-Unis, où le procureur général de Californie a lancé une enquête sur la diffusion de deepfakes sexuels, y compris des contenus impliquant des mineurs, générés par Grok.
X a indiqué : “Nous géobloquons désormais la capacité de tous les utilisateurs à générer des images de personnes réelles en maillots de bain, sous-vêtements et vêtements similaires dans les juridictions où cela est illégal.”
L’entreprise souligne que seuls les abonnés payants conservent l’accès aux outils d’édition d’images de Grok, ajoutant ainsi une couche de protection pour garantir la responsabilité des utilisateurs.
Conséquences et implications
Malgré ces mesures, des régulateurs et des groupes de défense soulignent que les actions réactives de X mettent en lumière un problème de gouvernance plus large au sein des plateformes d’IA générative.
Des milliers d’images sexualisées générées par IA ont circulé sur X ces dernières semaines, incitant des législateurs et des groupes de femmes à demander à des entreprises de retirer Grok de leurs magasins d’applications.
Le rôle de l’éthique de l’IA et de la responsabilité des plateformes est devenu crucial dans ce contexte.
Conclusion
Le revirement de X représente un moment clé dans l’évolution de la gouvernance des plateformes d’IA. Les outils de médias génératifs se heurtent rapidement aux cadres juridiques émergents, obligeant les entreprises technologiques à adopter des protections contre les abus. En introduisant des géoblocages et en restreignant l’accès aux outils, X a fait un pas vers la reconstruction de la confiance, mais des experts avertissent que l’application de politiques solides et la transparence continueront de déterminer l’efficacité de ces mesures.
