Grok AI monétise les abus et le gouvernement doit agir, avertit une association
L’abus d’images générées par l’IA augmente à un rythme sans précédent, et les gouvernements ainsi que les plateformes technologiques doivent agir rapidement pour protéger les femmes et les filles, avertit une association caritative.
Ce cri d’alarme vient en réponse à un nombre croissant d’utilisateurs d’une plateforme de médias sociaux utilisant une technologie d’IA pour créer des images sexualisées de femmes et de filles. Des images innocentes publiées par des femmes et des photographies d’enfants ont été manipulées pour retirer des vêtements, les placer dans des positions sexualisées, et ajouter des ecchymoses et d’autres marques de violence.
Suite à une condamnation généralisée, un responsable de la plateforme a annoncé qu’il limiterait la capacité des utilisateurs à modifier des images aux abonnés payants. Cependant, cette décision a été critiquée comme une simple monétisation de l’abus.
Les implications de l’abus d’images générées par l’IA
Un responsable de l’association a déclaré que cette escalade d’abus nécessite une action urgente de la part des plateformes technologiques pour protéger les femmes et les filles contre ce véritable préjudice. Il a noté que bien que limiter la génération d’images IA à des utilisateurs payants puisse réduire le volume et améliorer la traçabilité, cela n’arrête pas l’abus. Il a plutôt été placé derrière un mur payant, permettant à la plateforme de tirer profit de ce préjudice.
Un membre du gouvernement a également appelé à une action rapide, qualifiant la manipulation sexuelle des femmes et des enfants de « détestable et abominable ». Il a souligné qu’il était inacceptable que cette pratique persiste si l’on est prêt à payer pour y accéder.
Urgence d’une intervention gouvernementale
Malgré l’absence d’actions concrètes pour arrêter la création et la diffusion d’images abusives, il a été affirmé que les véritables responsables sont des individus animés par une misogynie enracinée. L’association appelle le gouvernement à agir rapidement pour tenir responsables les entreprises technologiques qui échouent à résoudre les abus en ligne par des réglementations plus strictes et des conséquences significatives.
Sans action, la sécurité des femmes et des filles sera mise en péril. Un récent rapport a mis en évidence que les abus facilitant la technologie sont une forme de violence contre les femmes et les filles extrêmement répandue et dangereuse. Pour atteindre les objectifs de réduction de la violence, il est essentiel d’aborder efficacement ces abus.
Conclusion
La situation actuelle concernant les abus d’images générées par l’IA appelle à une intervention immédiate des autorités et des plateformes. Sans une réponse adéquate, les femmes et les filles continueront de souffrir des conséquences de ces abus technologiques.
