Restrictions de génération d’images par une startup
Une startup a restreint la fonction de génération d’images de son chatbot après une réaction négative généralisée concernant l’utilisation de l’IA pour créer des images sexualisées.
Contexte et réactions
La fonction de génération d’images du chatbot permettait aux utilisateurs de modifier ou de créer des photos sexualisées, ce qui a conduit à la création d’images de femmes et d’enfants en vêtements minimaux, souvent sans le consentement des personnes représentées. Cette situation a suscité des appels à des actions légales de la part de législateurs européens, qualifiant ces images d' »industrialisation du harcèlement sexuel ».
Mesures prises
En réponse à cette controverse, il a été annoncé que les fonctionnalités de génération et d’édition d’images ne seraient désormais accessibles qu’aux abonnés payants. Toutefois, une application distincte continue de permettre la génération d’images sans abonnement.
Réactions des autorités
Les autorités européennes ont qualifié ces images d’illégales et répréhensibles. Un régulateur britannique a demandé des explications sur la conformité aux lois sur la protection des données, soulevant des préoccupations concernant la génération d’images abusives.
Conclusion
Des mesures ont été mises en place pour limiter l’accès à certaines fonctionnalités de génération d’images, illustrant les défis auxquels sont confrontées les entreprises technologiques dans la régulation des contenus générés par les utilisateurs.
