Conformité des acteurs de l’industrie de l’IA après la révélation de la « contamination des données » en Chine
Après que la cérémonie annuelle des droits des consommateurs en Chine a mis en lumière le phénomène de la « contamination de l’IA », provoqué par une technique commerciale connue sous le nom d’optimisation des moteurs génératifs (GEO), certaines start-ups du secteur GEO ont publié des déclarations, promettant de se conformer aux exigences de l’optimisation de la recherche en IA.
Révélations des pratiques douteuses
Des fournisseurs de services GEO ont promis à leurs clients, moyennant des frais, que leurs produits peuvent apparaître fréquemment dans les réponses générées par l’IA, permettant même à des contenus publicitaires mensongers d’être présentés comme des « réponses standards ». La cérémonie a révélé des activités telles que la génération de fausses informations, la contamination des données de l’IA, la manipulation des classements et la concurrence malveillante, considérées comme une menace croissante pour l’intégrité des modèles d’IA.
Engagements des entreprises
Une entreprise a déclaré qu’elle respectait le principe de « technologie pour le bien, conformité d’abord », affirmant qu’elle ne collaborera pas avec des acteurs du marché noir. Une autre société a également publié une déclaration d’urgence, s’opposant à toute forme de promotion trompeuse ou de manipulation malveillante des résultats de l’IA.
Risques et implications
Les outils GEO, initialement développés pour optimiser la diffusion d’informations, peuvent être détournés pour diffuser des informations fausses, contaminant ainsi les systèmes d’apprentissage de l’IA. Les experts définissent la « contamination de l’IA » comme l’alimentation délibérée d’informations fabriquées dans l’écosystème d’information, avec le potentiel de déformer la confiance du public dans l’IA. Les comportements malveillants peuvent nuire aux droits des consommateurs à un choix éclairé et violer les réglementations sur la publicité.
Conclusion
Les autorités doivent améliorer l’environnement d’information sur Internet afin d’accroître la qualité des informations disponibles. Les défis posés par la publicité générée par l’IA doivent être abordés de manière proactive pour éviter que des spéculateurs n’utilisent des techniques GEO pour polluer rapidement les modèles d’IA.
