Comment les règles de sécurité de l’IA pourraient nuire à la concurrence
Alors que les décideurs politiques s’empressent d’écrire le manuel de la sécurité de l’IA, des conséquences non intentionnelles pourraient se dessiner. Les règles conçues pour protéger le public pourraient, si elles ne sont pas soigneusement élaborées, favoriser les entreprises déjà établies sur le marché de l’IA.
Réglementation uniforme et avantages concurrentiels
Si une réglementation uniforme impose que tous les modèles de langage de grande taille (LLM) doivent refuser certaines demandes, les plus grandes entreprises bénéficieront d’un avantage significatif. Les utilisateurs seraient orientés vers les modèles les plus connus et de la meilleure qualité, tandis que les startups, en particulier les fournisseurs de LLM open-source, seraient écartées. Cela pourrait donner l’apparence d’un écosystème plus sûr, mais également moins innovant et moins réactif aux besoins réels des utilisateurs.
Approche asymétrique
Nos recherches suggèrent qu’une approche asymétrique, plutôt qu’une approche uniforme, pourrait être plus bénéfique. Des règles plus strictes pour les plus grands modèles, combinées à une plus grande flexibilité pour les petites entreprises, pourraient améliorer les résultats en matière de sécurité sans aggraver la concentration du marché.
Les niches de marché et les startups
Les startups ne cherchent pas généralement à rivaliser directement avec les grands fournisseurs en matière de performance générale. Elles se spécialisent dans des domaines que les grandes entreprises évitent pour des raisons de risque ou d’image de marque. Environ un utilisateur sur quatre est ouvert à des demandes risquées, et parmi eux, environ un sur six pousse dans ce domaine. L’universalité des politiques de refus supprimerait ces niches de marché, entraînant la disparition de segments entiers et des entreprises qui les construisent.
Refus de demande et comportement des utilisateurs
Bien que les refus soient souvent nécessaires, ils sont rarement populaires. Moins de 5 % des demandes sont considérées comme « risquées », mais l’aversion au refus est très forte. Lorsque des modèles populaires déclinent une demande, de nombreux utilisateurs cherchent ailleurs. Si les petits fournisseurs open-source sont contraints d’adopter le même comportement de refus que les plus grands laboratoires, les utilisateurs n’auront d’autre choix que de revenir aux grandes entreprises, augmentant ainsi la concentration du marché.
Réglementation ciblée et flexibilité
Si des règles de sécurité sont introduites, une approche ciblée et asymétrique peut améliorer à la fois la sécurité et la concurrence. Les plus grandes entreprises, qui dominent l’utilisation, doivent se conformer à des règles plus strictes. Pendant ce temps, les petits fournisseurs disposent d’une plus grande flexibilité, permettant ainsi l’innovation dans des domaines sous-exploités.
Conclusion
Les politiques de sécurité de l’IA doivent être calibrées. Des règles plus strictes pour les modèles de grande taille, associées à plus de flexibilité pour les petites entreprises, peuvent contribuer à préserver l’innovation et à améliorer la sécurité. Une approche mal conçue pourrait réduire la compétitivité et rendre l’écosystème moins réactif et potentiellement moins sûr.
