La transparence de l’IA en danger au nom de la déréglementation
Il y a eu un changement de dynamique à Bruxelles. Fini le temps où l’UE se positionnait comme le régulateur numérique mondial qui maîtrise Big Tech.
Dans une tentative de modifier sa réputation de retardataire technologique et de s’adapter à de nouvelles réalités géopolitiques, l’UE se tourne désormais vers une simplification réglementaire.
Cependant, dans sa hâte à simplifier les règles pour les entreprises locales, l’UE risque non seulement de compromettre des principes longtemps respectés. La simplification ne doit pas être un prétexte à la déréglementation.
En confondant transparence et ouverture avec un obstacle, plutôt qu’un moteur de l’innovation, l’UE se tirerait une balle dans le pied. Les nouvelles règles de transparence pour l’IA et les données dans le cadre de la Loi sur l’IA de l’UE pourraient devenir l’une des premières victimes de cette nouvelle impulsion pour réduire certaines des exigences récemment adoptées pour les fournisseurs de modèles d’IA de soi-disant « usage général » (GPAI).
Qui craint la transparence ?
Du point de vue des droits fondamentaux, la transparence ne peut pas être considérée comme un « ajout » optionnel ou un « plus ». Elle permet l’exercice des droits, aide à tenir les entreprises technologiques responsables, informe le débat public et permet la surveillance de cette technologie émergente sans interférer avec son développement.
En résumé, nous ne pouvons pas espérer gouverner l’IA sans une meilleure transparence.
Économiquement, la peur de la transparence est également mal conçue. Des normes de transparence robustes ne constituent pas des barrières à une innovation technologique socialement bénéfique.
Au contraire, elles favorisent la diffusion de l’innovation et encouragent la concurrence de manière plus fiable et durable. Le succès des logiciels open-source — qui constitue aujourd’hui la base de la technologie partout — prouve que l’ouverture, et non le secret, favorise l’avancement et le leadership technologique.
Une approche basée sur le secret, en revanche, favorise les acteurs établis, maintient les connaissances et les avancées scientifiques enfermées, et ralentit le progrès technologique.
Il est bien plus probable que la véritable motivation ici soit d’éviter le contrôle public et la responsabilité légale potentielle pour des violations du droit d’auteur ou de la protection des données, et d’utiliser leurs données pour construire un rempart concurrentiel.
Une stratégie mal orientée
Dans le domaine de l’IA, tout comme dans d’autres secteurs numériques, l’avantage concurrentiel à long terme provient de l’innovation, et non du secret. L’UE ne devrait pas abandonner son engagement envers la transparence en supposant à tort que la compétitivité et la transparence sont mutuellement exclusives.
En ce qui concerne la transparence autour des données utilisées pour former des modèles d’IA à la pointe de la technologie, les développeurs d’IA et leurs associations industrielles s’opposent vigoureusement — faisant des revendications généralisées de secret commercial, exprimant des réserves non spécifiées concernant de supposées vulnérabilités de sécurité, et citant des charges de conformité écrasantes.
Cependant, il est fort probable que la véritable motivation ici soit d’éviter le contrôle public et la responsabilité légale potentielle pour des violations du droit d’auteur ou de la protection des données, et d’utiliser leurs données pour construire un rempart concurrentiel.
L’ironie est que les données personnelles et les protections du droit d’auteur sont parmi les intérêts qui ont conduit les législateurs de l’UE à inclure les obligations de transparence dans la Loi sur l’IA en premier lieu.
Une opposition à la transparence profondément erronée
Les développeurs d’IA ont fourni peu de clarté sur les informations spécifiques qui devraient être protégées en tant que secret commercial, malgré les critères bien définis dans la loi sur les secrets commerciaux de l’UE. Il existe des arguments raisonnables pour expliquer pourquoi une grande partie des informations qui devraient être incluses dans le modèle ne répondent pas à ces critères.
De plus, baser une stratégie visant à renforcer la compétitivité des entreprises d’IA de l’UE sur le secret commercial entourant les données d’entraînement est mal orienté.
Compter sur les secrets commerciaux pour cloisonner les informations concernant les données d’entraînement pourrait également décourager les développeurs d’IA d’utiliser des ensembles de données diversifiés et de haute qualité, entraînant des applications d’IA biaisées, moins fiables, voire nuisibles. C’est précisément le contraire de ce dont l’économie de l’UE a besoin.
Les arguments de sécurité contre la transparence dans ce contexte sont également venus sans spécificités. Il peut bien y avoir des circonstances particulières où la divulgation de certaines informations pourrait introduire des risques ; cela doit être pris au sérieux. Mais sans explication de quelles informations, si elles étaient divulguées publiquement, introduiraient quelle vulnérabilité, il est difficile d’agir en conséquence.
En ce qui concerne les coûts de conformité potentiels liés à la fourniture d’une documentation claire et significative sur les données d’entraînement, presque toutes les informations requises sont soit facilement produites, soit déjà disponibles pour les développeurs qui suivent des pratiques de documentation standard en interne.
En fin de compte, l’orientation actuelle de l’UE vers une réglementation simplifiée ne peut pas être un moyen de saper l’esprit de ce qui a été convenu par les co-législateurs dans un processus démocratique.
Le désir de simplifier les règles pour les entreprises ne peut pas se faire au détriment des valeurs fondamentales de l’UE, qui incluent à la fois la transparence et une innovation technologique socialement bénéfique et durable.
Au lieu de permettre à certains intérêts industriels — en particulier aux grandes entreprises technologiques — de diluer la transparence, l’UE devrait la considérer comme un outil pour favoriser un marché numérique ouvert et compétitif qui fonctionne pour les entreprises privées et l’intérêt public.
Il n’est pas nécessaire d’échanger la transparence contre la compétitivité. Si quelque chose, le véritable risque est que, dans sa précipitation à simplifier, l’UE finisse par réduire les règles pour ceux qui sont déjà en avance dans le jeu.
