Les Risques de Sécurité de l’IA dans le Projet de Loi RAISE de New York
Le projet de loi RAISE de l’État de New York, qui vise à protéger les individus des dommages liés à l’intelligence artificielle (IA), soulève des questions importantes sur son efficacité. Bien que l’objectif soit louable, l’approche adoptée pourrait transformer un défi technique en un fardeau bureaucratique.
Les Objectifs du RAISE Act
Le projet de loi, rédigé par le membre de l’Assemblée Alex Bores, impose une série d’exigences destinées à garantir que les technologies IA soient déployées et utilisées de manière responsable. Actuellement en débat en commission, le projet vise à répondre aux préoccupations concernant l’utilisation de l’IA dans la création d’armes chimiques, biologiques et nucléaires.
Cependant, les véritables risques résident dans l’accessibilité des matériaux précurseurs dangereux et non dans les systèmes d’IA eux-mêmes.
Exigences du RAISE Act
À l’instar du projet de loi SB 1047 de Californie, le RAISE Act cible les « modèles avancés » d’IA, c’est-à-dire ceux qui répondent à certains seuils de calcul et coûtent plus de 100 millions de dollars à entraîner. Les développeurs de modèles doivent respecter des procédures de test obligatoires, subir des audits tiers réguliers et signaler tout incident dangereux.
Les pénalités pour non-conformité commencent à 5 % des coûts de calcul, pouvant atteindre 15 % en cas de violations répétées, ce qui pourrait se traduire par des amendes de 5 à 15 millions de dollars.
Les Limites de l’Alignement des Modèles
En théorie, le projet de loi vise à aligner les incitations des entreprises avec les intérêts de la sécurité publique. Cependant, l’alignement des modèles pour prévenir les abus s’avère difficile. Les chercheurs soulignent que même si les modèles peuvent être rendus « sûrs », ils peuvent facilement être utilisés à des fins malveillantes.
Les approches les plus récentes se concentrent sur des systèmes externes pour maintenir cet alignement. Des entreprises développent des filtres de contenu externes, des protocoles de surveillance humaine et des systèmes de surveillance en temps réel pour détecter et prévenir les résultats nuisibles.
Contradictions et Coûts de Conformité
Le RAISE Act impose un ensemble lourd d’exigences pour atteindre ses objectifs. Par exemple, si des protocoles de sécurité robustes fonctionnent efficacement, pourquoi exiger cinq ans de conservation des enregistrements ? De même, si un modèle réussit un audit indépendant, pourquoi doit-il encore répondre à une norme de « raisonabilité » pour le déploiement ?
Ces contradictions risquent de privilégier la conformité au détriment des résultats réels en matière de sécurité. Les décideurs politiques ont tendance à minimiser les coûts de conformité, mais ceux-ci pourraient s’avérer bien plus élevés que prévu.
Les estimations initiales de conformité pour une entreprise de modèle avancé pourraient varier entre 1 070 et 2 810 heures la première année, ce qui équivaut à un emploi à temps plein. Les charges pour les années suivantes, cependant, devraient être considérablement inférieures, allant de 280 à 1 600 heures par an.
Conclusion
Le large éventail d’estimations met en lumière l’incertitude fondamentale entourant le RAISE Act et d’autres projets similaires. L’évolution rapide du marché nécessite des lois qui privilégient une atténuation efficace des risques plutôt qu’un simple théâtre réglementaire.
