Les Risques de Sécurité de l’IA dans le Projet de Loi RAISE de New York

Le projet de loi RAISE de l’État de New York, qui vise à protéger les individus des dommages liés à l’intelligence artificielle (IA), soulève des questions importantes sur son efficacité. Bien que l’objectif soit louable, l’approche adoptée pourrait transformer un défi technique en un fardeau bureaucratique.

Les Objectifs du RAISE Act

Le projet de loi, rédigé par le membre de l’Assemblée Alex Bores, impose une série d’exigences destinées à garantir que les technologies IA soient déployées et utilisées de manière responsable. Actuellement en débat en commission, le projet vise à répondre aux préoccupations concernant l’utilisation de l’IA dans la création d’armes chimiques, biologiques et nucléaires.

Cependant, les véritables risques résident dans l’accessibilité des matériaux précurseurs dangereux et non dans les systèmes d’IA eux-mêmes.

Exigences du RAISE Act

À l’instar du projet de loi SB 1047 de Californie, le RAISE Act cible les « modèles avancés » d’IA, c’est-à-dire ceux qui répondent à certains seuils de calcul et coûtent plus de 100 millions de dollars à entraîner. Les développeurs de modèles doivent respecter des procédures de test obligatoires, subir des audits tiers réguliers et signaler tout incident dangereux.

Les pénalités pour non-conformité commencent à 5 % des coûts de calcul, pouvant atteindre 15 % en cas de violations répétées, ce qui pourrait se traduire par des amendes de 5 à 15 millions de dollars.

Les Limites de l’Alignement des Modèles

En théorie, le projet de loi vise à aligner les incitations des entreprises avec les intérêts de la sécurité publique. Cependant, l’alignement des modèles pour prévenir les abus s’avère difficile. Les chercheurs soulignent que même si les modèles peuvent être rendus « sûrs », ils peuvent facilement être utilisés à des fins malveillantes.

Les approches les plus récentes se concentrent sur des systèmes externes pour maintenir cet alignement. Des entreprises développent des filtres de contenu externes, des protocoles de surveillance humaine et des systèmes de surveillance en temps réel pour détecter et prévenir les résultats nuisibles.

Contradictions et Coûts de Conformité

Le RAISE Act impose un ensemble lourd d’exigences pour atteindre ses objectifs. Par exemple, si des protocoles de sécurité robustes fonctionnent efficacement, pourquoi exiger cinq ans de conservation des enregistrements ? De même, si un modèle réussit un audit indépendant, pourquoi doit-il encore répondre à une norme de « raisonabilité » pour le déploiement ?

Ces contradictions risquent de privilégier la conformité au détriment des résultats réels en matière de sécurité. Les décideurs politiques ont tendance à minimiser les coûts de conformité, mais ceux-ci pourraient s’avérer bien plus élevés que prévu.

Les estimations initiales de conformité pour une entreprise de modèle avancé pourraient varier entre 1 070 et 2 810 heures la première année, ce qui équivaut à un emploi à temps plein. Les charges pour les années suivantes, cependant, devraient être considérablement inférieures, allant de 280 à 1 600 heures par an.

Conclusion

Le large éventail d’estimations met en lumière l’incertitude fondamentale entourant le RAISE Act et d’autres projets similaires. L’évolution rapide du marché nécessite des lois qui privilégient une atténuation efficace des risques plutôt qu’un simple théâtre réglementaire.

Articles

Renforcer la sécurité des LLM : l’alignement responsable de l’IA

Ce document traite de l'alignement responsable de l'IA dans le développement de phi-3, mettant l'accent sur les principes de sécurité adoptés par Microsoft. Des méthodes de test et des ensembles de...

Contrôle des données dans l’ère des clouds IA souverains

Les nuages d'IA souverains offrent à la fois contrôle et conformité, répondant aux préoccupations croissantes concernant la résidence des données et le risque réglementaire. Dans un environnement où...

L’Alliance Écossaise de l’IA : Vers une Intelligence Artificielle Éthique

L'Alliance écossaise de l'IA a publié son rapport d'impact 2024/2025, révélant une année de progrès significatifs dans la promotion d'une intelligence artificielle éthique et inclusive en Écosse. Le...

UE AI Act : Préparez-vous au changement inévitable

L'annonce de la Commission européenne vendredi dernier selon laquelle il n'y aura pas de retard concernant la loi sur l'IA de l'UE a suscité des réactions passionnées des deux côtés. Il est temps de...

Fiabilité des modèles linguistiques : un défi à relever avec la loi sur l’IA de l’UE

Les modèles de langage de grande taille (LLM) ont considérablement amélioré la capacité des machines à comprendre et à traiter des séquences de texte complexes. Cependant, leur déploiement croissant...

Pause ou avancée : l’avenir de la réglementation de l’IA en Europe

Le Conseil européen a maintenu le calendrier de l'Acte sur l'IA malgré les pressions, affirmant qu'il n'y aura pas de pause dans sa mise en œuvre. Le Premier ministre suédois a appelé à un...

Nouvelles restrictions sur l’IA : impacts et opportunités

L'administration Trump prépare de nouvelles restrictions sur les exportations de puces AI vers la Malaisie et la Thaïlande pour empêcher que des processeurs avancés n'atteignent la Chine via des pays...

Gouvernance de l’IA : Garantir l’éthique et la transparence dans les entreprises modernes

La gouvernance de l'IA et la gouvernance des données sont essentielles pour garantir le développement de solutions d'IA éthiques et fiables. Ces cadres de gouvernance sont interconnectés et vitaux...

LLMOps : Optimisez l’IA Responsable à Grande Échelle avec Python

Dans un paysage hyper-compétitif, déployer des modèles de langage de grande taille (LLM) n'est pas suffisant ; il faut un cadre LLMOps robuste pour garantir la fiabilité et la conformité. Python, avec...