New York pourrait bientôt exiger des géants de l’IA la publication de protocoles de sécurité avant de lancer des modèles avancés
New York est sur le point de devenir l’un des premiers États à introduire une législation réglementant les modèles avancés d’IA aux États-Unis. La loi sur la Sécurité et l’Éducation de l’IA Responsable (RAISE), qui a déjà été adoptée par le Sénat de l’État, attend maintenant une décision du gouverneur Kathy Hochul. La loi ne pourra entrer en vigueur qu’après avoir été signée par le gouverneur.
Si elle est adoptée, cette législation obligera les principaux développeurs d’IA tels que OpenAI, Google et Anthropic à mettre en œuvre des mesures de sécurité strictes visant à minimiser les risques posés par les modèles d’IA dits « de pointe ». Ces systèmes puissants ne pourront être rendus publics à New York que si les développeurs publient des protocoles de sécurité et des évaluations des risques. La loi imposera également l’obligation de signaler des incidents graves, tels que le vol de modèle ou des comportements dangereux de l’IA. Les pénalités civiles pour violations pourraient atteindre jusqu’à 30 millions de dollars.
Concentration sur les grands acteurs de l’IA
Le sénateur démocrate Andrew Gounardes, l’un des sponsors du projet de loi, a souligné que la loi cible uniquement les grandes entreprises qui dépensent plus de 100 millions de dollars en formation de modèles. Les startups et les institutions académiques seraient exemptées. L’objectif, selon Gounardes, est de trouver un équilibre entre sécurité et innovation : « La fenêtre pour mettre en place des garde-fous se ferme rapidement », a-t-il déclaré.
Avec l’assemblée membre Alex Bores, Gounardes a conçu le projet de loi pour éviter les écueils des tentatives précédentes – en particulier le projet de loi SB 1047 de Californie, qui a échoué. La loi RAISE ne requiert pas de « kill switches » obligatoires ni de responsabilité pour les modèles qui sont ensuite modifiés.
Résistance de l’industrie technologique
Malgré ces limitations, la proposition a suscité des critiques de la part de la Silicon Valley. Le partenaire d’Andreessen Horowitz, Anjney Midha, a qualifié le projet de loi de « stupide » sur X, mettant en garde contre un éventuel désavantage concurrentiel pour les États-Unis. Jack Clark, co-fondateur d’Anthropic, a également exprimé des inquiétudes quant à l’impact potentiel sur les petites entreprises. Gounardes a rejeté ces arguments, soulignant que le projet de loi est délibérément ciblé uniquement sur les plus grands acteurs.
Des entreprises technologiques majeures telles qu’OpenAI, Google et Meta n’ont jusqu’à présent pas commenté publiquement le projet de loi. Certains critiques mettent en garde contre le fait que les entreprises pourraient choisir de ne pas proposer leurs modèles à New York. Bores considère cela comme peu probable, notant que New York est la troisième plus grande économie des États-Unis et qu’un retrait serait économiquement peu judicieux.
Un éventuel interdiction fédérale en perspective
Il y a quelques semaines, la Chambre des représentants des États-Unis a adopté un paquet législatif qui imposerait une interdiction de dix ans sur les réglementations d’IA au niveau des États. Si le projet de loi dit « Un Grand, Beau » passe également au Sénat, des lois comme la RAISE seraient bloquées à l’avenir. Les partisans du moratoire, y compris des entreprises technologiques majeures et des think tanks favorables au marché libre, soutiennent que des règles fédérales unifiées sont nécessaires. En revanche, les critiques avertissent que cela pourrait supprimer les protections des consommateurs et favoriser les intérêts de l’industrie.
En résumé, New York s’apprête à introduire la loi RAISE, exigeant des développeurs d’IA de publier des protocoles de sécurité et d’effectuer des évaluations des risques avant de lancer des modèles avancés, avec des pénalités pouvant atteindre 30 millions de dollars pour violations. La loi vise uniquement les grandes entreprises et ne nécessite pas de dispositifs de sécurité obligatoires, mais fait face à des critiques concernant son impact potentiel sur l’innovation et un projet de loi fédéral imminent qui pourrait interférer.
