New York impose des règles strictes pour la sécurité des IA avancées

A lock and key

New York pourrait bientôt exiger des géants de l’IA la publication de protocoles de sécurité avant de lancer des modèles avancés

New York est sur le point de devenir l’un des premiers États à introduire une législation réglementant les modèles avancés d’IA aux États-Unis. La loi sur la Sécurité et l’Éducation de l’IA Responsable (RAISE), qui a déjà été adoptée par le Sénat de l’État, attend maintenant une décision du gouverneur Kathy Hochul. La loi ne pourra entrer en vigueur qu’après avoir été signée par le gouverneur.

Si elle est adoptée, cette législation obligera les principaux développeurs d’IA tels que OpenAI, Google et Anthropic à mettre en œuvre des mesures de sécurité strictes visant à minimiser les risques posés par les modèles d’IA dits « de pointe ». Ces systèmes puissants ne pourront être rendus publics à New York que si les développeurs publient des protocoles de sécurité et des évaluations des risques. La loi imposera également l’obligation de signaler des incidents graves, tels que le vol de modèle ou des comportements dangereux de l’IA. Les pénalités civiles pour violations pourraient atteindre jusqu’à 30 millions de dollars.

Concentration sur les grands acteurs de l’IA

Le sénateur démocrate Andrew Gounardes, l’un des sponsors du projet de loi, a souligné que la loi cible uniquement les grandes entreprises qui dépensent plus de 100 millions de dollars en formation de modèles. Les startups et les institutions académiques seraient exemptées. L’objectif, selon Gounardes, est de trouver un équilibre entre sécurité et innovation : « La fenêtre pour mettre en place des garde-fous se ferme rapidement », a-t-il déclaré.

Avec l’assemblée membre Alex Bores, Gounardes a conçu le projet de loi pour éviter les écueils des tentatives précédentes – en particulier le projet de loi SB 1047 de Californie, qui a échoué. La loi RAISE ne requiert pas de « kill switches » obligatoires ni de responsabilité pour les modèles qui sont ensuite modifiés.

Résistance de l’industrie technologique

Malgré ces limitations, la proposition a suscité des critiques de la part de la Silicon Valley. Le partenaire d’Andreessen Horowitz, Anjney Midha, a qualifié le projet de loi de « stupide » sur X, mettant en garde contre un éventuel désavantage concurrentiel pour les États-Unis. Jack Clark, co-fondateur d’Anthropic, a également exprimé des inquiétudes quant à l’impact potentiel sur les petites entreprises. Gounardes a rejeté ces arguments, soulignant que le projet de loi est délibérément ciblé uniquement sur les plus grands acteurs.

Des entreprises technologiques majeures telles qu’OpenAI, Google et Meta n’ont jusqu’à présent pas commenté publiquement le projet de loi. Certains critiques mettent en garde contre le fait que les entreprises pourraient choisir de ne pas proposer leurs modèles à New York. Bores considère cela comme peu probable, notant que New York est la troisième plus grande économie des États-Unis et qu’un retrait serait économiquement peu judicieux.

Un éventuel interdiction fédérale en perspective

Il y a quelques semaines, la Chambre des représentants des États-Unis a adopté un paquet législatif qui imposerait une interdiction de dix ans sur les réglementations d’IA au niveau des États. Si le projet de loi dit « Un Grand, Beau » passe également au Sénat, des lois comme la RAISE seraient bloquées à l’avenir. Les partisans du moratoire, y compris des entreprises technologiques majeures et des think tanks favorables au marché libre, soutiennent que des règles fédérales unifiées sont nécessaires. En revanche, les critiques avertissent que cela pourrait supprimer les protections des consommateurs et favoriser les intérêts de l’industrie.

En résumé, New York s’apprête à introduire la loi RAISE, exigeant des développeurs d’IA de publier des protocoles de sécurité et d’effectuer des évaluations des risques avant de lancer des modèles avancés, avec des pénalités pouvant atteindre 30 millions de dollars pour violations. La loi vise uniquement les grandes entreprises et ne nécessite pas de dispositifs de sécurité obligatoires, mais fait face à des critiques concernant son impact potentiel sur l’innovation et un projet de loi fédéral imminent qui pourrait interférer.

Articles

Renforcer la sécurité des LLM : l’alignement responsable de l’IA

Ce document traite de l'alignement responsable de l'IA dans le développement de phi-3, mettant l'accent sur les principes de sécurité adoptés par Microsoft. Des méthodes de test et des ensembles de...

Contrôle des données dans l’ère des clouds IA souverains

Les nuages d'IA souverains offrent à la fois contrôle et conformité, répondant aux préoccupations croissantes concernant la résidence des données et le risque réglementaire. Dans un environnement où...

L’Alliance Écossaise de l’IA : Vers une Intelligence Artificielle Éthique

L'Alliance écossaise de l'IA a publié son rapport d'impact 2024/2025, révélant une année de progrès significatifs dans la promotion d'une intelligence artificielle éthique et inclusive en Écosse. Le...

UE AI Act : Préparez-vous au changement inévitable

L'annonce de la Commission européenne vendredi dernier selon laquelle il n'y aura pas de retard concernant la loi sur l'IA de l'UE a suscité des réactions passionnées des deux côtés. Il est temps de...

Fiabilité des modèles linguistiques : un défi à relever avec la loi sur l’IA de l’UE

Les modèles de langage de grande taille (LLM) ont considérablement amélioré la capacité des machines à comprendre et à traiter des séquences de texte complexes. Cependant, leur déploiement croissant...

Pause ou avancée : l’avenir de la réglementation de l’IA en Europe

Le Conseil européen a maintenu le calendrier de l'Acte sur l'IA malgré les pressions, affirmant qu'il n'y aura pas de pause dans sa mise en œuvre. Le Premier ministre suédois a appelé à un...

Nouvelles restrictions sur l’IA : impacts et opportunités

L'administration Trump prépare de nouvelles restrictions sur les exportations de puces AI vers la Malaisie et la Thaïlande pour empêcher que des processeurs avancés n'atteignent la Chine via des pays...

Gouvernance de l’IA : Garantir l’éthique et la transparence dans les entreprises modernes

La gouvernance de l'IA et la gouvernance des données sont essentielles pour garantir le développement de solutions d'IA éthiques et fiables. Ces cadres de gouvernance sont interconnectés et vitaux...

LLMOps : Optimisez l’IA Responsable à Grande Échelle avec Python

Dans un paysage hyper-compétitif, déployer des modèles de langage de grande taille (LLM) n'est pas suffisant ; il faut un cadre LLMOps robuste pour garantir la fiabilité et la conformité. Python, avec...