Le New York adopte une loi pour prévenir les désastres alimentés par l’IA
Le corps législatif de l’État de New York a récemment adopté une loi visant à empêcher les modèles d’IA de pointe, développés par des entreprises telles qu’OpenAI, Google, et Anthropic, de contribuer à des scénarios de désastre. Cette législation, connue sous le nom de RAISE Act, est conçue pour protéger les citoyens en cas de décès ou de blessures de plus de 100 personnes, ou de dommages dépassant 1 milliard de dollars.
Un pas en avant pour le mouvement de sécurité de l’IA
Le passage du RAISE Act représente une victoire significative pour le mouvement de sécurité de l’IA, qui a perdu du terrain ces dernières années face à la priorité accordée à la vitesse et à l’innovation par la Silicon Valley et l’administration Trump. Des défenseurs de la sécurité, tels que le lauréat du prix Nobel Geoffrey Hinton et le pionnier de la recherche en IA Yoshua Bengio, ont soutenu cette initiative.
Une fois promulguée, la loi établirait les premiers normes de transparence légalement obligatoires pour les laboratoires d’IA de pointe aux États-Unis.
Comparaison avec la loi AI de Californie
Le RAISE Act partage certaines dispositions et objectifs avec la loi sur la sécurité de l’IA de Californie, le SB 1047, qui a finalement été vetoée. Cependant, le co-sponsor du projet de loi, le sénateur de l’État de New York Andrew Gounardes, a affirmé qu’il avait délibérément conçu le RAISE Act pour ne pas freiner l’innovation parmi les startups ou les chercheurs académiques, une critique courante du SB 1047.
« La fenêtre pour mettre en place des garde-fous se rétrécit rapidement compte tenu de la vitesse d’évolution de cette technologie, » a déclaré le sénateur Gounardes. « Les personnes qui connaissent le mieux [l’IA] affirment que ces risques sont incroyablement probables… C’est alarmant. »
Exigences et sanctions
Le RAISE Act exige que les plus grands laboratoires d’IA au monde publient des rapports de sécurité et de sûreté détaillés sur leurs modèles d’IA de pointe. De plus, il impose aux laboratoires d’IA de signaler les incidents de sécurité, tels que des comportements préoccupants des modèles d’IA ou des acteurs malveillants volant un modèle d’IA, le cas échéant. Si les entreprises technologiques ne respectent pas ces normes, le RAISE Act permet au procureur général de New York d’imposer des sanctions civiles allant jusqu’à 30 millions de dollars.
Impact sur les grandes entreprises
Le RAISE Act vise à réglementer étroitement les plus grandes entreprises, qu’elles soient basées en Californie (comme OpenAI et Google) ou en Chine (comme DeepSeek et Alibaba). Les exigences de transparence s’appliquent aux entreprises dont les modèles d’IA ont été formés en utilisant plus de 100 millions de dollars en ressources informatiques, ce qui semble concerner plus de la plupart des modèles d’IA actuellement disponibles.
Réactions du secteur technologique
Malgré le soutien croissant pour le RAISE Act, la Silicon Valley a réagi négativement à cette initiative. Le député de l’État de New York et co-sponsor de la loi, Alex Bores, a affirmé que la résistance de l’industrie était prévisible, mais a insisté sur le fait que le RAISE Act n’entraverait pas l’innovation des entreprises technologiques.
« Le RAISE Act de New York est un autre projet de loi stupide au niveau de l’État qui nuira aux États-Unis à un moment où nos adversaires prennent de l’avance, » a déclaré Anjney Midha, associé général chez Andreessen Horowitz, dans un post récent.
Perspectives d’avenir
Il est à noter que certaines critiques du RAISE Act suggèrent que les développeurs de modèles d’IA pourraient simplement choisir de ne pas offrir leurs modèles les plus avancés dans l’État de New York. Cependant, Bores a indiqué que le fardeau réglementaire de la loi serait relativement léger, ce qui ne devrait pas empêcher les entreprises technologiques de continuer à opérer dans l’État.
En conclusion, le RAISE Act représente une étape significative vers une réglementation plus stricte de l’IA, avec des implications profondes pour les entreprises technologiques et la sécurité publique.
