New York est sur le point d’introduire l’un des premiers lois réglementant les modèles d’IA avancés aux États-Unis. La loi RAISE (Responsible AI Safety and Education) exigerait des développeurs d’IA, tels qu’OpenAI et Google, qu’ils publient des protocoles de sécurité avant de rendre leurs modèles disponibles au public.
Les agents gardiens émergent comme des outils essentiels pour surveiller et gérer le comportement des IA autonomes. Gartner prédit une adoption croissante de ces agents dans les environnements d’entreprise, soulignant la nécessité d’une gouvernance solide pour atténuer les risques associés.
Le Sénat de l’État de New York a adopté un projet de loi révolutionnaire sur la sécurité de l’IA, dirigé par le sénateur Andrew Gounardes. Le projet de loi, connu sous le nom de RAISE Act, vise à imposer des garanties essentielles sur le développement et le déploiement des technologies d’IA.
L’État de New York a adopté la loi RAISE, qui vise à réglementer la sécurité des systèmes d’IA avancés. Cette législation impose des normes de transparence et de rapport aux développeurs majeurs d’IA pour éviter des risques catastrophiques.
L’objectif de la loi RAISE de l’État de New York, qui vise à protéger les personnes contre les dangers de l’IA, est louable. Cependant, en supposant que les modèles d’IA sont le principal point de levier pour garantir la sécurité, la loi risque de transformer un défi technique en un fardeau bureaucratique.
Une nouvelle étude révèle qu’un faible pourcentage d’organisations, soit seulement 6 %, dispose d’une stratégie de sécurité avancée en matière d’IA. Cela met en évidence une préparation insuffisante face aux menaces liées à l’adoption rapide des technologies d’IA.
L’IA agentique, qui fonctionne avec un haut degré d’autonomie, présente des risques de sécurité croissants en raison de son interaction sans supervision humaine. Les organisations doivent renforcer leurs contrôles de sécurité pour suivre le rythme de l’innovation en matière d’IA.
La loi sur l’intelligence artificielle du Colorado, qui a été adoptée en 2024, vise à établir des obligations de conformité pour les systèmes d’IA à haut risque. Cependant, l’échec de l’adoption du projet de loi SB318 laisse de nombreuses incertitudes pour les employeurs en matière de conformité.
Récemment, j’ai eu un débat engageant avec mon équipe sur les niveaux de sécurité de l’intelligence artificielle (ASL). Chaque ASL marque un niveau différent de capacité et de risque de l’IA, allant de l’ASL-1, où des modèles plus petits avec un risque minimal existent, à l’ASL-4, où les choses deviennent spéculatives.
L’impact de l’intelligence artificielle (IA) transcende les frontières nationales, rendant la gouvernance partagée essentielle pour gérer ses risques et opportunités. Cette approche privilégie l’inclusivité, la transparence et la responsabilité, garantissant qu’aucune entité unique ne domine la gouvernance de l’IA.