Rapport du Groupe de Travail sur l’IA de Californie concernant la Réglementation des Modèles de Fondations
Le 18 mars, le Groupe de Travail sur les Modèles de Fondations de Californie a publié son rapport préliminaire sur la réglementation des modèles de fondations, visant à fournir une « base fondée sur des preuves pour les décisions politiques liées à l’IA » en Californie. L’objectif est de garantir que ces technologies puissantes bénéficient à la société tout en gérant raisonnablement les risques émergents.
Ce groupe a été établi par le gouverneur Gavin Newsom en septembre 2024, suite à son veto de la loi proposée par le sénateur Scott Wiener sur la sécurité des modèles d’IA. Le rapport s’appuie sur la collaboration de Californie avec l’Université de Stanford et l’Université de Californie, Berkeley, mise en place par un décret exécutif sur l’IA générative en 2023.
Éléments Clés de la Réglementation des Modèles de Fondations
Le rapport souligne plusieurs exigences essentielles pour la réglementation des modèles de fondations :
Exigences de Transparence
Le rapport identifie les exigences de transparence comme « une fondation nécessaire » pour la réglementation de l’IA. Il recommande que les décideurs politiques priorisent la transparence publique pour favoriser la responsabilité. Cinq catégories d’informations doivent être fournies :
- Acquisition des données d’entraînement
- Pratiques de sécurité des développeurs
- Tests pré-déploiement effectués par les développeurs et des tiers
- Impacts en aval des modèles
Évaluations des Risques par des Tiers
Le rapport souligne que la transparence seule est souvent insuffisante et nécessite des mécanismes de vérification supplémentaires. Les évaluations des risques par des tiers sont donc jugées « essentielles » pour inciter les développeurs à améliorer la sécurité de leurs modèles.
Protections des Lanceurs d’Alerte
Le besoin de protections pour les lanceurs d’alerte travaillant avec des développeurs de modèles de fondations est également abordé. Les politiques publiques devraient envisager des protections couvrant une large gamme d’activités liées à l’IA, même si celles-ci ne violent pas de lois existantes.
Exigences de Signalement des Événements Négatifs
Le rapport identifie le signalement des événements négatifs comme une étape cruciale pour évaluer les coûts et les bénéfices de la réglementation de l’IA. Les systèmes de signalement recommandés doivent :
- Fournir des rapports aux agences disposant de l’autorité requise pour traiter les dommages identifiés.
- Utiliser des critères de signalement définis de manière précise qui peuvent être révisés au fil du temps.
Seuils de Réglementation des Modèles de Fondations
Le rapport aborde également les différentes options pour définir des seuils déclencheurs pour les exigences des modèles de fondations, y compris des seuils basés sur le niveau des développeurs et les coûts associés à l’entraînement des modèles.
Parmi les seuils, les « seuils de calcul » sont considérés comme les plus attractifs, en tenant compte des opérations par seconde (FLOPS) nécessaires pour l’entraînement des modèles.
Processus de Commentaires Publics
Le Groupe de Travail invite le public à fournir des retours sur le rapport jusqu’au 8 avril 2025. La version finale du rapport devrait être publiée en juin 2025, avant l’ajournement de l’assemblée législative de Californie en septembre.
Ce rapport et le processus de commentaires publics informeront les législateurs alors qu’ils envisagent des lois sur l’IA lors de la session législative de 2025.
