La Loi sur la Transparence de l’IA en Californie (CAITA) pourrait être modifiée pour réglementer les plateformes de médias sociaux
La Californie a récemment adopté la Loi sur la Transparence de l’IA (CAITA), signée par le gouverneur Gavin Newsom le 19 septembre 2024, et qui entrera en vigueur le 1er janvier 2026. Toutefois, un amendement potentiel, le projet de loi AB 853, pourrait avoir des implications considérables.
Contexte de la CAITA
À l’heure actuelle, la CAITA s’applique uniquement à certains fournisseurs de systèmes d’intelligence artificielle générative (GenAI) accessibles au public. La version amendée de la CAITA stipule désormais que les grandes plateformes en ligne et les fabricants de dispositifs de capture doivent également se conformer à certaines exigences de préservation et de divulgation des données.
Le projet de loi AB 853 définit les grandes plateformes en ligne comme des plateformes de médias sociaux ayant au moins deux millions d’utilisateurs mensuels au cours des douze mois précédents. Les dispositifs de capture sont définis comme des appareils capables d’enregistrer des photographies, de l’audio ou du contenu vidéo.
Les exigences de la CAITA actuelle
La version actuelle de la CAITA est essentiellement une loi de notification qui exige des entreprises produisant des sorties GenAI qu’elles incluent des divulgations latentes dans ces sorties. Une divulgation latente est définie comme étant « présente mais non manifeste ». Les entreprises couvertes doivent offrir aux utilisateurs la possibilité d’inclure des divulgations manifestes, qui sont facilement perceptibles et compréhensibles.
La CAITA actuelle s’applique à toute personne ou entreprise qui crée, code ou produit un système GenAI ayant plus d’un million d’utilisateurs mensuels et accessible publiquement en Californie. Les exigences de préservation des données et de divulgation ne changent pas avec l’amendement proposé.
Amendements proposés à la CAITA
Le projet de loi amendé exige que les grandes plateformes en ligne détectent et conservent les données de provenance, semblables à un enregistrement de chaîne de possession pour les données d’entraînement, conformément aux normes de l’industrie. Les fabricants de dispositifs de capture devront, dans la mesure du possible, permettre aux utilisateurs d’inclure des informations de divulgation latente spécifiées dans le contenu qu’ils capturent ou modifient.
Ces exigences sont plus détaillées et donc potentiellement plus lourdes que celles de la loi existante. Cependant, comme la CAITA originale, les amendements imposeraient toujours aux entités couvertes de fournir des outils de détection de l’IA gratuitement aux utilisateurs.
Impact potentiel des exigences de préservation des données de provenance
Contrairement à la version actuelle de la CAITA, l’amendement proposé exigerait des grandes plateformes en ligne qu’elles stockent les données de provenance de manière inspectable par les utilisateurs. Cela pourrait entraîner des coûts opérationnels pour le stockage, la gestion et la sécurité des données.
Les entités réglementées doivent s’assurer que les divulgations latentes dans les sorties générées par l’IA sont préservées de manière identifiable par un outil de détection de l’IA. Il y aura également un coût associé à cette exigence.
Bien que la CAITA exige la conservation de données spécifiques, elle interdit également aux fournisseurs couverts de collecter ou de conserver certaines informations personnelles des utilisateurs.
Conséquences de la CAITA, qu’elle soit amendée ou non
Que le gouverneur Newsom signe ou non le projet de loi AB 853, l’impact le plus significatif de la CAITA résidera dans les pénalités imposées aux entreprises pour avoir supprimé ou échoué à maintenir les données de provenance. Ces pénalités s’élèvent à 5 000 $ par violation et aux frais d’avocat pour le plaignant gagnant.
Ces exigences pourraient contribuer à lutter contre la désinformation, mais pourraient également créer un faux sentiment de sécurité, permettant à des acteurs malveillants d’exploiter la confiance des utilisateurs dans ces outils.
Calendrier de mise en œuvre d’AB 853
| Provisions de CAITA | Date d’entrée en vigueur |
|---|---|
| Dispositions générales | 2 août 2026 |
| Dispositions pour les grandes plateformes en ligne | 1er janvier 2027 |
| Dispositions pour les fabricants de dispositifs de capture | 1er janvier 2028 |
