Mesure de sécurité AI à l’échelle de l’État pour les jeunes en Californie
Une nouvelle mesure de vote proposée à l’échelle de l’État en Californie vise à renforcer les protections pour les enfants et les adolescents utilisant l’IA. Les créateurs de cette mesure espèrent qu’elle réussira là où des législations similaires ont échoué l’année dernière.
Cette mesure, introduite lors d’une conférence de presse virtuelle, impose des exigences en matière de vérification d’âge, de protection des données, de contrôle parental et d’audits de sécurité indépendants pour les produits d’IA utilisés par les mineurs. Elle n’a pas encore été présentée comme un projet de loi à l’Assemblée législative de l’État.
Contexte de la législation précédente
Une mesure de protection de l’IA pour les jeunes, connue sous le nom de projet de loi AB 1064, a été parrainée l’année dernière. Bien qu’elle ait été adoptée par l’Assemblée législative, le gouverneur a refusé de la signer, invoquant des préoccupations selon lesquelles celle-ci pourrait interdire l’utilisation de chatbots par les mineurs au lieu de leur permettre d’apprendre à interagir en toute sécurité avec les systèmes d’IA.
Nouvelles exigences de la proposition
Les exigences de la nouvelle proposition imposent de nouvelles normes sur les systèmes d’IA utilisés par les mineurs, notamment des outils de tutorat, d’assistance à l’écriture et de soutien en classe. Au centre de cette proposition se trouve la vérification de l’âge, où les entreprises d’IA devront déterminer si un utilisateur a moins de 18 ans et appliquer des protections pour les enfants lorsque l’âge ne peut être confirmé avec certitude.
La proposition interdirait également la publicité ciblée sur les enfants et limiterait la vente des données des mineurs sans le consentement des parents, élargissant ainsi les protections à tous les utilisateurs de moins de 18 ans.
Implications pour la sécurité des enfants
La proposition inclut des exigences de sécurité pour le bien-être des étudiants, interdisant la génération ou la promotion de contenu lié à l’automutilation, aux troubles alimentaires, à la violence et aux actes sexuellement explicites. De plus, elle vise à éviter de manipuler les enfants en créant une dépendance émotionnelle ou en simulant des relations romantiques.
Les entreprises d’IA devront fournir des contrôles parentaux faciles à utiliser, permettant aux parents de surveiller et de limiter l’utilisation de l’IA, ainsi que de recevoir des alertes en cas de signes d’automutilation.
Conclusion
Les orateurs ont exprimé leur intention de poursuivre une stratégie à double voie : agir pour un changement législatif tout en conservant la possibilité d’une initiative de vote si nécessaire. Cette nouvelle mesure vise à établir un cadre réglementaire pour évaluer les outils d’IA, équilibrant la sécurité des étudiants et l’utilisation de l’IA dans les salles de classe à l’échelle de l’État.
