Mesure de Californie pour Protéger les Enfants Utilisant des Chatbots IA
Un groupe de défense des droits des enfants a collaboré avec une entreprise spécialisée dans l’intelligence artificielle pour promouvoir une initiative visant à créer la mesure de sécurité la plus complète pour les enfants en matière d’intelligence artificielle aux États-Unis.
Objectifs de l’Initiative
Si cette mesure est adoptée lors des élections de novembre, elle exigerait des entreprises qu’elles mettent en place des exigences destinées à protéger les mineurs des effets nocifs potentiels associés à l’utilisation de l’IA. De plus, elle autoriserait le procureur général de l’État à faire respecter ces règles.
Contexte et Justifications
La préoccupation publique concernant la sécurité en ligne des enfants a augmenté ces dernières années, notamment à la suite d’incidents tragiques. L’initiative vise à introduire des technologies d’assurance d’âge pour déterminer si les utilisateurs sont des mineurs et à empêcher les enfants de développer une dépendance émotionnelle envers les systèmes d’IA.
Exigences Principales
La mesure imposerait également des protections pour éviter que les mineurs ne soient exposés à des contenus générés par l’IA promouvant l’automutilation ou des comportements sexuels explicites. De plus, elle interdirait la publicité ciblant les mineurs et la vente de données sur les mineurs sans consentement parental.
Audits de Sécurité et Contrôle des Parents
Les entreprises d’IA seraient tenues de réaliser des audits de sécurité indépendants et d’effectuer des évaluations annuelles des risques pour la sécurité des enfants. Les parents auraient également la possibilité de contrôler l’utilisation de l’IA par leurs enfants et d’être alertés en cas de comportements préoccupants.
Conclusion
La mesure représente une avancée significative dans la protection des enfants à l’ère de l’intelligence artificielle. Les partisans de cette initiative ont jusqu’à une date limite pour recueillir les signatures nécessaires afin de la présenter lors des prochaines élections.
