Common Sense Media et OpenAI plaident pour une loi sur l’IA sécurisée pour protéger les jeunes dans les espaces numériques
Dans un mouvement significatif pour renforcer la sécurité en ligne des jeunes, un groupe de défense des droits des enfants et un pionnier de l’IA ont uni leurs forces pour soutenir un projet de loi visant à protéger les enfants dans les environnements électroniques. Ce projet législatif vise à réguler les chatbots d’IA et à établir des protections strictes pour les enfants.
Urgence de la législation
Le directeur général d’un groupe de défense a souligné l’urgence de ce projet, affirmant qu’il est crucial d’éviter les erreurs passées faites avec les réseaux sociaux où les enfants ont été utilisés comme sujets d’expérimentation.
Aspects clés du projet de loi
Le projet de loi propose d’exiger l’utilisation de technologies d’assurance d’âge dans les systèmes d’IA, afin d’empêcher les entreprises de manipuler émotionnellement les enfants ou d’encourager des relations romantiques simulées. Il prévoit également des audits de sécurité indépendants et la responsabilité des entreprises par le biais d’enquêtes potentielles menées par les autorités compétentes.
Préoccupations concernant les interactions avec l’IA
Ce projet de loi vise à prévenir les systèmes d’IA de suggérer l’isolement des amis ou de la famille, ainsi que d’interagir avec des mineurs de manière inappropriée. Avec près de trois quarts des adolescents ayant interagi avec des chatbots d’accompagnement, ce mouvement souligne un engagement significatif à protéger les jeunes dans le domaine numérique.
Actions proposées et implications
Au-delà de la simple défense, le groupe de défense est déterminé à s’assurer que des actions soient prises, que ce soit par une législation rapide ou un soutien des électeurs. Ce partenariat marque un changement notable par rapport aux approches habituelles de l’industrie technologique en matière d’autorégulation.
Conclusion
Le sénateur d’État a considéré cette nouvelle mesure comme une avancée significative, tout en suggérant que la question serait mieux servie par une action législative plutôt que par une implication directe des électeurs. La réussite de cette initiative nécessitera plus de 870 000 signatures pour atteindre le bulletin de vote, et son avenir reste à déterminer.
