Les législateurs de Washington poussent pour des règles de sécurité sur l’IA
Les législateurs de Washington font de l’intelligence artificielle (IA) une priorité absolue cette année. Ils examinent plusieurs nouvelles façons de contrôler l’impact de l’IA sur la vie des gens, en se concentrant sur la protection des enfants et des adolescents contre les dangers potentiels des chatbots.
Nouvelles règles de sécurité pour les compagnons IA
Les dirigeants de l’État ont entendu des rapports troublants selon lesquels des chatbots discutaient avec des jeunes de sujets tels que le suicide et la consommation de drogues. Pour y remédier, un nouveau projet de loi est proposé pour obliger les chatbots compagnons à suivre des règles de sécurité strictes.
Ces règles exigeraient que les programmes d’IA détectent les signes d’automutilation et fournissent immédiatement aux utilisateurs des informations de contact pour des lignes d’assistance en cas de crise. De plus, la proposition vise à interdire aux chatbots d’utiliser des astuces manipulatrices conçues pour maintenir les enfants émotionnellement attachés ou de s’engager dans des conversations à caractère sexuel avec des mineurs.
Tenir les entreprises technologiques responsables
Ces efforts locaux font suite à plusieurs cas tragiques à travers le pays où des familles ont poursuivi des entreprises technologiques, affirmant que des chatbots avaient encouragé leurs enfants à se faire du mal.
Bien que certaines entreprises affirment qu’elles mettent à jour leur technologie pour mieux gérer les crises de santé mentale, et que d’autres ont commencé à bloquer les mineurs, les législateurs de Washington estiment que l’industrie a besoin de plus de surveillance juridique.
Une proposition spécifique créerait même une responsabilité civile, permettant aux familles de poursuivre des entreprises d’IA si un chatbot est lié au suicide d’une personne.
