Washington cherche à protéger les enfants des risques liés aux chatbots IA
La régulation de l’intelligence artificielle — en particulier son impact sur les enfants et les adolescents — est devenue une question clé alors que la législature de l’État commence sa nouvelle session.
Pourquoi cela est important
Alors que l’utilisation de l’IA s’étend rapidement, certains législateurs estiment que les entreprises technologiques n’ont pas mis en place des protections adéquates pour protéger les personnes, en particulier les mineurs, qui pourraient être plus facilement influencés par de longues conversations avec des chatbots.
Ce que disent les responsables
Des histoires inquiétantes circulent concernant des chatbots engageant des jeunes sur des sujets tels que le suicide, l’utilisation de drogues et les abus. Les propositions visant à réguler les chatbots dans cet État sont prises très au sérieux.
Les propositions en cours
Un des projets de loi que les législateurs examinent établirait des normes pour la manière dont les « chatbots compagnons » interagissent avec les utilisateurs. Parmi les exigences, ces chatbots devraient orienter les utilisateurs exprimant des pensées suicidaires vers une ligne d’assistance téléphonique ou un service de crise. Des protections supplémentaires pour les mineurs incluraient des limitations sur les interactions à caractère sexuel et une interdiction des techniques d’engagement manipulateur.
Contexte et préoccupations
Cette initiative fait suite à des poursuites intentées par des familles à travers le pays contre des entreprises de chatbots, affirmant que ces derniers ont contribué au suicide de leurs proches. Dans plusieurs cas, les familles allèguent que les chatbots ont renforcé des pensées suicidaires chez leurs enfants au lieu de les orienter vers une aide extérieure.
Réactions de l’industrie
Les entreprises de chatbots, comme OpenAI, affirment qu’elles mettent à jour leurs modèles pour mieux reconnaître et répondre aux signes de détresse émotionnelle. D’autres propositions visent à limiter l’utilisation de l’IA dans les écoles pour la discipline ou la surveillance, tout en accordant aux gens un meilleur contrôle sur l’utilisation de leur « image digitale falsifiée ».
Conclusion
Les régulations proposées à Washington montrent un intérêt croissant pour la protection des mineurs dans le contexte des technologies émergentes. L’avenir de ces propositions reste à suivre, alors que la législation continue d’évoluer face aux défis posés par l’IA.
