Des relations mortelles entre l’IA et les enfants ? Un législateur de l’Utah veut rendre cela illégal
Les titres tragiques n’ont pas tardé à apparaître, relatant des histoires d’intelligence artificielle incitant les jeunes à adopter des illusions, à rompre des mariages ou à commettre des suicides.
Depuis qu’elle a captivé l’imagination du public en 2023, la science-fiction devenue réalité des chatbots IA est devenue un outil utilisé par des millions de personnes — et une cible pour de nouvelles politiques publiques.
En 2023, les législateurs de l’Utah ont attiré l’attention nationale en créant un laboratoire de politique sur l’IA, le premier du genre, pour guider l’innovation tout en élaborant des réformes de protection des consommateurs.
Propositions de lois
Un ancien employé de Google, un représentant ardent de la responsabilité des grandes technologies, soutient que l’Utah doit prendre des mesures urgentes pour garantir que l’IA en rapide évolution privilégie la sécurité des enfants.
Ce représentant a dévoilé un projet de loi qui exigerait des entreprises d’IA qu’elles publient des plans de sécurité pour les enfants et qu’elles empêchent les chatbots d’engager des conversations inappropriées avec des mineurs.
Ce projet de loi établirait une amende civile d’un million de dollars pour une première violation et de trois millions de dollars pour les violations suivantes. Il fournirait également des protections juridiques pour les lanceurs d’alerte qui signalent des préoccupations concernant la sécurité des programmes d’IA.
Préoccupations et oppositions
Les experts en politique de l’IA craignent que ces propositions ne freinent le progrès et ne contredisent les approches précédentes en matière de réglementation de l’IA. Ils soulignent que les entreprises d’IA doivent être encouragées à innover sans être entravées par des règlements excessifs.
Le représentant a rencontré plusieurs parents dont les enfants ont développé des « attachements profonds » aux chatbots, et il a entendu des témoignages d’enfants ayant été conseillés sur le suicide par ces mêmes chatbots.
Implications futures
Le soutien du public est fort pour ces initiatives, avec une majorité d’électeurs exprimant leur souhait que les législateurs donnent la priorité à la sécurité en matière d’IA. Cependant, des experts mettent en garde contre le risque de blâmer l’IA pour des problèmes de santé mentale plus profonds affectant les jeunes.
La législation proposée pourrait également poser des questions concernant la liberté d’expression en contrôlant les informations accessibles aux utilisateurs via les programmes d’IA.
Conclusion
Alors que l’Utah continue d’évoluer en tant que modèle de réglementation de l’IA, la nécessité d’une approche équilibrée est cruciale. Les lois doivent garantir la sécurité des enfants tout en encourageant l’innovation et l’entrepreneuriat dans le domaine de l’intelligence artificielle.
