Propositions de réglementation des chatbots IA par un comité législatif
Un comité législatif a entendu des propositions visant à exiger que les chatbots IA divulguent qu’ils ne sont pas humains, ainsi qu’à demander aux entreprises de communiquer leurs plans de sécurité pour les réglementer. De plus, un exemple de compromis a été observé entre deux sénateurs souvent en désaccord.
Exigences pour les chatbots IA
Un sénateur a proposé une législation qui obligerait les fournisseurs d’intelligence artificielle conversationnelle à informer les utilisateurs de moins de 18 ans qu’ils ne sont pas humains. Ces divulgations devraient être faites au début de chaque session et au moins toutes les trois heures par la suite. Les fournisseurs seraient également tenus d’éviter de fournir du contenu sexuel ou de simuler des relations romantiques. En cas de discussions sur l’automutilation ou le suicide, les fournisseurs devraient faire des « efforts raisonnables » pour orienter les utilisateurs vers des lignes d’assistance téléphonique appropriées.
Le soutien à ce projet de loi est venu de divers intervenants, dont des psychologues, qui ont souligné les défis uniques que la société moderne doit relever en raison de l’essor des IA et des chatbots.
Protection de la sécurité publique
Un autre projet de loi a été présenté, visant à exiger des développeurs de chatbots de grande taille qu’ils prennent des mesures pour protéger la sécurité publique et les enfants, et qu’ils divulguent comment ils évaluent et gèrent ces risques. Ce projet est en réponse à des incidents tragiques, tels que le suicide d’un adolescent conseillé par un chatbot IA de ne pas chercher de l’aide.
La sénatrice, principale sponsor de cette législation, a précisé que le projet de loi ne dicte pas aux entreprises d’IA comment construire leurs technologies, mais exige plutôt qu’elles communiquent leurs plans de sécurité et rapportent tout incident de sécurité à l’autorité compétente.
Réactions et implications
Bien qu’aucun intervenant ne se soit opposé aux projets de loi lors de l’audience, des préoccupations ont été exprimées en ligne concernant la portée potentiellement trop large de la réglementation proposée. Certaines organisations ont averti que cela pourrait entrer en conflit avec les efforts fédéraux en matière de réglementation.
En parallèle, un exemple de compromis a été observé au sein du comité législatif sur un projet de loi visant à supprimer l’exigence pour les entreprises d’avoir des comités de sécurité. Cela montre comment des conversations constructives peuvent mener à des solutions convenables pour tous.
Conclusion
Les propositions de réglementation des chatbots IA soulignent l’importance croissante de la sécurité dans le domaine de l’intelligence artificielle. Elles visent à créer un cadre qui protège les utilisateurs tout en permettant l’innovation. La législation doit trouver un équilibre entre la protection des individus et la promotion du développement technologique.
