Les législateurs de New York examinent de nouvelles réglementations sur l’IA pour les décisions à « haut risque »
Alors que l’intelligence artificielle (IA) est de plus en plus utilisée dans les secteurs public et privé pour prendre des décisions importantes, les législateurs de l’État de New York cherchent à établir de nouvelles règles pour ces outils. Ce sujet a été abordé lors d’une audition tenue par la législature de l’État.
Préoccupations concernant l’utilisation de l’IA
Au cours des dernières années, des rapports ont fait état de l’utilisation de ces outils dans des contextes à haut risque. Lorsque ces outils ne fonctionnent pas comme prévu, des dommages réels peuvent survenir. L’un de ces dommages est la possibilité que ces outils soient programmés de manière à entraîner une discrimination involontaire dans des domaines tels que l’emploi, le logement et les soins de santé.
Dans le secteur du travail, l’IA est déjà utilisée pour surveiller et donner des retours sur le flux d’appels et le ton dans les centres d’appels, ainsi que pour recruter et embaucher. Des outils d’IA et de GPS sont utilisés pour suivre les performances des techniciens, et dans les hôpitaux, ces outils aident à poser des diagnostics.
Proposition de loi sur l’IA à New York
Pour adresser ces préoccupations, un projet de loi, connu sous le nom de New York AI Act, a été proposé. Ce projet de loi exigerait que les développeurs d’outils d’IA et les entités qui souhaitent les utiliser pour prendre des décisions importantes prennent des mesures raisonnables pour prévenir la discrimination algorithmique dans ces décisions. Cela impliquerait des audits réguliers par des entités indépendantes pour évaluer le risque de discrimination et la conformité avec les réglementations de l’État.
Le projet de loi obligerait également les entreprises à notifier les utilisateurs lorsque des outils de décision automatisés sont utilisés, leur permettant ainsi de choisir d’opter pour une intervention humaine à la place.
Réactions de l’industrie technologique
Des représentants de l’industrie technologique se sont opposés à cette législation, affirmant qu’elle créerait une charge réglementaire, freinerait l’innovation et empêcherait les petites entreprises et les organisations à but non lucratif d’utiliser ces outils en raison des coûts associés. Ils ont suggéré que des lois anti-discrimination existantes pourraient déjà aborder ces problèmes.
D’autres projets de loi en discussion incluent le BOT Act, qui régulerait la manière dont les employeurs surveillent les travailleurs utilisant l’IA, et le Fair News Act, qui établirait des règles sur l’utilisation de l’IA dans les organisations médiatiques.
Conclusion
Les législateurs de New York auront jusqu’à début juin pour examiner ces mesures, alors que la nécessité de réglementations claires sur l’utilisation de l’IA dans des contextes sensibles devient de plus en plus pressante.
