Les réglementations sur l’IA des États pourraient laisser les DSI avec des systèmes inutilisables
Alors que les États s’empressent de réglementer l’IA, les DSI sont confrontés à la perspective que leurs systèmes deviennent inutilisables ou économiquement impraticables sous de nouvelles lois. Ces lois menacent d’augmenter les coûts de conformité, de réduire le retour sur investissement ou d’immobiliser totalement les investissements.
Des exemples de réglementations émergentes
Par exemple, certains législateurs du Connecticut ont exprimé leur intention d’interdire la reconnaissance faciale dans les magasins de détail après avoir appris que certaines chaînes de supermarchés l’utilisaient pour identifier les voleurs récidivistes. Dans le Nebraska, des législateurs souhaitent interdire les étiquettes de rayon électroniques dans les supermarchés de plus de 10 000 pieds carrés, craignant que les prix dynamiques puissent remplacer des emplois. Des propositions similaires ont été déposées en Oklahoma.
À l’inverse, la législation du Maryland interdirait les prix dynamiques ainsi que l’utilisation de données de surveillance pour fixer des prix individualisés, sans interdire cependant les étiquettes de rayon électroniques elles-mêmes.
Des lois sur l’IA en patchwork mettent les systèmes existants en danger
De nombreux États envisagent des réglementations sur l’IA pour des systèmes utilisés dans des domaines tels que les soins médicaux, les assurances, les ressources humaines et la finance. Certaines propositions exigeraient que les entreprises fournissent aux régulateurs des arbres de décision d’IA, de la documentation sur les données d’entraînement, des résultats d’audit et des notifications aux clients décrivant comment les systèmes d’IA sont utilisés.
Les coûts de conformité liés aux nouvelles lois sur l’IA vont augmenter, ce qui ajoutera des coûts organisationnels et du temps de gestion que les entreprises n’avaient pas anticipés.
Les coûts de la conformité réglementaire à long terme
Le Règlement Général sur la Protection des Données (RGPD) en Europe illustre cette dynamique. Une étude récente a révélé que les entreprises figurant dans le Fortune 500 ont dépensé en moyenne 15,8 millions de dollars chacune pour la conformité initiale au RGPD, avec des coûts de maintenance annuels récurrents atteignant généralement 20 à 30 % de cet investissement initial.
Malgré le risque réglementaire croissant, les entreprises semblent réticentes à ralentir leurs déploiements d’IA. L’IA est déjà profondément intégrée dans le fonctionnement des organisations et est essentielle pour la rapidité et la compétitivité.
Préparer l’avenir face aux lois sur l’IA
La plupart des projets de lois sur l’IA dans les États ne seront pas adoptés, et certains, s’ils deviennent loi, perdront leur efficacité. Par exemple, une loi adoptée à New York exigeait des audits des systèmes de recrutement pilotés par l’IA pour garantir qu’ils soient exempts de biais, mais cette loi a des limitations qui permettent aux employeurs d’éviter la conformité en maintenant une implication humaine nominale dans le processus.
Les lois qui interdisent complètement les systèmes d’IA sont rares. Les législateurs cherchent plutôt à limiter l’utilisation de la technologie plutôt qu’à l’interdire complètement.
Gouvernance et contrats comme contrôles des risques
Cela place un accent particulier sur la gouvernance. Si les DSI établissent des cadres internes solides pour le déploiement de l’IA, cela les aidera à mieux réagir aux changements législatifs et à anticiper de nouvelles exigences. Cependant, les changements réglementaires peuvent laisser les entreprises avec des systèmes techniquement viables mais légalement inutilisables.
Pour gérer ce risque, il est conseillé aux DSI de négocier des clauses de « changement de loi » dans les contrats des fournisseurs, qui prévoient des droits de résiliation si les réglementations rendent l’utilisation continue d’un système impossible ou impraticable.
Conclusion
Au final, les DSI doivent également anticiper la réaction du public et des politiques face à l’IA et aux outils biométriques. Les réglementations sur l’IA évoluent rapidement, et il est crucial pour les DSI de se préparer à des changements potentiels qui pourraient affecter leurs systèmes et opérations.
