“Extrêmement irresponsable” : L’utilisation de l’IA par le DOT pour rédiger des règles de sécurité suscite des inquiétudes
Le Département des Transports des États-Unis envisage d’utiliser l’intelligence artificielle pour rédiger des règles affectant la sécurité des avions, des voitures et des pipelines, selon une enquête révélée récemment.
Les préoccupations des employés
Il pourrait être problématique que le DOT soit la première agence à utiliser l’IA pour rédiger des règles, car l’IA est connue pour produire des erreurs et inventer des informations. Les employés craignent qu’une erreur non détectée de l’IA ne mène à des lois défectueuses, entraînant des poursuites, des blessures, voire des décès dans le système de transport.
Cependant, le principal avocat du DOT n’est pas inquiet, affirmant que le but n’est pas que l’IA soit parfaite, mais d’accélérer le processus de rédaction des règles. Selon lui, l’outil préféré du DOT peut rédiger des règles en moins de 30 minutes.
Les avis des experts
Des experts ont suggéré que le DOT pourrait gagner du temps en utilisant l’IA comme assistant de recherche, sous la supervision et la transparence adéquates. Toutefois, de nombreux employés restent sceptiques quant à la capacité de l’IA à accomplir ce travail complexe, qui nécessite souvent des décennies d’expertise.
Une démonstration de la rédaction de règles par l’IA a montré des documents manquant de textes essentiels, ce qui a préoccupé davantage le personnel.
Les conséquences potentielles
Toute erreur dans les règles pourrait avoir des conséquences graves, touchant pratiquement tous les aspects de la sécurité des transports. Ces règles sont essentielles pour maintenir les avions en vol, prévenir les explosions de pipelines et éviter les déraillements de trains transportant des substances toxiques.
Malgré les préoccupations, le DOT continue d’avancer avec son plan, ayant déjà utilisé l’IA pour rédiger une règle de l’Administration Fédérale de l’Aviation.
Réactions politiques
Des personnalités politiques ont exprimé leur enthousiasme pour cette initiative, espérant voir de nombreuses règles rapidement mises à jour pour moderniser le système de transport.
Le DOT s’attend à ce que l’IA puisse gérer 80 à 90 % du travail de rédaction des réglementations, ce qui pourrait réduire le rôle des employés à une simple supervision des interactions entre IA.
Conclusion
Le recours à l’IA pour la rédaction de règles de sécurité par le DOT soulève des préoccupations quant à la précision et à la fiabilité des informations. Les conséquences d’éventuelles erreurs pourraient être catastrophiques, mettant en lumière le besoin d’approches prudentes dans l’intégration de l’IA dans des domaines critiques comme la sécurité des transports.
