Le DOT utilisera l’intelligence artificielle pour rédiger des réglementations de sécurité, ce qui inquiète certaines personnes
Bientôt, les réglementations de sécurité qui maintiennent les avions dans les airs, protègent les passagers de voitures et empêchent les pipelines de gaz d’exploser pourraient être rédigées par une intelligence artificielle. Cela préoccupe certains membres du Département des Transports, en particulier en raison de l’accent mis sur la quantité plutôt que sur la qualité, avec l’objectif de produire du « suffisamment bon ».
L’impact de l’intelligence artificielle
Le terme « intelligence artificielle » fait souvent référence à des modèles de langage de grande taille, qui ne sont pas réellement intelligents. Ils excellent dans la prédiction des mots ou des pixels appropriés, mais manquent de compréhension du sens des mots qu’ils produisent. Les hallucinations d’IA sont courantes, et bien que les phrases générées semblent logiques, elles peuvent être incorrectes.
Préoccupations au sein du département
Ces préoccupations expliquent pourquoi certains au sein du Département des Transports s’inquiètent de l’idée d’utiliser des chatbots d’IA pour rédiger des réglementations de sécurité. Les employés craignent que des erreurs d’IA puissent conduire à des réglementations défectueuses, avec des conséquences graves, allant de litiges à des blessures voire des décès dans le système de transport.
Lors d’une démonstration des capacités de rédaction de règles de l’IA, un document manquait de texte essentiel, nécessitant une intervention humaine pour le compléter. Cependant, le conseiller juridique du département ne semble pas préoccupé par ces lacunes, affirmant qu’il préfère une rédaction rapide plutôt qu’une élaboration exhaustive.
Implications et risques
Les règles touchent tous les aspects de la sécurité dans le transport, et le concept de « suffisamment bon » pourrait avoir des conséquences désastreuses. Cette approche a été qualifiée de « follement irresponsable » par certains employés. Parmi les règles envisagées figure une règle de l’Administration fédérale de l’aviation qui n’a pas encore été publiée.
Bien que l’adoption rapide de l’IA par les agences fédérales ait été encouragée, la rédaction de lois et de réglementations n’a pas été spécifiquement mentionnée. Néanmoins, le Département des Transports aspire à être à la pointe de cette initiative, en souhaitant être la première agence pleinement habilitée à utiliser l’IA pour rédiger des règles.
Conclusion
L’utilisation de l’intelligence artificielle pour la rédaction de réglementations de sécurité soulève des questions cruciales concernant la qualité et la responsabilité. Alors que la technologie continue d’évoluer, il est essentiel de garantir que les normes de sécurité ne soient pas compromises au nom de l’efficacité.
