“Irresponsable en extremo”: el uso de IA por parte del DOT para redactar normas de seguridad genera preocupaciones
El Departamento de Transporte de EE. UU. parece considerar una buena idea utilizar la inteligencia artificial para redactar normas que impactan la seguridad de aviones, automóviles y oleoductos, según una investigación reciente.
Podría ser problemático si el DOT se convierte en la primera agencia en usar IA para redactar normas, ya que se sabe que la IA comete errores y puede generar información falsa. Funcionarios temen que cualquier fallo en detectar errores de la IA podría resultar en leyes defectuosas, lo que llevaría a demandas, lesiones o incluso muertes en el sistema de transporte.
Preocupaciones sobre la IA en la normativa
A pesar de que el abogado principal del DOT no está preocupado por esos riesgos, ya que el objetivo no es que la IA sea perfecta, sino acelerar el proceso de creación de normas, este mismo abogado afirmó que la herramienta preferida del DOT puede redactar normas en menos de 30 minutos, lo que contrasta con el tiempo habitual que toma redactarlas.
Funcionarios del DOT son “profundamente escépticos” sobre la capacidad de la IA para cumplir con esta tarea. Resaltan que la creación de normas es un trabajo complejo que requiere décadas de experiencia y un profundo entendimiento de las leyes y regulaciones existentes.
Además, el uso de IA se produce tras un año en el que errores generados por IA han causado complicaciones en los tribunales, llevando a sanciones a abogados y a jueces que han admitido haber sido engañados por información fabricada.
Riesgos potenciales de errores
Cualquier error en las normas podría tener consecuencias serias, afectando casi todos los aspectos de la seguridad del transporte. Las normas son esenciales para mantener aviones en el aire, prevenir explosiones de oleoductos y asegurar que trenes de carga con sustancias tóxicas no descarrilen.
A pesar de las preocupaciones, el DOT parece avanzar con el plan. Ya se ha utilizado la IA para redactar una norma aún no publicada de la Administración Federal de Aviación.
Reacciones políticas y futuras implicaciones
Un expresidente ha mostrado un gran interés en la rápida adopción de IA por parte de agencias federales, y parece ver al DOT como un modelo a seguir para otras agencias. Se espera que esta iniciativa permita actualizar rápidamente muchas normas para modernizar los sistemas de transporte.
En este momento, el DOT confía en que la IA puede manejar entre el 80 y el 90 por ciento del trabajo de redacción de regulaciones, lo que podría llevar a que los trabajadores federales que dependen de herramientas de IA asuman roles meramente de supervisión.
La empresa detrás de la IA no ha comentado sobre este uso específico, pero ha promocionado su herramienta como una solución para problemas críticos en el trabajo gubernamental. Esta adopción por parte del DOT marca un paso significativo en la transformación digital del gobierno y podría establecer un precedente para el uso de IA en otras agencias.
