“Irresponsável de forma selvagem”: Uso de IA pelo DOT para elaborar regras de segurança gera preocupações
O Departamento de Transporte dos Estados Unidos acredita que é uma boa ideia usar inteligência artificial para redigir regras que impactam a segurança de aviões, carros e oleodutos. Uma investigação revelou que isso pode ser problemático, pois a IA é conhecida por cometer erros e gerar informações fabricadas. Funcionários temem que falhas em detectar erros da IA possam resultar em leis defeituosas, levando a processos judiciais, ferimentos ou até mortes no sistema de transporte.
Preocupações com a precisão da IA
O principal advogado do DOT não está preocupado, pois o objetivo não é que a IA seja perfeita, mas sim acelerar o processo de criação de regras. Segundo ele, a ferramenta preferida do DOT pode redigir regras em menos de 30 minutos e é vista como uma solução para regras que normalmente levariam semanas ou meses para serem elaboradas.
Funcionários expressaram ceticismo profundo quanto à capacidade da IA, enfatizando que elaborar regras é um trabalho complexo que requer décadas de experiência. Uma demonstração da IA resultou em um documento com texto essencial faltando, que precisou ser completado posteriormente por um funcionário.
Implicações e riscos
Qualquer erro nas regras pode ter consequências graves, afetando praticamente todos os aspectos da segurança no transporte. Essas regras são fundamentais para manter a segurança de aviões, prevenir explosões em oleodutos e evitar descarrilamentos de trens com produtos químicos tóxicos.
Funcionários do DOT já usaram IA para redigir uma regra da Administração Federal de Aviação que ainda não foi publicada. Apesar das preocupações, o departamento segue avançando rapidamente com o plano.
Reação do governo e do setor de tecnologia
Um ex-presidente expressou entusiasmo pela iniciativa do DOT, sugerindo que a agência poderia ser um modelo para outras. O DOT espera que a IA possa lidar com 80 a 90% do trabalho de redação de regulamentos, com os trabalhadores federais assumindo apenas um papel de supervisão no futuro.
A empresa de tecnologia responsável pela IA não comentou sobre esse uso específico, mas promoveu a ferramenta como uma solução para problemas críticos enfrentados pelos trabalhadores federais.
Conclusão
A utilização de inteligência artificial para elaborar regras de segurança pelo DOT levanta sérias preocupações sobre precisão e responsabilidade. Enquanto a tecnologia promete acelerar o processo, os riscos associados a erros da IA são significativos e precisam ser cuidadosamente considerados.
