Uso de IA no Departamento de Transporte: Riscos e Desafios

Departamento de Transporte Pode Usar IA Para Criar Regras em Minutos, e Alguns Consideram Isso Assustador

O Departamento de Transporte planeja utilizar a IA para redigir regras.

O Google Gemini poderia elaborar regulamentos em apenas alguns minutos.

As regras elaboradas por humanos levam meses ou anos, levantando preocupações de segurança.

A inteligência artificial está longe de ser perfeita, portanto, os alarmes começaram a soar assim que surgiram relatos de que a administração anterior estava planejando usar IA para redigir regulamentos federais. Essa preocupação parece ser justificada, já que um advogado do governo supostamente argumentou que não precisam de regras perfeitas, apenas de regras que sejam “suficientemente boas”.

Um relatório indicou que o Departamento de Transporte está buscando usar a inteligência artificial para “revolucionar a forma como elaboramos as regulamentações”. O uso da tecnologia foi promovido como um grande benefício, permitindo aos funcionários do governo desempenharem suas funções de forma mais eficiente.

Preocupações sobre Qualidade

Embora a inteligência artificial possa fazer muitas coisas, um advogado do DOT parecia se preocupar mais com a quantidade do que com a qualidade. Segundo o relatório, ele afirmou: “Não precisamos da regra perfeita sobre XYZ. Não precisamos nem mesmo de uma regra muito boa sobre XYZ. Queremos algo que seja bom o suficiente. Estamos inundando a área.”

Isso sugere que o governo está planejando uma grande quantidade de regulamentações de baixa qualidade, o que parece ser uma ideia terrível, especialmente para uma agência federal fortemente envolvida na segurança.

Velocidade no Processo de Regulação

A principal preocupação parece ser a velocidade, já que a redação e a revisão de regulamentos federais podem levar meses ou até anos. Em contraste, uma versão do Google Gemini pode, supostamente, reduzir esse tempo para segundos ou minutos.

Usando a tecnologia, foi relatado que não deve levar mais de 20 minutos para obter um rascunho de regra do Gemini. Isso faz parte de um esforço maior para levar propostas de uma ideia a um “rascunho completo pronto para revisão” em apenas 30 dias.

Além disso, foi mencionado que o Gemini pode ser responsável por redigir cerca de 80% a 90% das regulamentações, enquanto os humanos cuidariam do restante e, presumivelmente, seriam responsáveis por verificar alucinações e erros.

Preocupações dos Funcionários

Funcionários e ex-oficiais expressaram preocupações sobre o uso da IA. Um deles comparou o uso do Gemini para redigir regulamentos a “ter um estagiário do ensino médio fazendo sua regulamentação”.

A questão merece atenção, mas apenas o tempo dirá se o uso da IA para criar regulamentações é uma boa ou uma má ideia. No final, isso provavelmente dependerá de quão envolvidos as pessoas estão no processo para garantir que as regras façam sentido, assegurem a segurança e sigam as práticas estabelecidas. Aiming for “good enough” não parece muito reconfortante.

More Insights

A Importância da IA Responsável: Riscos e Soluções

As empresas estão cientes da necessidade de uma IA responsável, mas muitas a tratam como um pensamento secundário ou um fluxo de trabalho separado. Isso pode levar a riscos legais, financeiros e de...

Modelo de Governança de IA que Combate o Shadow IT

As ferramentas de inteligência artificial (IA) estão se espalhando rapidamente pelos locais de trabalho, mudando a forma como as tarefas diárias são realizadas. A adoção da IA está ocorrendo de forma...

Acelerando Inovação com IA Ética

As empresas estão correndo para inovar com inteligência artificial, mas muitas vezes sem as diretrizes adequadas. A conformidade pode se tornar um acelerador da inovação, permitindo que as empresas se...

Riscos Ocultos da IA na Contratação

A inteligência artificial está transformando a forma como os empregadores recrutam e avaliam talentos, mas também introduz riscos legais significativos sob as leis federais de anti-discriminação. A...