DOT Usará Inteligência Artificial para Redigir Regulamentações de Segurança, e Isso Preocupa as Pessoas
Em breve, as regulamentações de segurança que garantem a proteção dos passageiros em aviões, carros e a prevenção de explosões em gasodutos poderão ser redigidas por inteligência artificial. Isso gera preocupações entre alguns membros do Departamento de Transporte, especialmente considerando o foco na quantidade em vez da qualidade, com o departamento buscando um padrão de "suficientemente bom".
O que é Inteligência Artificial?
A chamada inteligência artificial tem impactado todos os aspectos da nossa vida. Atualmente, tudo parece estar relacionado à IA, embora muitos dos sistemas não sejam verdadeiramente inteligentes. O termo "inteligência artificial" geralmente se refere a modelos de linguagem que, embora possam parecer competentes, não possuem entendimento real das palavras que estão gerando.
Preocupações com a Implementação da IA
Funcionários estão preocupados com a possibilidade de que falhas geradas pela IA possam resultar em regulamentações defeituosas, levando a litígios e, em situações extremas, a lesões ou mortes no sistema de transporte. Durante uma demonstração das capacidades da IA, um documento gerado carecia de textos essenciais, que um funcionário precisou complementar.
No entanto, a liderança do departamento não parece alarmada. Um dos principais advogados do departamento expressou interesse em usar a IA por sua capacidade de redigir regras rapidamente, em menos de 30 minutos, ao contrário das semanas ou meses necessários para consultores humanos.
Implicações e Riscos
As regras que estão sendo redigidas abrangem todos os aspectos da segurança no transporte, e a ideia de uma regulamentação "suficientemente boa" pode ser irresponsável, considerando as consequências potenciais de erros. Entre as regras elaboradas com a ajuda da IA está uma regulamentação da Administração Federal da Aviação ainda não publicada.
Embora haja pressão para que agências federais adotem a IA rapidamente, a redação de leis e regulamentações não foi especificamente mencionada. No entanto, a liderança do departamento deseja que sua agência seja pioneira neste esforço.
Conclusão
A utilização de inteligência artificial na redação de regulamentações de segurança no transporte representa um avanço tecnológico significativo, mas levanta sérias questões sobre a qualidade e a segurança das regulamentações resultantes. A dependência de um padrão de "suficientemente bom" em um campo onde erros podem causar consequências graves é motivo de preocupação para muitos.
