Determinando a Razoabilidade da Regulação com IA
Este artigo é a quinta contribuição para o simpósio sobre IA e a APA. Entre os princípios operacionais da lei administrativa está o requisito de que as agências “examinem os dados relevantes e articulem uma explicação satisfatória” para suas ações, conhecido como requisito de decisão fundamentada. Isso significa que as agências devem justificar suas ações, fornecendo um registro que permita a um tribunal concluir que a agência não agiu de forma arbitrária e caprichosa. No entanto, como os avanços recentes em IA se alinham a esse padrão antigo? Neste contexto, apresentamos três fatores para orientar os tribunais ao revisar o uso de IA no processo regulatório:
Fatores a Considerar
- Em que medida o Congresso, em seu mandato estatutário para a agência, concedeu à agência ampla latitude para tomar decisões carregadas de valores;
- Onde e como a IA é utilizada na formulação das ações da agência;
- Se o assunto da ação da agência envolve domínios que impactam direitos ou segurança.
Defendemos que os tribunais devem revisar o uso de IA pelas agências no processo regulatório com maior escrutínio quando a IA é utilizada na implementação de mandatos estatutários amplos, na elaboração de análises substanciais ou na regulação de domínios que impactam direitos ou segurança. Por outro lado, os tribunais devem ser menos céticos em relação à IA quando utilizada na implementação de mandatos legislativos relativamente restritos ou em aspectos não críticos do processo regulatório.
A Importância dos Fatores
Esses fatores não são definitivos ou exaustivos. A forma como uma agência “usa” IA varia amplamente, e a tecnologia está em rápida evolução. Os sistemas de IA, como os modelos de linguagem, têm características que podem levar a “alucinações”, onde respostas contraditórias ou informações infundadas podem ser geradas. Isso levanta questões sobre a capacidade das agências de “mostrar seu trabalho” conforme exigido pela APA.
Primeiro Fator: Autoridade Estatutária
Os tribunais devem examinar a amplitude da autoridade estatutária que a agência está utilizando para uma ação específica. Quando o Congresso concede uma autoridade ampla, como em certos mandatos, espera-se que a agência utilize essa autoridade com maior cuidado quando a IA está envolvida.
Segundo Fator: Uso da IA no Processo Regulatório
O uso da IA levanta menos preocupações quando é utilizada para gerar resumos de documentos ou recuperar informações específicas, funcionando como uma ferramenta controlada por especialistas. No entanto, quando a IA é utilizada para elaborar regras ou decisões substantivas, os tribunais devem aumentar seu escrutínio.
Terceiro Fator: Impacto nos Direitos e Segurança
Os tribunais devem estar particularmente atentos quando a IA é utilizada em ações que impactam direitos ou segurança. As administrações anteriores já concluíram que os riscos da IA nessas áreas exigem maior documentação e transparência, dado o potencial de danos significativos.
Conclusão
Esses fatores devem servir como guias preliminares para os tribunais e para o público na avaliação do uso da IA no processo regulatório. A capacidade da IA de explicar suas operações e minimizar alucinações continua a evoluir, e a maneira como a lei administrativa se adaptará ao uso da IA dependerá dos fatos de cada caso específico.
