À medida que o conteúdo falso gerado por IA prejudica os casos legais, estados buscam regulamentações
No último ano, um juiz de um condado notou algo surpreendente: um documento legal apresentado em seu tribunal citava um caso que não existia.
Um dos juízes co-presidiu um grupo de trabalho que orientou uma política permitindo o uso de IA, desde que esteja em conformidade com as normas legais e éticas existentes. À medida que mais citações falsas, casos judiciais fictícios e informações incorretas aparecem em documentos legais gerados por IA, associações de advogados e organizações jurídicas têm emitido orientações sobre o uso da tecnologia no campo jurídico.
Implicações e riscos
Desde casos de divórcio até ações judiciais por discriminação, o conteúdo falso gerado por IA pode causar a rejeição de provas e a negação de moções. Algumas jurisdições proíbem o uso da IA para certas tarefas legais, e as novas políticas abordam preocupações relacionadas à confidencialidade e competência.
Embora a IA possa ajudar advogados e escritórios de advocacia ao automatizar tarefas administrativas e analisar documentos, muitos profissionais enfrentam sanções por submeter documentos legais que citam informações falsas. Especialistas alertam que a confiança excessiva na IA pode levar a erros, onde declarações incorretas são tratadas como informações factuais.
Resposta institucional
Desde o início de 2025, foram documentados casos em que a IA gerou conteúdo fictício utilizado em tribunais. Associações de advogados emitiram orientações formais sobre o uso da IA em pelo menos dez estados, ressaltando a necessidade de que os advogados tenham uma compreensão básica das ferramentas de IA e verifiquem o conteúdo gerado.
Alguns estados tentam enfrentar a questão por meio de legislações que exigem que advogados utilizem “diligência razoável” para verificar a autenticidade de provas geradas por IA. Além disso, é crucial que associações de advogados e faculdades de direito ofereçam educação sobre IA, pois a tecnologia pode reduzir o tempo de pesquisa, mas requer treinamento adequado.
Conclusão
Enquanto os advogados se tornam mais confortáveis com as ferramentas de IA, os tribunais permanecem cautelosos. A IA tem potencial para melhorar o processamento de casos, mas os tribunais ainda enfrentam desafios relacionados a provas alteradas e documentos judiciais cheios de erros. A educação e a conscientização sobre o uso adequado da IA são fundamentais para mitigar riscos e garantir a integridade do sistema legal.
