Os Perigos da Fé Cega na Inteligência Artificial: Lições de uma Sanção de $60.000
A profissão jurídica está atualmente enfrentando um período de rápida mudança tecnológica, com ferramentas de Inteligência Artificial (IA) generativa, como assistentes para pesquisa e redação jurídica. O uso de IA na pesquisa e redação jurídicas deve ser acompanhado de uma rigorosa supervisão humana. A falta dessa supervisão pode resultar em multas elevadas, sanções e constrangimentos públicos.
Recentemente, uma multa de $60.000 foi imposta a um escritório de advocacia proeminente por submeter um documento que incluía autoridades legais fabricadas para apoiar a posição de seu cliente. Essa pesquisa jurídica foi o resultado de “alucinações de IA”, que ocorrem quando a IA gera resultados plausíveis com materiais legais falsificados, como citações, nomes de casos e declarações que, à primeira vista, parecem apoiar uma posição legal desejada, mas na realidade não existem.
Consequências Legais
Em dezembro de 2025, um tribunal de Illinois impôs sanções de quase $50.000 ao escritório e $10.000 ao advogado em conexão com a submissão de um documento que incluía alucinações de IA. A parte adversa informou ao tribunal que várias citações utilizadas pelo escritório para apoiar a posição de seu cliente eram de casos inexistentes do Supremo Tribunal de Illinois, gerados de forma imprecisa pela IA. Isso levou a parte adversa a apresentar um extenso pedido de sanções.
O tribunal caracterizou a má conduta do escritório e do advogado como uma “falha séria”, enfatizando a obrigação do advogado de apresentar autoridades legais verdadeiras e precisas ao tribunal. O tribunal argumentou que a questão não era o uso inadequado da IA para realizar pesquisas e redações jurídicas, mas a submissão inaceitável de autoridades e argumentos falsos ao tribunal, além das subsequentes representações incorretas sobre a extensão da conduta inadequada.
Obrigações Éticas e Padrões Profissionais
A Regra 1.1 do Código de Conduta Profissional de Illinois afirma que os advogados “devem” fornecer “representação competente”, o que requer “o conhecimento legal, habilidade, minuciosidade e preparação razoavelmente necessárias para a representação.” Os advogados devem estar atualizados sobre mudanças na lei e na prática jurídica, incluindo os benefícios e riscos associados à tecnologia relevante.
O escritório e o advogado reconheceram a situação como uma “grave falha de profissionalismo”. Além disso, o escritório implementou novas medidas para reeducar seus advogados sobre sua política de IA e estabeleceu medidas preventivas.
Principais Lições – Mitigando os Riscos
O uso responsável da IA deve incluir os seguintes elementos:
- Verificação humana obrigatória de todas as citações e autoridades legais geradas ou sugeridas pela IA.
- Implementação de políticas internas claras para cada escritório/advogado sobre os usos aceitáveis da IA.
- Formação e educação contínuas relacionadas ao uso da IA em um cenário jurídico em rápida mudança.
- Documentação das etapas de verificação para demonstrar conformidade com as obrigações éticas.
Conclusão
Os advogados devem manter altos padrões de integridade e responsabilidade profissional. Submeter um documento legal com citações de casos falsas infringe os deveres profissionais de precisão, honestidade e competência de um advogado. A sanção contra o escritório e o advogado neste caso de Illinois não proíbe o uso de IA na pesquisa e redação jurídicas; em vez disso, sinaliza que os tribunais estão analisando mais de perto as citações de casos em busca de possíveis alucinações de IA e que a penalidade por submeter autoridade legal falsa ao tribunal pode ser custosa para ambos, o escritório e o advogado. Portanto, embora a IA seja uma ferramenta útil e possa desempenhar um papel valioso na pesquisa e redação jurídicas, ela não isenta um advogado de seus deveres éticos e fiduciários.
