Le insidie della fede cieca nell’intelligenza artificiale: lezioni da una sanzione di $60.000
La professione legale sta affrontando un periodo di rapida evoluzione tecnologica, con strumenti di intelligenza artificiale generativa che emergono come assistenti per la ricerca e la scrittura legale. Pertanto, l’uso dell’IA in questi ambiti deve essere accompagnato da un rigoroso controllo umano. La mancanza di tale supervisione può comportare multe costose, sanzioni e imbarazzi pubblici.
Recentemente, una multa di $60.000 è stata imposta a un importante studio legale di Chicago e a uno dei suoi avvocati per aver presentato un documento che includeva autorità legali fabricate a sostegno della posizione del cliente. Questa ricerca legale è stata il risultato di “allucinazioni dell’IA”, ovvero casi in cui l’IA generativa produce risultati plausibili con materiali legali fabbricati, come citazioni e nomi di casi, che sembrano supportare una posizione legale desiderata ma, in realtà, non esistono.
Le sanzioni e le implicazioni
Nel dicembre 2025, un tribunale dell’Illinois ha emesso sanzioni di quasi $50.000 allo studio legale e $10.000 all’avvocato in relazione alla presentazione di un’istanza post-processo contenente allucinazioni dell’IA. La parte avversa ha informato il tribunale che molte delle citazioni utilizzate dallo studio legale per sostenere la posizione del cliente si riferivano a casi inesistenti della Corte Suprema dell’Illinois, generati erroneamente da un sistema di IA.
In un’opinione severa, il tribunale ha descritto la condotta dello studio legale come una “seria mancanza”, sottolineando l’obbligo degli avvocati di presentare autorità legali veritiere e accurate al tribunale. Il tribunale ha spiegato che “l’attenzione non è sull’uso improprio dell’intelligenza artificiale per condurre ricerche legali inaffidabili, ma sulla presentazione inaccettabile di false autorità e argomenti fattuali al tribunale”.
Normative professionali e responsabilità
La Regola 1.1 delle Norme Professionali di Condotta dell’Illinois afferma che gli avvocati “devono” fornire “una rappresentanza competente”, che richiede “la conoscenza legale, le abilità, la completezza e la preparazione ragionevolmente necessarie per la rappresentanza”. Il commento alla Regola 1.1 richiede agli avvocati di rimanere aggiornati sui cambiamenti della legge e della pratica legale, inclusi benefici e rischi associati alla tecnologia rilevante.
Lo studio legale ha riconosciuto questa situazione come una “seria mancanza di professionalità”, implementando misure per ri-educare i propri avvocati sulle politiche riguardanti l’IA e stabilendo misure preventive.
Misure per mitigare i rischi
- 1. Verifica umana obbligatoria di tutte le citazioni e le autorità legali generate o suggerite dall’IA;
- 2. Implementazione di politiche interne chiare per ogni studio legale sugli usi accettabili dell’IA, incluse le attività che devono rimanere sotto il controllo diretto di un avvocato;
- 3. Formazione e istruzione continua riguardo all’uso dell’IA in un panorama legale in rapida evoluzione;
- 4. Documentazione dei passaggi di verifica per dimostrare la conformità agli obblighi etici.
Conclusione
In definitiva, gli avvocati devono mantenere alti standard di integrità e responsabilità professionale. La presentazione di un documento legale con citazioni di casi false viola i doveri professionali di accuratezza e competenza. La sanzione contro lo studio legale in questo caso segnala che i tribunali stanno esaminando attentamente le citazioni per possibili allucinazioni dell’IA e che le penalità per la presentazione di autorità legali false possono essere costose sia per lo studio legale che per l’avvocato. Sebbene l’IA sia uno strumento utile e possa svolgere un ruolo prezioso nella ricerca e nella scrittura legale, non esonera un avvocato dai propri doveri etici e fiduciari.
