I Rischi delle Allucinazioni e dell’Uso Improprio dell’Intelligenza Artificiale Generativa nei Tribunali Francesi
I tribunali francesi, come molte altre giurisdizioni nel mondo, si stanno confrontando con le allucinazioni create dall’intelligenza artificiale (IA), che si manifestano sotto forma di riferimenti giurisprudenziali errati prodotti nelle arringhe delle parti o di un uso improprio dell’IA per le loro rivendicazioni. Sebbene al momento non siano state imposte sanzioni in Francia, a differenza di numerose sentenze emesse negli Stati Uniti, l’uso irresponsabile o irragionevole dell’IA può avere conseguenze significative per gli avvocati e i loro clienti.
Strumenti Legali e IA
Con l’evoluzione costante delle funzionalità dell’IA, i cambiamenti risultanti da questi progressi tecnologici sono visibili tra gli attori del sistema legale. Sono ora disponibili molti strumenti legali progettati per redigere documenti contrattuali o procedurali, analizzare e riassumere documenti e ricercare giurisprudenza. Nel 2026, oltre il 90% dei professionisti legali utilizza almeno uno strumento di IA come parte della propria attività.
Allucinazioni dell’IA
È fondamentale esercitare cautela, poiché nessuno è immune dalle allucinazioni dell’IA. Gli strumenti di IA generativa sono spesso programmati per presentare risposte in modo sicuro e articolato, senza performare alcuna verifica successiva, che rimane prerogativa degli esseri umani. Il contenuto errato o fuorviante, come i falsi riferimenti alla giurisprudenza, è abbondante.
Riferimenti Giurisprudenziali Errati
Emergono casi giuridici dai tribunali francesi per avvertire contro l’uso di riferimenti giurisprudenziali inaccurati o inesistenti nelle presentazioni delle parti. Ciò può riguardare diversi casi, come quando non esiste giurisprudenza con il numero di riferimento indicato o quando la sentenza non è stata emessa nella data indicata.
I giudici possono invitare la parte coinvolta e/o il loro avvocato a “verificare in futuro che i riferimenti trovati su motori di ricerca o intelligenza artificiale non siano ‘allucinazioni’.” I tribunali francesi possono talvolta ritenere responsabile solo l’uso dell’IA da parte degli avvocati invece che dei loro clienti.
Documenti Redatti da Strumenti di IA Generativa
I tribunali stanno anche affrontando istanze e presentazioni redatte da strumenti di IA generativa. I tribunali amministrativi sono stati i primi ad essere colpiti da questo fenomeno, poiché la rappresentanza legale non è sempre obbligatoria davanti a tali tribunali.
Tuttavia, i giudici si sono mostrati talvolta meno severi con i richiedenti non rappresentati da un professionista legale in grado di verificare il contenuto legale dei documenti prodotti.
Conseguenze sull’Argomentazione Giuridica
L’uso di uno strumento di IA generativa non è di per sé punibile, poiché non esiste una norma giuridica che vieti l’uso di tali strumenti a supporto degli argomenti legali. Tuttavia, le allucinazioni dell’IA possono portare i richiedenti a presentare argomentazioni errate o infondate, che saranno quindi respinte dal giudice.
È quindi imperativo che un essere umano, e in particolare un professionista legale, verifichi le argomentazioni legali generate dall’IA per prevenire errori di fatto o di diritto.
Prove Generate da IA Generativa
Sebbene la giurisprudenza francese non abbia ancora affrontato casi di prove false generate dall’IA, il rischio aumenta man mano che gli strumenti di IA generativa diventano più sofisticati.
Sanzioni per gli Avvocati
Ad oggi, i tribunali francesi non hanno ancora imposto sanzioni agli avvocati che si sono basati su allucinazioni dell’IA nelle loro argomentazioni, limitandosi a chiedere loro di verificare i riferimenti citati. Tuttavia, gli avvocati rimangono soggetti alle normative nazionali della professione forense e ai principi di competenza, diligenza e prudenza.
È dunque essenziale che gli avvocati che utilizzano strumenti di IA verifichino sempre l’affidabilità dei risultati ottenuti per evitare responsabilità legali.
