Les dangers de la foi aveugle dans l’intelligence artificielle : leçons d’une sanction de 60 000 $
La profession juridique traverse actuellement une période de changement technologique rapide, avec l’émergence d’outils d’intelligence artificielle générative comme assistant pour la recherche et la rédaction juridiques. Ainsi, l’utilisation de l’IA dans ces domaines doit être accompagnée d’une surveillance humaine rigoureuse. Un manquement à cette obligation peut entraîner des amendes coûteuses, des sanctions et un embarras public.
Récemment, une amende de 60 000 $ a été imposée à un cabinet d’avocats de Chicago et à l’un de ses avocats pour avoir soumis un mémoire utilisant l’IA contenant des références juridiques fabriquées pour soutenir la position de son client. Cette recherche juridique résultait de ce que l’on appelle des « hallucinations de l’IA », des cas où l’IA générative produit des résultats qui semblent plausibles, mais qui incluent des matériaux juridiques fabriqués comme des citations, des noms d’affaires et des références qui, à première vue, paraissent soutenir une position juridique désirée, mais qui en réalité n’existent pas.
Le cas de sanction
En décembre 2025, un tribunal de l’Illinois a infligé des sanctions de près de 50 000 $ au cabinet d’avocats et de 10 000 $ à l’avocat en lien avec la soumission d’un mémoire post-procès contenant des hallucinations de l’IA. La partie adverse a informé le tribunal que plusieurs citations utilisées pour soutenir la position du cabinet étaient des affaires fictives de la Cour suprême de l’Illinois, générées de manière inexacte par l’IA, ce qui a conduit la partie adverse à déposer une motion de sanctions.
Dans un avis sévère, le tribunal a qualifié la conduite du cabinet et de l’avocat de « grave manquement », en soulignant l’obligation d’un avocat de présenter des autorités juridiques véridiques et précises au tribunal. Le tribunal a expliqué que « l’accent mis ici n’est pas sur l’utilisation abusive de l’intelligence artificielle pour effectuer des recherches juridiques peu fiables. Il s’agit de la soumission inexcusable d’autorité fausse et d’arguments factuels au tribunal, des déclarations erronées ultérieures concernant l’étendue de la conduite inappropriée, et le manque de responsabilité rapide une fois les erreurs découvertes. »
Obligations déontologiques
La règle 1.1 des Règles de conduite professionnelle de l’Illinois stipule que les avocats « doivent » fournir une « représentation compétente », ce qui nécessite « les connaissances juridiques, les compétences, la rigueur et la préparation raisonnablement nécessaires pour la représentation. » Le commentaire à la règle 1.1 exige que les avocats se tiennent informés des changements dans le droit et dans les pratiques juridiques, y compris les avantages et les risques associés aux technologies pertinentes.
Le cabinet d’avocats et l’avocat ont reconnu cette situation comme un « grave manquement au professionnalisme ». De plus, le cabinet a mis en œuvre de nouvelles mesures « à l’échelle de l’entreprise pour rééduquer ses avocats » sur sa politique d’IA et a établi des mesures préventives.
Principaux enseignements – Mitigations des risques
L’utilisation responsable de l’IA doit inclure les éléments suivants :
- Vérification humaine obligatoire de toutes les citations et autorités juridiques générées ou suggérées par l’IA ;
- Mise en œuvre de politiques internes claires pour chaque cabinet d’avocats sur les utilisations acceptables de l’IA, y compris l’identification des tâches devant rester sous le contrôle direct d’un avocat ;
- Formation et éducation continues concernant l’utilisation de l’IA dans un paysage juridique en évolution rapide ;
- Documentation des étapes de vérification pour démontrer la conformité aux obligations éthiques.
En fin de compte, les avocats doivent maintenir des normes élevées d’intégrité et de responsabilité professionnelle. Soumettre un mémoire juridique avec de fausses citations de cas contrevient aux devoirs professionnels de précision, de franchise et de compétence d’un avocat. La sanction imposée dans ce cas de l’Illinois ne préjuge pas de l’utilisation de l’IA dans la recherche et la rédaction juridiques ; elle indique plutôt que les tribunaux examinent de plus près les citations de cas pour détecter d’éventuelles hallucinations de l’IA et que la sanction pour la soumission d’une fausse autorité juridique peut être coûteuse tant pour le cabinet que pour l’avocat. Ainsi, bien que l’IA soit un outil très utile et puisse jouer un rôle précieux dans la recherche et la rédaction juridiques, elle ne soustrait pas un avocat à ses devoirs éthiques et fiduciaires.
