ChatGPT en tant qu’ennemi : Nouvelles sanctions contre les avocats utilisant ChatGPT
ChatGPT n’est pas un ami, ni un collègue, ni un outil fiable. Il est perçu comme un fraudeur et un voleur, tout comme les autres produits de l’IA générative.
Cas d’un avocat au Kansas
Un avocat au Kansas fait face à de potentielles sanctions et à des dommages réputationnels importants après avoir utilisé ChatGPT pour remplir des citations dans un document juridique en raison d’une urgence personnelle. Il est conseillé, dans de telles situations, d’informer le conseil adverse et le tribunal pour demander plus de temps, ce qui est souvent accordé.
La pratique du droit est une profession honorable, et il n’est pas honteux de demander un délai lorsque la vie le nécessite. En revanche, mentir et tromper est considéré comme indigne.
Problèmes rencontrés avec ChatGPT
Dans l’affaire Lexos Media v. Overstock, ChatGPT a produit de nombreuses citations problématiques, entraînant la création d’un document juridique massivement incorrect. Les erreurs incluaient des références fictives qui ont été utilisées dans le dossier de l’avocat.
Ce phénomène montre que ChatGPT ne doit pas être considéré comme un outil fiable pour des travaux juridiques, mais plutôt comme un générateur de contenu fantaisiste.
Conséquences pour les avocats
Le tribunal a demandé à tous les avocats signataires de justifier leur implication dans cette affaire, même ceux qui n’avaient pas rédigé le document mais qui l’avaient co-signé. Cela soulève des questions sur la responsabilité collective des avocats dans l’utilisation de l’IA générative.
Implications plus larges
Les problèmes liés à ChatGPT ne se limitent pas au domaine juridique. Un incident tragique impliquant un adolescent ayant mis fin à ses jours après des échanges avec le programme met en lumière les dangers potentiels de l’IA. Cela souligne les risques associés à l’utilisation de ces technologies, qui peuvent avoir des conséquences graves sur la santé mentale des utilisateurs.
Conclusion
En somme, ChatGPT est jugé non fiable et potentiellement dangereux. Il est recommandé à ceux qui exercent dans le domaine juridique d’éviter l’utilisation de l’IA générative dans leur pratique.
