Préservation des invites et des résultats de l’IA générative
Les outils d’IA générative (IA) qui créent du texte et des médias à partir des données sur lesquelles ils ont été formés soulèvent des préoccupations juridiques concernant la confidentialité des données, la sécurité des données et les considérations de privilège. Dans le cadre de la découverte, les invites et les résultats de l’IA peuvent être considérés comme des informations uniques qui doivent être préservées pour les litiges. Les organisations doivent réfléchir à la manière de préserver ces informations et à la nécessité de modifier leurs accords standard sur les informations électroniques (ESI).
Il est également impératif pour les organisations d’avoir des politiques de gouvernance de l’information et des formations en place pour tenir compte de l’utilisation des outils d’IA au sein de leur entreprise. Cela inclut la détermination des prompts et des résultats générés par l’IA qui sont considérés comme des « documents » et, le cas échéant, la mise à jour des politiques et des calendriers de conservation des documents. Il est essentiel d’avoir des conseillers juridiques compétents spécialisés dans la découverte et la gouvernance des informations générées par l’IA pour garantir que les invites et les résultats soient conservés si nécessaire.
L’IA générative crée des documents uniques et nouveaux
Chaque outil d’IA fonctionne de manière unique en fonction de sa configuration et de son système de stockage de données. Les professionnels du droit doivent comprendre les types de données créées et les emplacements où ces données sont stockées pour chaque outil. Ces produits évoluent rapidement et peuvent différer considérablement les uns des autres. Il est donc de la responsabilité des praticiens de déterminer la forme et la fonction d’un outil donné, y compris où il stocke ses invites et ses résultats.
Par exemple, une application qui crée un résumé en points d’une réunion commence généralement par créer un transcript de cette réunion, qu’elle analyse ensuite pour produire un résumé. Ces documents seront-ils stockés dans le stockage en ligne de l’organisateur de la réunion, intégrés à un réseau d’entreprise ou répartis entre les stocks des participants ? Combien de temps ces documents seront-ils conservés ? Les réponses dépendront à la fois des configurations techniques et des politiques de conservation applicables de l’organisation.
Les tribunaux commencent à aborder le traitement des artefacts générés par l’IA
Bien que les outils d’IA se soient rapidement multipliés au cours des dernières années, les tribunaux et les plaideurs commencent seulement à traiter de leur utilisation et de leurs résultats. Dans l’affaire Tremblay contre OpenAI devant le tribunal de district des États-Unis pour le district nord de Californie, un groupe d’auteurs a poursuivi OpenAI pour violation du droit d’auteur, alléguant qu’il avait formé ChatGPT en utilisant leurs livres protégés par le droit d’auteur.
OpenAI a demandé la découverte des informations du compte ChatGPT des plaignants et des invites utilisées lors des tests préalables au procès, y compris les résultats négatifs qui n’ont pas reproduit ou résumé le travail des plaignants. Le juge magistrat a accordé la demande, constatant que bien que les paramètres du compte et les résultats de tests négatifs soient des produits de travail, les plaignants avaient renoncé à cela en incluant un ensemble substantiel de ces faits dans leur plainte et leurs pièces jointes.
En statuant sur la motion des plaignants demandant un allégement contre cet ordre, le juge de district a constaté que le magistrat avait mal appliqué la loi, les invites étant des requêtes créées par les avocats et reflétant leurs impressions mentales et leurs stratégies pour interroger ChatGPT.
Le tribunal a accordé la motion des plaignants, refusant la demande du défendeur de contraindre la production des tests négatifs et de la documentation du processus de test, mais a ordonné aux plaignants de produire les invites et les paramètres comptables utilisés pour générer les exemples utilisés dans leur plainte.
Meilleures pratiques suggérées pour assurer une préservation et une gouvernance de l’information appropriées et défendables
Les documents et données créés avec des outils d’IA peuvent être pertinents pour des litiges anticipés ou en cours s’ils concernent des revendications et des défenses et sont proportionnels aux besoins de l’affaire. Les professionnels juridiques et de la gouvernance de l’information doivent être préparés à cette possibilité si leurs clients utilisent ces outils. Voici quelques meilleures pratiques suggérées :
L’engagement précoce est essentiel
Les professionnels juridiques et de la gouvernance de l’information doivent être considérés comme des parties prenantes essentielles à consulter lorsqu’une organisation décide de déployer des outils d’IA. Si le service juridique n’est informé qu’après l’adoption d’un outil — voire après qu’il a été utilisé pendant un certain temps — il peut y avoir des obstacles à garantir que les données pertinentes soient préservées ou à conseiller sur des considérations critiques telles que la protection du privilège avocat-client et de la confidentialité lors de l’utilisation de l’outil.
Les professionnels de la gouvernance de l’information fourniront également des pratiques de conservation et de disposition des données précieuses lors de l’utilisation des outils.
Comprendre comment l’outil crée, enregistre et manipule les données
Les parties prenantes juridiques et de la gouvernance de l’information doivent également être impliquées dans la sélection, le test et le déploiement des outils d’IA pour comprendre où chaque outil crée et stocke les documents et données potentiellement pertinents. Une organisation ne peut pas préserver des données pertinentes sans comprendre où ces données sont stockées et comment les préserver et les récupérer à des fins de découverte. Une enquête approfondie sur les emplacements de stockage et une compréhension de ce qui est créé sont essentielles. Dans le contexte de l’IA générative, cela est encore plus crucial, car l’évolution rapide de ces produits nécessite une attention et une analyse plus étroites que celles requises avec des outils plus établis.
Les politiques de conservation et de maintien juridique applicables doivent être mises à jour et mises en œuvre
Les politiques de conservation des documents peuvent devoir être mises à jour pour garantir que les documents et les données générés par l’IA soient conservés pour la durée appropriée en fonction des besoins de l’entreprise et de la législation applicable.
De même, les politiques et avis de maintien juridique doivent traiter des nouveaux types de données créés par les outils d’IA pour garantir que les employés comprennent la nécessité de la préservation. Ces politiques ne sont efficaces que lorsque la conformité est reconnue et surveillée, il est donc nécessaire d’établir des processus pour garantir une conservation correcte des données.
La formation des utilisateurs est essentielle
Comme tout outil, les résultats et la fiabilité des outils d’IA dépendent fortement de la manière dont ils sont utilisés. Un programme de formation solide sur l’IA générative, qui met l’accent non seulement sur les fonctionnalités mais aussi sur les risques présentés par l’outil, doit être une condition préalable à l’accès des utilisateurs.
Étant donné que les outils d’IA peuvent halluciner et générer des documents et des données qui peuvent ne pas refléter la réalité ou les entrées des employés, il existe un risque de créer involontairement des données découvrables qui sont inexactes. De telles données ne sont pas seulement inutiles à des fins commerciales, mais présentent également un risque sérieux en cas de litige si une partie se fie à des faits hallucinés. Pour cette raison, toute sortie générée par l’IA doit être examinée et vérifiée avant sa préservation — les points, les résumés, les transcriptions, les arguments et autres résultats de l’IA générative doivent être soigneusement examinés et confirmés.
La formation doit être mise à jour à mesure que de nouveaux outils deviennent disponibles et l’utilisation doit être soigneusement surveillée pour garantir une utilisation appropriée et atténuer le risque que des artefacts problématiques soient créés.
Conclusion
Comme pour toute technologie émergente, il est essentiel d’évaluer les risques et les obligations qui peuvent y être associés parallèlement aux bénéfices de son utilisation. De l’intégration large de l’IA générative dans un environnement d’entreprise par des professionnels de la gouvernance de l’information à l’ajustement minutieux d’un protocole ESI par des avocats extérieurs, l’introduction de l’IA générative dans les environnements d’entreprise et la pratique juridique constitue un défi essentiel nécessitant une approche réfléchie et complète.
Les outils d’IA générative ont un potentiel transformateur, mais ils doivent être soigneusement évalués, testés, configurés et utilisés en prêtant attention à la création de documents et de données potentiellement pertinents qui doivent être préservés.
