Examiner les 5 principaux risques de l’IA (Partie II de II)
Voici les cinq principaux domaines de risque lorsque qu’une entreprise utilise l’IA dans un rôle de soutien ou d’assistance, par opposition à un cas d’utilisation basé sur des algorithmes.
1. Protection des données et cybersécurité
Les cas d’utilisation internes de l’IA peuvent impliquer des chatbots, la rédaction de documents, d’e-mails et d’autres livrables. Dans la mesure où les employés incorporent des données sensibles (par exemple, des données confidentielles, personnelles ou réglementées) dans des outils d’IA tiers, ces données sensibles peuvent être conservées, transférées ou divulguées sans contrôles appropriés.
Par exemple, si des informations couvertes par le secret avocat-client sont téléchargées dans un outil d’IA tiers, la divulgation et le traitement de ces informations peuvent entraîner la divulgation de matériel privilégié à une personne non autorisée, menaçant ainsi la préservation de ce privilège.
De plus, si des données sont saisies dans un outil d’IA et soumises à un transfert transfrontalier, l’entreprise peut avoir violé les exigences réglementaires en matière de données pour l’approbation préalable ou les dérogations pour de tels transferts. Dans ces situations, lorsque qu’un outil d’IA peut être utilisé, la conformité doit s’assurer que l’utilisation de cet outil est identifiée et que des conseils potentiels peuvent être nécessaires sur les types de données pouvant être saisies dans l’outil d’IA.
2. Risques des fournisseurs tiers
Les entreprises doivent comprendre précisément comment les employés accèdent et utilisent les outils d’IA, car de nombreux outils peuvent être acquis de manière informelle. Si une entreprise achète des services d’IA fournis par un tiers, ou si elle apprend qu’un tiers s’appuie sur des fonctions d’IA pour fournir des services à l’entreprise, la conformité doit identifier les risques et les atténuer par des procédures, des dispositions contractuelles et d’autres techniques.
Les risques ici peuvent être vastes. Un employé peut utiliser un outil d’IA largement disponible sans approbation du département informatique ou de l’équipe de conformité de l’entreprise. En ce qui concerne les fournisseurs tiers, l’utilisation des données, les procédures d’hébergement et de traitement peuvent ne pas être divulguées à l’entreprise, augmentant ainsi le risque de violation involontaire des politiques ou procédures de confidentialité des données. Il est impératif de procéder à une diligence raisonnable sur les fournisseurs d’IA et sur les tiers qui s’appuient sur l’IA lors de la fourniture de services à une entreprise.
3. Désinformation et propriété intellectuelle
Les avocats sont un exemple parfait des risques de désinformation. Tout avocat qui s’appuie sur l’IA pour la recherche juridique prend des risques considérables. Les avocats doivent s’assurer que les matériaux juridiques générés par l’IA présentent des taux d’erreur très élevés, comme la citation de cas qui n’ont rien à voir avec une question juridique spécifique.
Les risques de désinformation, cependant, vont bien au-delà de la recherche juridique. Les entreprises doivent éviter de s’appuyer sur des informations inexactes ou erronées qui peuvent créer des problèmes de responsabilité, tels que la diffamation, des réclamations pour comportement inapproprié sur le marché, et des violations potentielles de propriété intellectuelle. L’IA est particulièrement propice à la génération et à la diffusion de matériel nuisible et diffamatoire. Dans les cas où de tels risques existent, les entreprises doivent concevoir des contrôles de révision de contenu pour se protéger contre les déclarations inexactes ou la désinformation.
4. Risques en milieu de travail
Les professionnels des ressources humaines intègrent rapidement des outils d’IA pour aider à de nombreuses fonctions d’emploi, telles que la surveillance des employés, les évaluations générées par l’IA qui peuvent créer des impacts disparates, et la dépendance non divulguée à des outils d’IA dans les tâches RH. Même dans les situations où l’IA n’est pas liée aux décisions clés de recrutement, les professionnels des RH seront tentés d’utiliser l’IA pour faciliter la documentation écrite, les rapports et les évaluations. Ces cas d’utilisation doivent être divulgués, examinés et atténués pour éviter des matériaux RH et de conformité actionnables.
5. Réglementations sur l’IA
Les réglementations fédérales, étatiques et locales sur l’IA augmentent rapidement. Bien que des arguments aient été avancés au niveau fédéral plaidant pour une approche réglementaire légère, les gouvernements étatiques, locaux et étrangers adoptent des cadres réglementaires complets sur l’IA. Ce domaine est en pleine évolution, et les entreprises doivent surveiller ces développements pour mettre à jour leurs programmes de conformité de manière continue.
