Responsabilité dans l’Intelligence Artificielle
Les acteurs de l’IA doivent être responsables du bon fonctionnement des systèmes d’IA et du respect des principes énoncés, en fonction de leurs rôles, du contexte et en accord avec l’état de l’art.
Pour ce faire, les acteurs de l’IA doivent garantir la traçabilité, notamment en ce qui concerne les ensembles de données, les processus et les décisions prises au cours du cycle de vie du système d’IA. Cela permet d’analyser les résultats et de répondre aux demandes d’enquête, de manière appropriée et conforme à l’état de l’art.
Les acteurs de l’IA doivent, en fonction de leurs rôles et de leur capacité d’action, appliquer une approche systématique de gestion des risques à chaque phase du cycle de vie du système d’IA de manière continue. Ils doivent également adopter une conduite commerciale responsable pour aborder les risques liés aux systèmes d’IA, y compris, le cas échéant, par la coopération entre différents acteurs de l’IA, les fournisseurs de connaissances en IA et de ressources en IA, les utilisateurs de systèmes d’IA et d’autres parties prenantes.
Les risques incluent ceux liés aux préjugés nuisibles, aux droits de l’homme, y compris la sécurité, la sûreté et la vie privée, ainsi qu’aux droits du travail et à la propriété intellectuelle.
Raisons de ce principe
Les termes responsabilité, responsabilité juridique et responsabilité morale sont étroitement liés mais différents, et portent également des significations variées à travers les cultures et les langues. En termes généraux, la responsabilité implique une attente éthique ou morale qui guide les actions ou comportements des individus ou des organisations et leur permet d’expliquer les raisons pour lesquelles des décisions et des actions ont été prises.
Dans le cas d’un résultat négatif, elle implique également de prendre des mesures pour garantir un meilleur résultat à l’avenir. La responsabilité juridique fait généralement référence aux implications légales défavorables résultant des actions ou de l’inaction d’une personne ou d’une organisation.
Étant donné ces significations, le terme responsabilité capture le mieux l’essence de ce principe. Dans ce contexte, la responsabilité se réfère à l’attente que les organisations ou les individus garantissent le bon fonctionnement, tout au long de leur cycle de vie, des systèmes d’IA qu’ils conçoivent, développent, exploitent ou déploient, conformément à leurs rôles et aux cadres réglementaires applicables.
Ils doivent démontrer cette responsabilité à travers leurs actions et leur processus décisionnel, par exemple en fournissant une documentation sur les décisions clés tout au long du cycle de vie du système d’IA ou en réalisant des audits lorsque cela est justifié.
