Les entreprises, méfiez-vous du théâtre de la gouvernance de l’IA
Les outils intégrant l’IA se multiplient au sein des entreprises, avec des assistants virtuels rédigeant du code et répondant aux questions des clients. Les applications d’intelligence économique exploitent d’énormes quantités de données pour en tirer des insights stratégiques, tandis que des agents d’IA émergents commencent à prendre des décisions de manière autonome.
Dans ce contexte d’innovation, les entreprises se tournent logiquement vers la gouvernance de l’IA — les processus, normes et garde-fous qui garantissent que les systèmes d’IA soient sûrs et éthiques.
La gouvernance de l’IA permet aux entreprises de surveiller les systèmes d’IA pour détecter les problèmes de performance, de latence et de sécurité. Elle aide à atténuer des risques graves liés à l’IA tels que le biais, le dérive et les hallucinations. Cela permet également aux entreprises de rester conformes à une époque où les réglementations et normes en matière d’IA se multiplient et deviennent de plus en plus complexes. Les violations de conformité avec la loi européenne sur l’IA, par exemple, peuvent entraîner des amendes pouvant atteindre sept pour cent du chiffre d’affaires annuel. En bref, la gouvernance de l’IA permet aux entreprises de scaler et d’innover avec l’IA de manière responsable.
Bien qu’il n’y ait pas de pénurie de dirigeants d’entreprises évoquant l’importance de la gouvernance de l’IA, les investissements réels dans ce domaine ne correspondent souvent pas aux investissements dans la technologie elle-même. Selon une enquête récente, seulement 21 % des dirigeants affirment que les efforts de gouvernance de l’IA de leur organisation sont systématiques ou innovants. Pendant ce temps, seulement 29 % des responsables des risques et des finances affirment qu’ils s’attaquent suffisamment aux risques réglementaires et de conformité liés à l’IA.
Une gouvernance informelle
De nombreuses entreprises adoptent une approche informelle de la gouvernance de l’IA. En lieu et place de politiques détaillées et de technologies tangibles, elles élaborent des chartes à haut niveau citant des valeurs et des principes, mais ne fournissent que peu de détails sur leur mise en œuvre. De même, certaines entreprises convoquent des comités de révision éthique sans leur fournir de mécanismes d’action.
Définir des valeurs fondamentales comme l’équité et l’explicabilité est une première étape importante, mais ce n’est pas une fin en soi. Les entreprises doivent transformer ces valeurs en actions concrètes, en les mettant en œuvre, en les appliquant et en les mesurant. Par exemple, elles ont besoin de technologies pour déterminer si l’IA génère des réponses pertinentes et fidèles. Elles doivent disposer de solutions qui restreignent automatiquement les sorties de l’IA qui sont haineuses ou profanes. Et elles ont besoin d’outils capables d’identifier la cause profonde de ces problèmes.
La gouvernance informelle de l’IA ne parvient pas à appliquer de manière cohérente les meilleures pratiques d’adoption responsable de l’IA à l’échelle de l’entreprise. Le résultat ? Les organisations peinent à créer une culture d’adoption responsable de l’IA, ce qui entraîne des risques : des systèmes d’IA mal gouvernés peuvent prendre des décisions incorrectes et injustes, nuisant tant aux entreprises qu’aux clients.
Une gouvernance ad hoc
D’autres entreprises adoptent une approche ad hoc de la gouvernance de l’IA. Elles disposent de politiques et d’outils, mais les déploient de manière incohérente et réactive. L’approche est tactique ; il n’y a pas de stratégie globale en jeu.
La gouvernance ad hoc signifie appliquer des politiques à certains cas d’utilisation de l’IA, souvent avec une approche cloisonnée. Pendant ce temps, un petit groupe de personnel élabore l’approche de gouvernance de l’IA, plutôt qu’un éventail de parties prenantes apportant des perspectives uniques. Au quotidien, le personnel technique doit jongler avec un ensemble d’outils fragmenté et incomplet. Le suivi des performances de l’IA se fait manuellement et au besoin, plutôt que d’être automatisé et perpétuel. Les erreurs humaines, le temps perdu et les opportunités manquées s’accumulent.
Les approches ad hoc laissent également les entreprises vulnérables à l’IA clandestine, des systèmes d’IA non sanctionnés pouvant fonctionner au sein de l’entreprise. Elles augmentent la probabilité de violations de conformité.
La bonne approche : une gouvernance formelle
Une approche formelle de la gouvernance de l’IA combine un cadre complet appliqué par des flux de travail automatisés pour propager les meilleures pratiques à travers l’entreprise, renforcée par une surveillance et une application régulières et automatisées. Les entreprises relient leurs objectifs de haut niveau aux outils les plus performants en matière d’évaluation des risques et de conformité liés à l’IA. Elles intègrent également la gouvernance de l’IA avec des domaines connexes, tels que la sécurité de l’IA.
La gouvernance formelle adopte une approche multipartite. Une gamme de disciplines contribue à informer la gouvernance : juridique, ingénierie, sécurité, gestion des risques, conformité, informatique, protection des données, ressources humaines, et d’autres. Tous les membres d’une organisation, du PDG aux stagiaires, sont formés à la gouvernance de l’IA : quels outils utiliser, quand et comment faire remonter les problèmes potentiels.
La gouvernance formelle accélère plutôt que ralentit l’innovation en matière d’IA. Elle permet aux entreprises de scaler l’IA de manière responsable et d’équiper les développeurs d’informations riches sur le comportement et la raison d’être de leurs systèmes d’IA.
L’IA devient de plus en plus omniprésente et puissante au sein de l’entreprise. Selon Gartner, d’ici 2028, les agents d’IA prendront 15 % des décisions quotidiennes des entreprises. Cela signifie que, sans une gouvernance appropriée, un tiers des décisions commerciales pourrait comporter des risques inutiles.
Plus que jamais, les entreprises doivent s’éloigner du théâtre de la gouvernance de l’IA et se diriger vers une véritable gouvernance.
