Commentaire : Briser la boîte noire – aborder l’agenda de gouvernance pour une IA responsable
L’intelligence artificielle devient rapidement une partie essentielle de notre vie quotidienne, souvent de manière surprenante. Des réseaux routiers que nous empruntons aux soins de santé que nous recevons, en passant par les informations que nous lisons et la nourriture que nous commandons, l’IA transforme le monde dans lequel nous vivons.
L’IA façonnera la prochaine ère de la stratégie d’entreprise, de la croissance économique et de la transformation des marchés. En effet, au Royaume-Uni, 75 % des entreprises financières interrogées par la Banque d’Angleterre l’année dernière utilisaient déjà l’IA, et 10 % supplémentaires prévoyaient de l’utiliser à l’avenir.
Cependant, avec une adoption aussi rapide et généralisée, l’IA devient rapidement un défi central en matière de gouvernance et de durabilité qui présente des risques matériels pour les entreprises.
Pourquoi la gouvernance de l’IA doit être une priorité au niveau du conseil
Bien que l’IA offre efficacité et innovation, elle introduit également des systèmes qui manquent de transparence, rendant la logique décisionnelle difficile à cerner. Ces modèles d’IA dits « boîte noire » – où même le développeur du modèle ne peut pas déterminer comment il prend des décisions – soulèvent de sérieux risques liés à la partialité, à la désinformation, à la vie privée et à l’intégrité opérationnelle. Les entreprises pourraient courir des risques juridiques, subir des dommages à leur réputation et perdre la confiance de leurs parties prenantes.
Malgré l’ampleur de l’adoption, moins de 20 % des entreprises publiques divulguent des détails sur leurs stratégies de mitigation des risques liés à l’IA, et seulement 10 % rapportent des évaluations de l’équité ou de la partialité.
Ce manque de transparence constitue un angle mort matériel tant pour les investisseurs que pour les régulateurs. L’analyse révèle que cet écart de transparence rend de plus en plus difficile pour les investisseurs de comprendre comment l’IA est gouvernée, en particulier dans des secteurs à fort impact tels que la santé, la finance et le commerce de détail.
Pour remédier à cela, les conseils d’administration doivent considérer l’IA comme une préoccupation de gouvernance transversale – tout comme la cybersécurité ou le risque climatique – qui nécessite une supervision appropriée et des processus clairs de mitigation des risques.
Un cadre pour l’action des investisseurs
Bien que certaines organisations commencent à reconnaître le problème de gouvernance, il est souligné que seulement 15 % des entreprises du S&P 500 ont divulgué une forme de supervision du conseil sur l’IA dans leurs déclarations proxy – et encore moins, seulement 1,6 %, ont fourni une divulgation explicite de la responsabilité complète du conseil ou d’un comité.
Pour aider à résoudre ce problème, un appel est lancé pour une approche en trois parties :
- Intégration de la gouvernance de l’IA dans l’analyse ESG : Les investisseurs doivent évaluer comment les entreprises divulguent l’utilisation de l’IA, établissent des garanties internes et assignent la supervision à des leaders exécutifs ou au niveau du conseil.
- Engagement sur la gouvernance de l’IA : La gestion et l’engagement doivent se concentrer sur la gouvernance quotidienne de l’IA, y compris l’engagement sur les évaluations de partialité et les mécanismes d’explicabilité, en veillant à ce qu’une supervision humaine soit intégrée dans les cas d’utilisation à fort impact.
- Établissement d’attentes claires : Les investisseurs doivent aligner les pratiques de stewardship sur des normes mondiales telles que les principes de l’OCDE sur l’IA et la loi sur l’IA de l’UE.
IA responsable – un tournant critique pour le leadership des investisseurs
Avec des horizons d’investissement à long terme et une influence systémique, les régimes de retraite sont particulièrement bien placés pour promouvoir des normes de gouvernance plus strictes à travers l’économie. En tant que intendants à long terme du capital, ils sont responsables non seulement de la performance actuelle, mais aussi de la durabilité et de la résilience des avenirs des citoyens.
En encourageant une meilleure gouvernance et divulgation, les fonds de pension peuvent guider soigneusement l’adoption généralisée de l’IA et contribuer à un comportement d’entreprise plus transparent, équitable et adapté à l’avenir. Cela ne signifie pas limiter l’innovation, mais s’assurer qu’elle est guidée de manière à répondre aux attentes sociétales et aux normes légales, tout en soutenant la stabilité économique à long terme, l’inclusion et la responsabilité.
Il est essentiel que la gouvernance évolue au rythme de l’innovation, car contribuer à une économie résiliente et digne de confiance à l’ère de l’IA n’est pas seulement une bonne gouvernance, mais une partie essentielle de la mission envers les bénéficiaires d’aujourd’hui et de demain.
