Gouvernance de l’IA : ce que les conseils doivent prendre en compte
Selon une évaluation, l’intelligence artificielle (IA) augmente considérablement le rythme opérationnel d’une organisation. Cela nécessite une bonne gouvernance de l’IA.
La connexion entre l’utilisation de l’IA et l’objectif de l’entreprise
Il existe un lien direct entre le but d’une entreprise et son utilisation de l’IA. Il est donc particulièrement important que les conseils définissent le ton stratégique. Être conforme à la législation sur l’IA est une question légale, mais opérer d’une manière qui soit éthiquement confortable pour les employés et les parties prenantes en est une autre.
Cependant, les outils d’IA sont toujours sujets à des biais et à des hallucinations. Certains cas d’utilisation sont à haut risque et les outils ne sont pas toujours explicables. L’IA peut changer la nature de la prise de décision au sein des organisations, en particulier lorsque des systèmes d’IA sont utilisés sans intervention humaine. De plus, le comportement de l’IA peut évoluer avec le temps, ce qui peut accentuer les biais dans le modèle sous-jacent.
Les membres du conseil doivent commencer à utiliser l’IA
Les conseils sont responsables de la concentration stratégique sur les risques, mais leur réaction à l’IA est souvent limitée à une perception du domaine informatique. Une culture de la peur entrave le progrès, car certains dirigeants interdisent l’utilisation des outils d’IA alors que ceux-ci pourraient être bénéfiques.
Les membres du conseil devraient non seulement demander l’avis des employés sur les outils d’IA, mais aussi commencer à les utiliser eux-mêmes. Cela peut favoriser une meilleure compréhension de ce que ces outils peuvent accomplir.
La littératie en IA est essentielle
La formation en littératie de l’IA au sein de la main-d’œuvre est considérée comme un fondement pour une bonne gouvernance. Cette compétence est d’ailleurs mandatée par la législation sur l’IA.
Questions éthiques : durabilité et diversité
Il existe des questions éthiques clés que les organisations doivent considérer, notamment sur l’évolution des identités professionnelles. Si des agents de service à la clientèle sont remplacés par l’IA, ces derniers devraient idéalement devenir des constructeurs de systèmes, améliorant continuellement le logiciel.
Concernant les risques de durabilité, il est important que les organisations établissent des règles pour distinguer les tâches nécessitant des modèles de raisonnement approfondi de celles pouvant être traitées par des requêtes simples. La consommation d’énergie de l’IA ne doit pas être négligée.
En ce qui concerne l’égalité, la diversité et l’inclusion, il est essentiel d’inclure des idées de diverses origines dans les décisions de gouvernance de l’IA pour éviter des biais dans les données et les perceptions.
Conclusion
Les conseils doivent être proactifs dans l’intégration de l’IA dans leur stratégie, en s’appuyant sur des normes et des directives existantes pour naviguer dans les composants clés de la gouvernance de l’IA.
