Pourquoi le GenAI stagne sans une gouvernance solide
Alors que les entreprises tentent de faire passer les projets de Génération d’Intelligence Artificielle (GenAI) de l’expérimentation à la production, de nombreuses organisations restent bloquées en mode pilote. Selon des recherches récentes, 92 % des organisations s’inquiètent du fait que les pilotes de GenAI s’accélèrent sans d’abord s’attaquer à des problèmes fondamentaux liés aux données. Plus révélateur : 67 % des entreprises n’ont pas réussi à mettre en production même la moitié de leurs pilotes. Cet écart de production est moins une question de maturité technologique qu’une question de préparation des données sous-jacentes. Le potentiel du GenAI dépend de la solidité des bases sur lesquelles il repose. Aujourd’hui, pour la plupart des organisations, ces bases sont précaires.
Pourquoi le GenAI est-il bloqué en phase pilote ?
Bien que les solutions GenAI soient puissantes, elles ne sont efficaces que si les données qui les alimentent sont fiables. L’adage « des déchets en entrée, des déchets en sortie » est plus vrai que jamais. Sans des données fiables, complètes, explicables et compréhensibles, les modèles GenAI produisent souvent des résultats inexactes, biaisés ou inadaptés.
Malheureusement, les organisations se sont précipitées pour déployer des cas d’utilisation peu exigeants, comme des chatbots alimentés par l’IA offrant des réponses personnalisées à partir de documents internes. Bien que ces solutions améliorent l’expérience client dans une certaine mesure, elles ne nécessitent pas de changements profonds dans l’infrastructure des données d’une entreprise. Pour faire évoluer le GenAI de manière stratégique, que ce soit dans les secteurs de la santé, des services financiers ou de l’automatisation de la chaîne d’approvisionnement, une maturité des données à un niveau supérieur est requise.
En fait, 56 % des Directeurs des Données citent la fiabilité des données comme un obstacle majeur au déploiement de l’IA. D’autres problèmes incluent des données incomplètes (53 %), des questions de confidentialité (50 %) et des lacunes plus larges en matière de gouvernance de l’IA (36 %).
Pas de gouvernance, pas de GenAI
Pour faire avancer le GenAI au-delà de la phase pilote, les entreprises doivent traiter la gouvernance des données comme une priorité stratégique. Elles doivent s’assurer que les données sont prêtes à alimenter les modèles d’IA, et pour ce faire, les questions suivantes doivent être abordées :
- Les données utilisées pour former le modèle proviennent-elles des bons systèmes ?
- Avons-nous supprimé les informations personnellement identifiables et respecté toutes les réglementations en matière de données et de confidentialité ?
- Sommes-nous transparents et pouvons-nous prouver la provenance des données utilisées par le modèle ?
- Pouvons-nous documenter nos processus de données et être prêts à montrer que les données ne sont pas biaisées ?
La gouvernance des données doit également être intégrée dans la culture de l’organisation. Pour ce faire, il est nécessaire de développer la littératie en matière d’IA au sein de toutes les équipes. La Loi sur l’IA de l’UE formalise cette responsabilité, exigeant à la fois des fournisseurs et des utilisateurs de systèmes d’IA qu’ils fassent de leur mieux pour garantir que les employés sont suffisamment formés en IA, en veillant à ce qu’ils comprennent comment ces systèmes fonctionnent et comment les utiliser de manière responsable. Cependant, l’adoption efficace de l’IA va au-delà des connaissances techniques. Elle exige également une solide base en compétences de données, allant de la compréhension de la gouvernance des données à la formulation de questions analytiques. Traiter la littératie en IA de manière isolée par rapport à la littératie des données serait une vision à court terme, étant donné à quel point elles sont interconnectées.
En ce qui concerne la gouvernance des données, il reste encore du travail à faire. Parmi les entreprises qui souhaitent augmenter leurs investissements dans la gestion des données, 47 % s’accordent à dire que le manque de littératie des données est un obstacle majeur. Cela souligne la nécessité d’un soutien de haut niveau et du développement des compétences adéquates au sein de l’organisation. Sans ces fondations, même les modèles de langage les plus puissants auront du mal à délivrer.
Développer une IA qui doit être tenue responsable
Dans le contexte réglementaire actuel, il ne suffit plus que l’IA « fonctionne ». Elle doit également être responsable et expliquée. La Loi sur l’IA de l’UE et le plan d’action sur l’IA proposé par le Royaume-Uni exigent de la transparence dans les cas d’utilisation de l’IA à haut risque. D’autres suivent cette tendance, et plus de 1 000 projets de loi connexes sont à l’ordre du jour dans 69 pays.
Ce mouvement mondial vers la responsabilité est une réponse directe à l’augmentation des demandes des consommateurs et des parties prenantes en faveur de l’équité dans les algorithmes. Par exemple, les organisations doivent être en mesure d’expliquer les raisons pour lesquelles un client a été refusé pour un prêt ou a été facturé un tarif d’assurance élevé. Pour y parvenir, elles doivent savoir comment le modèle a pris cette décision, ce qui dépend d’une traçabilité claire et d’un audit des données utilisées pour son entraînement.
Sans cette explicabilité, les entreprises risquent de perdre la confiance de leurs clients ainsi que de faire face à des répercussions financières et juridiques. En conséquence, la traçabilité de la provenance des données et la justification des résultats ne sont pas un « atout », mais une exigence de conformité.
À mesure que le GenAI passe de l’utilisation d’outils simples à des agents pleinement fonctionnels capables de prendre des décisions et d’agir en conséquence, les enjeux d’une gouvernance des données solide augmentent encore.
Étapes pour construire une IA digne de confiance
Alors, à quoi ressemble une bonne gouvernance ? Pour faire évoluer le GenAI de manière responsable, les organisations devraient adopter une stratégie de données unique autour de trois piliers :
- Adapter l’IA aux objectifs commerciaux : Cataloguez vos données autour des objectifs commerciaux clés, en veillant à ce qu’elles reflètent le contexte, les défis et les opportunités uniques spécifiques à votre entreprise.
- Établir la confiance dans l’IA : Mettez en place des politiques, des normes et des processus pour la conformité et la supervision de l’IA éthique et responsable.
- Construire des pipelines de données prêts pour l’IA : Combinez vos diverses sources de données en une base de données résiliente pour un développement robuste de l’IA intégrant des connexions GenAI préétablies.
Lorsque les organisations réussissent cela, la gouvernance accélère la valeur de l’IA. Dans les services financiers, par exemple, les fonds spéculatifs utilisent le GenAI pour surpasser les analystes humains dans la prédiction des prix des actions tout en réduisant considérablement les coûts. Dans le secteur manufacturier, l’optimisation de la chaîne d’approvisionnement pilotée par l’IA permet aux organisations de réagir en temps réel aux changements géopolitiques et aux pressions environnementales.
Et ces idées ne sont pas simplement futuristes ; elles se concrétisent maintenant, grâce à des données fiables.
Avec des bases de données solides, les entreprises réduisent le dérive des modèles, limitent les cycles de réentraînement et augmentent la vitesse de création de valeur. C’est pourquoi la gouvernance n’est pas un obstacle ; c’est un facilitateur d’innovation.
Quelles sont les prochaines étapes ?
Après l’expérimentation, les organisations passent au-delà des chatbots et investissent dans des capacités transformantes. De la personnalisation des interactions avec les clients à l’accélération de la recherche médicale et à la simplification des processus réglementaires, le GenAI commence à démontrer son potentiel à travers diverses industries.
Cependant, ces gains dépendent entièrement des données qui les sous-tendent. Le GenAI commence par la construction d’une base de données solide, grâce à une gouvernance des données robuste. Et bien que le GenAI et l’IA agentique continuent d’évoluer, il ne remplacera pas la supervision humaine de sitôt. Au contraire, nous entrons dans une phase de création de valeur structurée, où l’IA devient un co-pilote fiable. Avec les bons investissements dans la qualité des données, la gouvernance et la culture, les entreprises peuvent enfin transformer le GenAI d’un pilote prometteur en quelque chose qui prend vraiment son envol.
