Comment une biopharma mondiale est devenue un leader dans l’IA éthique
L’intelligence artificielle (IA) est devenue un agent de transformation clé, créant des opportunités pour un aperçu et une efficacité améliorés dans toutes les industries. Le secteur biopharmaceutique n’est pas une exception.
Un client, une entreprise biopharmaceutique mondiale, avait précédemment effectué une évaluation interne de l’IA pour évaluer la maturité de ses processus dans ce domaine émergent, ce qui a permis d’identifier plusieurs lacunes. La plus pressante était l’absence d’un cadre de gouvernance de l’IA.
L’entreprise a compris que combler cette lacune serait une étape essentielle pour atteindre un état mature rapidement, lui permettant de tirer parti des opportunités de l’IA tout en atténuant les risques techniques, sociaux et éthiques, y compris les biais de décision et les violations de la vie privée.
Le client a ensuite développé un cadre de gouvernance de l’IA complet embrassant des principes d’IA responsable tels que la transparence, l’équité et l’orientation humaine.
Cependant, la direction avait besoin d’assurance qu’elle avançait dans la bonne direction et a donc recherché un partenaire indépendant.
Une évaluation a révélé que l’entreprise biopharmaceutique ne gérait pas toujours les risques spécifiques aux projets d’IA conformément à ses principes d’IA responsable. L’audit a mis en évidence plusieurs lacunes dans son approche, permettant de définir des exigences minimales pour les équipes travaillant avec l’IA.
Bien que le client ait été un précurseur de la gestion des risques liés à l’IA dans son secteur, cette évaluation a fourni une confiance dans son approche et mis en évidence des opportunités d’amélioration.
Notre examen détaillé a aidé l’entreprise à comprendre la nécessité de changements majeurs dans son approche de la gouvernance de l’IA. Cela incluait une meilleure évaluation des risques liés à l’IA des tiers et un nouvel inventaire central de l’IA, qui est fondamental pour la gestion des risques liés à l’IA et l’habilitation à la conformité réglementaire.
Défis de la gouvernance de l’IA
Il est devenu clair qu’il n’existe pas de méthode unique de gouvernance de l’IA, ce qui rend le défi plus grand pour certaines entreprises. Par exemple, les entreprises plus fédérées avec une autonomie distribuée doivent trouver un moyen d’atteindre la cohérence entre plusieurs unités sans une autorité unique pour surveiller la gouvernance de l’IA.
Il est également essentiel qu’une révision indépendante qui considère la gouvernance de l’IA d’une organisation comme inadaptée incite la direction à apporter les changements structurels nécessaires ou à mettre en place un conseil de gouvernance pour créer une meilleure adéquation.
Une telle révision doit être aussi personnalisable que la structure organisationnelle d’une entreprise, car les responsabilités et les leaderships varient.
Collaboration avec un partenaire indépendant
Il est primordial d’avoir le soutien d’un partenaire indépendant capable de personnaliser le processus d’évaluation. Cela ajoute de la valeur en aidant une organisation à développer des processus de gouvernance de l’IA appropriés à son activité, augmentant ainsi la probabilité de conformité réglementaire.
Cela permettra à la direction de protéger les parties prenantes, y compris le public, des risques de l’IA, en gardant l’humain au centre de la transformation.
