Gouvernance de l’intelligence artificielle responsable en oncologie
La gouvernance de l’intelligence artificielle (IA) joue un rôle crucial dans le domaine de l’oncologie, où l’IA transforme les soins de santé. Actuellement, des recherches évaluent la mise en œuvre de l’IA à chaque étape du parcours de cancer d’un patient, y compris le matching des essais cliniques, le soutien à la décision des équipes de soins, et divers domaines de recherche sur le cancer.
Introduction
L’IA est en train de révolutionner le secteur de la santé, et l’oncologie ne fait pas exception. Des outils tels que les dispositifs médicaux alimentés par l’IA sont déjà en cours d’évaluation et de mise en œuvre. Selon les données de la Food and Drug Administration (FDA), le registre des dispositifs médicaux basés sur l’IA et l’apprentissage automatique comptait 949 “dispositifs” en août 2024, dont 75 spécifiques à l’oncologie.
Défis de l’IA responsable
Malgré les avancées, des cadres spécifiques à l’IA responsable (RAI) pour l’oncologie restent à établir. Bien que plusieurs cadres et réglementations émergent, aucune ne traite des défis uniques de l’implémentation de l’IA en oncologie. Les cas d’utilisation spécifiques à l’oncologie incluent la prédiction de l’évolution tumorale, l’analyse d’images pathologiques, et la planification de traitements en oncologie radiologique. Les risques d’un accès inégal aux soins de cancer équitables pourraient être exacerbés par l’IA, compte tenu des disparités existantes dans le dépistage et les résultats de traitement.
Modèle de gouvernance de l’IA
Ce rapport présente un modèle de gouvernance de l’IA responsable mis en œuvre dans un centre de cancérologie. Les objectifs principaux étaient de concevoir une approche de gouvernance de l’IA responsable pour l’oncologie et de mettre en œuvre les leçons apprises après une année d’expérience. Le modèle de gouvernance a été développé pour évaluer et surveiller 26 modèles d’IA, y compris des modèles de langage et des pilotes d’IA ambiante.
Phase 1 – Conception et développement
La première phase a abouti à l’identification de quatre défis principaux : l’accès à des données de haute qualité, la puissance de calcul, la capacité en talents en IA, et l’élaboration de politiques et de procédures. Un inventaire initial des modèles d’IA a identifié 87 projets actifs, dont une majorité dans le domaine de la recherche.
Phase 2 – Mise en œuvre
La mise en œuvre a nécessité la gestion d’un portefeuille de modèles d’IA à divers stades de développement. Un registre des modèles permet de suivre quel modèle se trouve à chaque étape du processus de gouvernance. La collecte de données sur la performance et l’impact des modèles en production est essentielle pour garantir leur sécurité et leur efficacité.
Exemples de cas d’utilisation
Deux études de cas illustrent le processus de gouvernance en action : un modèle d’IA acquis de radiologie et un modèle construit en interne par le département de physique médicale. Le premier exemple concerne un modèle approuvé par la FDA qui aide les radiologues à trier les mammographies, tandis que le second est un modèle de segmentation de tumeurs développé pour le traitement des métastases cérébrales.
Conclusion
Cette étude démontre qu’une gouvernance et une assurance qualité des modèles d’IA en oncologie sont réalisables à grande échelle, mais nécessitent des composants clés pour réussir. Les questions ouvertes pour la recherche future incluent la gouvernance des modèles construits allant directement à la commercialisation et la meilleure façon de gérer les événements indésirables liés à l’IA.
À mesure que la demande pour l’IA dans le domaine de l’oncologie continue de croître, il est impératif de prioriser des approches de gouvernance qui équilibrent l’innovation et la sécurité des patients.
