Les risques potentiels pour la sécurité des patients liés à l’utilisation de l’IA par la VHA
Selon une nouvelle analyse, l’utilisation d’outils de chat d’intelligence artificielle (IA) générative par l’administration des anciens combattants (VHA) pour les soins cliniques présente un risque potentiel pour la sécurité des patients.
Analyse de la situation actuelle
La revue du 15 janvier révèle que la VHA ne dispose pas de mécanisme formel pour identifier, suivre ou résoudre les risques associés à l’IA générative, ce qui soulève des inquiétudes quant à la protection de la sécurité des patients alors que la technologie est déployée dans des environnements cliniques.
Selon l’analyse, les efforts de la VHA en matière d’IA pour les soins de santé sont menés par une « collaboration informelle » entre les responsables de l’IA au sein de l’administration. Ces responsables n’ont pas coordonné avec le centre national pour la sécurité des patients lors de l’autorisation des outils de chat IA pour un usage clinique.
Outils autorisés et préoccupations
La VHA a autorisé deux outils de chat IA pour l’utilisation avec les informations de santé des patients : un outil de chat Microsoft 365 Copilot et un outil de chat interne récemment lancé.
Bien que ces outils soient destinés à soutenir la prise de décision clinique, il est précisé que les systèmes d’IA générative peuvent produire des résultats inexactes ou incomplets, y compris des omissions pouvant affecter les diagnostics ou les décisions de traitement.
Inquiétudes et recommandations
Les préoccupations concernant la capacité de la VHA à promouvoir et à protéger la sécurité des patients sans un processus standardisé pour gérer les risques liés à l’IA sont significatives. De plus, l’absence d’un tel processus empêche une boucle de rétroaction et un moyen de détecter des schémas pouvant améliorer la sécurité et la qualité des outils de chat IA utilisés dans les milieux cliniques.
Étant donné la nature critique de la question, il est largement partagé que les dirigeants de la VHA prennent conscience de ce risque pour la sécurité des patients. L’analyse est en cours et aucune recommandation formelle n’a été émise à ce stade.
Contexte plus large
Cette analyse s’aligne avec les résultats d’un rapport récent, qui avertit que les agences gouvernementales opèrent sans la gouvernance opérationnelle nécessaire pour gérer l’IA en toute sécurité. Une enquête a révélé que seulement 10 % des gouvernements disposent d’une gouvernance centralisée de l’IA.
Il est crucial que les responsables prennent des mesures pour établir des contrôles et des mécanismes appropriés afin de garantir la sécurité et l’efficacité des systèmes d’IA dans le domaine de la santé.
