5 étapes pour une gouvernance efficace des scribes IA
Les outils IA ambiants démontrent leur valeur en réduisant le stress des cliniciens et la charge documentaire, mais leur utilisation comporte des risques. Une nouvelle étude propose des conseils pour garantir leur gouvernance et leur utilisation de manière efficace et sécurisée.
Points clés
Les organisations de santé adoptent avec enthousiasme les outils IA ambiants pour capturer les interactions médecin-patient, réduisant ainsi le stress, l’épuisement professionnel et la pression administrative sur les cliniciens.
Cependant, des inquiétudes émergent quant au fait que la gouvernance pourrait devancer l’adoption, et que les leaders de la santé ne préparent pas adéquatement leurs cliniciens à une utilisation sécurisée de ces outils.
Une gouvernance solide et un suivi approprié peuvent aider les leaders de la santé à réduire le risque d’erreurs de transcription, de violations de la HIPAA et de préjudices potentiels tant pour les patients que pour les prestataires.
Alors que les outils IA ambiants sont en vogue dans le secteur de la santé, leur adoption rapide expose les prestataires de santé à des risques.
Une étude récente de l’Université de Columbia révèle que les scribes IA sont efficaces pour réduire le stress et l’épuisement des cliniciens en allégeant les charges documentaires. Cependant, ce potentiel doit être mis en balance avec le risque d’erreurs de documentation, de préoccupations en matière de confidentialité et d’un manque de transparence.
Les chercheurs concluent : « À l’avenir, nous devons équilibrer innovation et sauvegardes grâce à une validation rigoureuse, une transparence, des réglementations claires et une mise en œuvre réfléchie pour protéger la sécurité des patients et préserver l’intégrité clinique. La question clé n’est pas de savoir s’il faut adopter ces outils, mais comment le faire de manière responsable, en veillant à ce qu’ils améliorent les soins sans éroder la confiance. »
Inquiétudes majeures
L’étude cite quatre préoccupations liées aux scribes :
- Hallucinations : Les outils IA peuvent générer un contenu inexact ou même fictif, comme des diagnostics ou des études de cas inexistants. Cela est particulièrement vrai si un scribe n’est pas formé au langage d’une spécialité particulière.
- Omissions : Un scribe pourrait ne pas être en mesure de suivre l’intégralité de la conversation, surtout s’il y a plusieurs intervenants, et pourrait manquer des informations vitales.
- Interprétations erronées : Certains scribes IA peuvent ne pas être formés pour comprendre le jargon médical ou le contexte lié à une spécialité comme la pédiatrie ou la santé mentale, et ils ne peuvent pas suivre les communications non verbales, y compris les gestes et les signes visuels de malaise ou de stress.
- Mauvaise identification des intervenants : Si plusieurs personnes se trouvent dans la pièce (comme lors d’un examen pédiatrique), le scribe pourrait avoir du mal à suivre qui parle. De plus, les systèmes de reconnaissance vocale sous-jacents aux scribes IA pourraient rencontrer des difficultés avec des locuteurs afro-américains, entraînant des taux d’erreur plus élevés.
Une préoccupation clé est que les scribes ambiants ne sont pas équipés pour différencier ce qui doit être inclus dans le dossier médical et ce qui peut être omis. Une recherche a indiqué qu’environ la moitié des problèmes des patients et 21 % des interventions de soins discutées par des infirmiers en soins à domicile et des patients ne figurent pas dans le DSE.
« Ces lacunes sont survenues pour diverses raisons, notamment des problèmes en dehors du champ de pratique des cliniciens conversants ou des questions jugées non suffisamment graves pour justifier une documentation. »
Autres enjeux
D’autres préoccupations existent également. « L’absence de transparence de ces systèmes complique l’identification des biais et la fiabilité de la documentation générée. »
Les outils IA pourraient également entraîner des attentes accrues, certaines organisations de santé constatant que les médecins ne perçoivent pas de bénéfices significatifs de leur utilisation. « Les organisations de santé pourraient répondre en augmentant les attentes en matière de volume de patients, créant ainsi un paradoxe de charge de travail. »
Assurer une gouvernance efficace
Il est essentiel de mettre en place des garde-fous pour l’utilisation des scribes IA dans les soins cliniques. À cet égard, l’étude propose cinq recommandations :
- Établir des normes de validation rigoureuses : Utiliser des métriques standardisées pour l’exactitude, l’exhaustivité et le temps économisé.
- Exiger la transparence : S’assurer que les fournisseurs divulguent le fonctionnement de ces outils, les données utilisées et leurs limites, y compris les biais.
- Développer des cadres réglementaires clairs : Définir la responsabilité en cas d’erreurs et établir des attentes claires pour leur correction.
- Mettre en œuvre des protocoles cliniques réfléchis : Établir des programmes de formation robustes et des processus d’assurance qualité pour l’utilisation des scribes IA.
- Investir dans la recherche : Allouer des fonds pour soutenir des recherches indépendantes sur les impacts à long terme des scribes IA sur la qualité et la prise de décision clinique.
Ces recommandations visent à garantir que l’intégration des scribes IA dans les soins cliniques se fasse de manière sécurisée et bénéfique pour les patients et les prestataires.
