4 indispensables pour les dirigeants de la santé déployant des scribes AI ambiants à grande échelle
Les médecins apprécient leurs scribes numériques. Une étude récente a montré qu’un tiers d’entre eux utilise déjà cette technologie émergente pour capturer des contenus clés lors des rencontres avec les patients.
Cette adoption rapide peut être considérée comme un bon problème, mais elle pose néanmoins des défis. Pour les hôpitaux et les systèmes de santé, le véritable défi réside dans le fait que la technologie dépasse la validation, la transparence et la supervision réglementaire à travers toute l’entreprise.
Une étude publiée récemment examine cette situation et offre des perspectives basées sur des preuves pour les dirigeants de la santé qui cherchent à déployer des scribes AI ambiants dans divers environnements de soins.
Les scribes AI ambiants promettent de transformer la documentation clinique et d’alléger le fardeau cognitif et administratif des cliniciens. Cependant, leur succès dépend non seulement de la sophistication technique, mais également de la conception éthique, de l’évaluation inclusive et de la clarté de la gouvernance.
1. Conception éthique
De nombreux problèmes éthiques et réglementaires ont émergé avec la prolifération des scribes AI ambiants dans les environnements cliniques. Parmi les préoccupations, on trouve le biais des modèles, les biais d’automatisation, les hallucinations et le potentiel de désinformation, ainsi que le manque de transparence dans les données d’entraînement.
Les dilemmes éthiques dans les flux de travail cliniques vont au-delà de ces aspects et incluent la transparence, la confidentialité, l’équité et la responsabilité.
2. Développement inclusif et atténuation des biais
Les systèmes basés sur des modèles de langage de grande taille (LLM) peuvent reproduire, voire amplifier, les biais présents dans les ensembles de données d’entraînement. Si les scribes AI ambiants ne sont pas formés sur des modèles linguistiques divers, ils risquent d’exclure ou de mal comprendre des groupes sous-représentés.
Les auteurs appellent à une évaluation prudente de ces outils par les utilisateurs eux-mêmes, en soulignant que des analyses futures devraient inclure une composante qualitative pour évaluer les expériences des médecins et des patients.
3. Validation contextuelle
Les environnements à haute acuité, bien qu’ils partagent de nombreuses similitudes, tendent à être très diversifiés entre les organisations. Ces variations peuvent impacter l’efficacité et la sécurité des scribes AI ambiants.
La planification de l’implémentation, l’engagement des utilisateurs et le suivi post-déploiement sont essentiels pour le succès et la gestion des risques dans différents contextes.
4. Gouvernance claire et robuste
La surveillance en pratique doit inclure la performance, l’équité et les cas d’« acceptation dangereuse », qui désignent l’utilisation non corrigée d’un élément généré par un scribe dans des contextes de fiabilité réduite.
Un potentiel pour contourner les limitations actuelles est de former des évaluateurs basés sur des LLM pour évaluer la précision, la pertinence et l’achèvement des tâches dans chaque spécialité à haute acuité.
Les auteurs concluent en soulignant qu’avec une connaissance des limitations actuelles et une intégration soigneuse, les scribes AI ambiants peuvent évoluer d’outils de transcription passifs à des partenaires de confiance dans la prestation de soins complexes.
