Quand le silence signale la sécurité : gouvernance et responsabilité dans la vérification des prescriptions alimentée par l’IA
L’intelligence artificielle (IA) est de plus en plus intégrée dans les flux de travail de vérification des prescriptions, tant dans les milieux hospitaliers qu’ambulatoires. Les systèmes d’apprentissage automatique filtrent désormais les ordres de médicaments, priorisent l’examen par les pharmaciens et, dans certaines mises en œuvre, suppriment ou dépriorisent les alertes jugées à faible risque. Ces outils sont généralement introduits comme des améliorations incrémentielles au soutien à la décision clinique existant, promettant une efficacité accrue tout en maintenant ou en améliorant la sécurité.
Changement de fonctionnement de la vérification des prescriptions
Les premiers déploiements indiquent que les modèles d’apprentissage automatique peuvent identifier les prescriptions présentant une probabilité plus élevée d’erreur médicamenteuse tout en réduisant les interruptions inutiles dans le flux de travail des pharmaciens. Cependant, ces systèmes modifient également la manière dont la sécurité est déduite. Dans les mises en œuvre reposant sur le triage ou la suppression d’alertes, lorsqu’un ordre de médicament est traité sans interruption algorithmique, l’absence d’alerte ou de signal peut être interprétée comme une confirmation de correction.
Avec l’expansion de l’adoption, la vérification des prescriptions peut passer, dans certains contextes, d’un point de contrôle actif basé sur le jugement à un processus de plus en plus médié par la reassurance algorithmique. Historiquement, la vérification de prescription a servi de protection cognitive dans le processus d’utilisation des médicaments. Au-delà de l’identification des violations explicites des règles, elle a exigé des cliniciens qu’ils interprètent les ordres en fonction de facteurs spécifiques au patient tels que les comorbidités et l’intention clinique.
Les dangers de la confiance excessive dans l’automatisation
La vérification alimentée par l’IA modifie cette fonction. Lorsqu’un ordre est approuvé silencieusement par un algorithme, la reassurance est transmise de manière implicite plutôt que par une recommandation explicite. Au fil du temps, ce « silence » algorithmique peut remplacer la validation clinique, modifiant la manière dont les cliniciens déterminent la sécurité des prescriptions.
Ce changement illustre une réponse humaine bien documentée à l’automatisation. Lorsque les systèmes semblent sélectifs et fiables, les cliniciens ont tendance à leur faire davantage confiance et à les remettre en question moins fréquemment. Ce phénomène, connu sous le nom de biais d’automatisation, a montré qu’il influence la supervision des pharmaciens et la prise de décision clinique, conduisant les cliniciens à se fier aux résultats informatiques même lorsque ceux-ci peuvent être incomplets ou incorrects.
Risques introduits par les systèmes de vérification
Les systèmes de vérification alimentés par l’IA introduisent également des risques qui ne sont pas immédiatement apparents au point de soins. Les modèles d’apprentissage automatique dépendent de distributions de données qui évoluent au fil du temps. Par conséquent, la performance du système peut se dégrader progressivement sans indications claires d’échec. Des preuves provenant de systèmes d’IA cliniques déployés montrent que la dérive des données est une source courante de dégradation de la performance.
Lorsque les dommages deviennent finalement apparents, ils ne résultent généralement pas d’une seule vérification manquée ou d’un moment identifiable d’échec. Au lieu de cela, ils émergent comme un schéma systémique diffus difficile à retracer. Cela remet en question les approches traditionnelles de la sécurité des médicaments, qui se concentrent souvent sur des événements indésirables discrets plutôt que sur l’accumulation graduelle de vulnérabilités au sein de systèmes complexes.
Problèmes de gouvernance et responsabilité
Ces dynamiques compliquent également la définition et la mesure de la sécurité. Les réductions du volume d’alertes, les améliorations de l’efficacité des flux de travail et les gains en performance prédictive sont souvent interprétés comme des indicateurs de soins plus sûrs, alors qu’ils décrivent principalement le comportement du système plutôt que la sécurité clinique.
Pour faire face à ces défis, il est nécessaire de reconsidérer la vérification des prescriptions comme une activité socio-technique plutôt que comme une fonction purement technique. Les cadres de gouvernance doivent clarifier qui est responsable du suivi du comportement des systèmes d’IA, comment les changements de performance sont détectés et quand une intervention est requise. La préservation du jugement humain est également cruciale. L’IA ne doit pas être considérée comme un garde-fou remplaçant le raisonnement clinique, mais comme un outil qui le redéfinit.
Conclusion
En fin de compte, la réalisation des avantages des systèmes de vérification des prescriptions alimentés par l’IA dépendra de structures de gouvernance qui équilibrent efficacité et responsabilité, ainsi qu’automatisation et jugement clinique soutenu. Lorsque le silence n’est plus considéré comme un signal de sécurité, l’IA pourra plus efficacement soutenir des systèmes d’utilisation des médicaments résilients.
