Quando il Silenzio Segnala Sicurezza: Governance e Responsabilità nella Verifica delle Prescrizioni Abilitata dall’AI
L’intelligenza artificiale (AI) è sempre più integrata nei flussi di lavoro di verifica delle prescrizioni sia in ambienti ospedalieri che ambulatoriali. I sistemi di apprendimento automatico filtrano gli ordini di medicazione, danno priorità alla revisione da parte del farmacista e, in alcune implementazioni, sopprimono o declassano avvisi considerati a basso rischio. Questi strumenti sono tipicamente introdotti come miglioramenti incrementali al supporto decisionale clinico esistente, promettendo maggiore efficienza mantenendo o migliorando la sicurezza.
Modifiche nella Verifica delle Prescrizioni
I primi utilizzi indicano che i modelli di apprendimento automatico possono identificare prescrizioni con una maggiore probabilità di errore medico, riducendo al contempo le interruzioni non necessarie nel flusso di lavoro del farmacista. Tuttavia, questi sistemi alterano il modo in cui viene interpretata la sicurezza. In implementazioni che si basano sulla triage o sulla soppressione degli avvisi, quando un ordine di medicazione procede senza interruzione algoritmica, l’assenza di un avviso può essere interpretata come conferma di correttezza.
Bias di Automazione e Rischi
Con l’espansione dell’adozione, la verifica delle prescrizioni potrebbe spostarsi, in specifici contesti, da un checkpoint attivo e basato sul giudizio a un processo sempre più mediato da rassicurazioni algoritmiche. Questo cambiamento esemplifica una risposta umana ben documentata all’automazione. Quando i sistemi sembrano selettivi e affidabili, i clinici tendono a fidarsi di essi di più e a metterli in discussione meno frequentemente.
Il bias di automazione è particolarmente consequenziale nella verifica delle prescrizioni, poiché la fiducia è rinforzata non da ciò che i sistemi comunicano, ma da ciò che omettono. La routine di approvazione della maggior parte degli ordini senza interruzione può normalizzare il silenzio come prova di sicurezza.
Degradazione delle Prestazioni e Rischi Emergenti
I sistemi di verifica delle prescrizioni abilitati dall’AI introducono anche rischi che non sono immediatamente evidenti al momento della cura. I modelli di apprendimento automatico dipendono da distribuzioni di dati che evolvono nel tempo, e le prestazioni del sistema possono degradarsi gradualmente senza chiare indicazioni di fallimento. È fondamentale un monitoraggio continuo piuttosto che una validazione una tantum.
Governance e Responsabilità
Questi strumenti sono spesso trattati come infrastrutture tecniche piuttosto che come fonti di rischio clinico. La responsabilità per la loro progettazione, aggiornamento e manutenzione può essere distribuita tra fornitori, team IT e leadership operativa, mentre i programmi di sicurezza dei farmaci rimangono responsabili per i risultati. Questo crea un punto cieco strutturale in cui coloro che sono ritenuti responsabili per la sicurezza possono mancare dell’autorità e della visibilità necessarie per supervisionare in modo significativo come questi sistemi evolvono nella pratica.
Conclusione
Affrontare queste sfide richiede un ripensamento della verifica delle prescrizioni come un’attività socio-tecnica piuttosto che una funzione puramente tecnica. Le strutture di governance devono chiarire chi è responsabile per il monitoraggio del comportamento del sistema AI, come vengono rilevati i cambiamenti nelle prestazioni e quando è necessario intervenire. La verifica deve rimanere un processo cognitivo attivo, anche quando i sistemi offrono rassicurazione. Quando il danno deriva da flussi di lavoro approvati algoritmicamente, i clinici possono sperimentare un’erosione delle abilità di verifica e ambiguità riguardo alla responsabilità.
Quando il silenzio non è più presunto segnalare sicurezza, l’AI può supportare più efficacemente sistemi di utilizzo dei farmaci resilienti.
