Gestire la governance dell’IA nella sanità: Cosa devono sapere i consigli di amministrazione
L’intelligenza artificiale (IA) ha rapidamente transitato da programmi pilota a flussi di lavoro clinici e amministrativi fondamentali negli ospedali, ridefinendo il modo in cui viene fornita, documentata e gestita l’assistenza. Il ritmo di adozione supera quello della supervisione e le agenzie federali, le legislazioni statali e le agenzie di enforcement stanno rispondendo contemporaneamente. L’IA avanza rapidamente. Per i consigli di amministrazione dei sistemi sanitari, mantenere il passo con questi sviluppi richiede più della semplice consapevolezza. La governance e la supervisione devono evolversi insieme alla tecnologia stessa. La questione fondamentale è se il vostro consiglio stia attivamente governando l’IA o stia semplicemente gestendo le conseguenze dopo il fatto.
Il panorama normativo: Cosa devono sapere i leader dei sistemi sanitari
I consigli di amministrazione dei sistemi sanitari devono essere consapevoli di un’attività significativa e crescente tra le agenzie federali, le legislazioni statali e gli organi di enforcement, tutti in movimento su percorsi paralleli e collettivamente innalzando il livello per la governance dell’IA nella sanità.
A livello federale, la Casa Bianca ha diretto le agenzie ad accelerare l’adozione dell’IA mentre costruisce guardrail di governance. Le agenzie stanno allineando le loro divisioni operative attorno a standard comuni, mentre creano canali per i fornitori per partecipare alla definizione dell’implementazione. I sistemi Medicare e Medicaid hanno già integrato l’IA in vari aspetti, mentre l’ufficio per i diritti civili ha chiarito che i sistemi automatizzati non diminuiscono gli obblighi di privacy o diritti civili.
Gli stati si stanno muovendo con urgenza per avanzare sia legislazioni complete sia specifiche per settore riguardanti l’IA, incluse leggi che limitano o condizionano il processo decisionale automatizzato nella gestione dell’utilizzo.
Obblighi fiduciari nell’era dell’IA
L’IA non crea nuovi obblighi fiduciari per i membri del consiglio dei sistemi sanitari. Tuttavia, alza le aspettative su come vengono adempiuti gli obblighi esistenti.
Obbligo di diligenza: I membri del consiglio sono tenuti ad agire con la diligenza di una persona ragionevolmente prudente. Nel contesto dell’IA, ciò significa che i consigli non possono trattare l’IA come una semplice questione di gestione o tecnologia. Quando un’organizzazione implementa strumenti di IA che influenzano le cure ai pazienti, i membri del consiglio devono comprendere i rischi materiali coinvolti.
Obbligo di lealtà: L’approvvigionamento di IA sta diventando un investimento organizzativo significativo e il panorama dei fornitori è complesso e in evoluzione. I direttori con legami finanziari con fornitori di IA devono affrontare conflitti di interesse che devono essere divulgati e gestiti.
Obbligo di obbedienza: Per i sistemi sanitari no profit, l’obbligo di obbedienza richiede di garantire che l’organizzazione rimanga fedele alla sua missione caritatevole. Le implementazioni di IA che introducono impatti disparati su popolazioni vulnerabili o compromettono la privacy dei pazienti potrebbero compromettere gli impegni della missione.
Domande che ogni consiglio di amministrazione dei sistemi sanitari dovrebbe porre oggi
Responsabilità: Chi è responsabile delle decisioni relative all’IA all’interno dell’organizzazione? L’adozione dell’IA sta superando lo sviluppo di quadri di governance nella sanità, creando una sfida di supervisione in evoluzione.
Trasparenza: Quali strumenti di IA sono in uso e dove? Le funzioni di IA sono incorporate nei sistemi di registrazione elettronica, nei sistemi di fatturazione e nelle applicazioni dei fornitori, spesso in modo invisibile.
Controllo: Ci sono misure di sicurezza in atto prima che i nuovi strumenti di IA vengano attivati? L’introduzione di un nuovo strumento di IA in un ambiente clinico o operativo comporta implicazioni legali, di sicurezza e di conformità che richiedono una revisione strutturata prima del dispiegamento.
Supervisione: Stiamo ricevendo le informazioni giuste al momento giusto? La supervisione dell’IA richiede più di aggiornamenti periodici; richiede un sistema di monitoraggio documentato che evidenzi i rischi significativi prima che diventino problemi gravi.
Conclusione
La prossima era dell’IA nella sanità ricompenserà le organizzazioni che abbinano innovazione a governance disciplinata. I consigli di amministrazione dei sistemi sanitari che insisteranno su report chiari, controlli collaudati e miglioramenti continui saranno in grado di cogliere i benefici dell’IA proteggendo la sicurezza dei pazienti, la privacy e la conformità ai diritti civili.
