Rischi Potenziali per la Sicurezza dei Pazienti nell’Uso dell’IA da Parte della VHA
Secondo una nuova analisi, l’uso di strumenti di chat basati su intelligenza artificiale generativa da parte dell’Amministrazione per la Salute dei Veterani presenta “un potenziale rischio per la sicurezza dei pazienti”. La revisione del 15 gennaio evidenzia che la VHA non dispone di un meccanismo formale per identificare, monitorare o risolvere i rischi associati all’IA generativa, sollevando preoccupazioni su come venga garantita la sicurezza dei pazienti durante il suo utilizzo in contesti clinici.
Collaborazione Informale e Autorizzazione degli Strumenti
Le iniziative legate all’IA nella sanità della VHA sono gestite attraverso una “collaborazione informale” tra i dirigenti competenti, senza coordinamento con i centri di sicurezza dei pazienti al momento dell’autorizzazione degli strumenti di chat per uso clinico. Attualmente, la VHA ha autorizzato due strumenti di chat per l’uso con informazioni sulla salute dei pazienti.
Preoccupazioni Relative all’Affidabilità degli Strumenti di IA
Benché questi strumenti siano progettati per supportare il processo decisionale clinico, è stato messo in guardia che i sistemi di IA generativa possono produrre output imprecisi o incompleti, comprese omissioni che potrebbero influenzare diagnosi o decisioni terapeutiche. La mancanza di un processo standardizzato per gestire i rischi legati all’IA solleva dubbi sulla capacità della VHA di promuovere e salvaguardare la sicurezza dei pazienti.
Conclusioni e Raccomandazioni Future
Il documento di revisione attuale non include raccomandazioni formali, poiché l’analisi è ancora in corso. Tuttavia, è stato osservato che solo il 10% delle agenzie governative dispone di una governance centralizzata per l’IA, mentre una parte significativa non ha controlli dedicati e mancano meccanismi automatizzati per revocare sistemi di IA ad alto rischio. La revisione continuerà a coinvolgere i leader della VHA e includerà un’analisi approfondita delle scoperte nel rapporto finale.
