L’IA accelera nell’assistenza sanitaria: chi dovrebbe regolamentarla?
L’intelligenza artificiale (IA) si sta rapidamente integrando nel settore sanitario, portando potenziali benefici ma anche insidie come il bias che può causare cure disuguali e il burnout tra i medici e gli operatori sanitari. La questione di come dovrebbe essere regolamentata negli Stati Uniti rimane irrisolta.
Nel mese di settembre, un ente di accreditamento ospedaliero e una coalizione per la salute IA hanno emesso raccomandazioni per l’implementazione dell’IA nell’assistenza medica, con l’onere della conformità che ricade in gran parte sulle singole strutture.
Necessità di regolamentazione
Quando l’IA medica gestisce situazioni a medio o alto rischio, è necessaria una regolamentazione, sia essa interna o governativa. Fino ad ora, la maggior parte della regolamentazione è stata interna, con differenze su come ogni sistema ospedaliero valida, rivede e monitora l’IA sanitaria.
Se questa valutazione viene effettuata singolarmente da ospedale a ospedale, i costi possono diventare significativi, rendendo possibile per alcune strutture farlo mentre altre non possono. La regolamentazione dall’alto, invece, tende a essere più lenta, il che potrebbe ostacolare il progresso in questo settore.
Tipi di prodotti IA nel settore sanitario
C’è una miscela complicata di prodotti IA che entrano negli ospedali. Alcuni possono assistere con acquisti interni e revisioni, ma molti sono clinici o adiacenti alla clinica. Alcuni prodotti IA medici interagiscono direttamente con i consumatori, come i chatbot utilizzati per la salute mentale, per i quali la necessità di regolamentazione è molto più chiara.
Velocità nella regolamentazione
Questo ecosistema di innovazione ha molta energia da startup, il che è positivo, ma la tecnologia può scalare rapidamente senza molta revisione interna. Quando si entra in una “dinamica di gara”, c’è il rischio che le questioni etiche vengano trascurate rapidamente, sia che si tratti di un primo sviluppo, di una startup in competizione con il tempo o di una gara nazionale per sviluppare l’intelligenza artificiale.
La maggior parte dell’IA medica non è mai stata esaminata da un regolatore federale e probabilmente nemmeno da uno statale. È necessario stabilire standard per l’IA sanitaria e incentivare l’adozione di tali standard, ma sottoporre tutto a un rigoroso processo di approvazione, come quello della FDA per i farmaci, può essere costoso e lento.
Prospettive e raccomandazioni
Le raccomandazioni richiedono che, quando appropriato, i pazienti siano informati quando l’IA influisce direttamente sulla loro cura e che venga ottenuto il consenso per l’uso di un agente IA, rappresentando una posizione forte. Le linee guida prevedono anche monitoraggio continuo della qualità e test costanti delle prestazioni dell’IA.
Se queste raccomandazioni vengono prese sul serio, potrebbero risultare difficili e costose da implementare, richiedendo comitati multidisciplinari per misurare costantemente accuratezza, errori e bias.
Disuguaglianze nell’accesso all’IA
Molti ospedali negli Stati Uniti sono piccoli ospedali comunitari e le risorse costituiscono un problema significativo. La valutazione di un nuovo algoritmo complesso può costare tra 300.000 e 500.000 dollari, un costo fuori portata per molti sistemi ospedalieri. Questa disparità potrebbe amplificare le disuguaglianze nell’accesso alle cure.
È essenziale che il monitoraggio dell’IA medica venga effettuato da un ente più ampio, come un’organizzazione privata in partnership con il governo, per garantire che le strutture sanitarie possano fare affidamento su standard condivisi.
Conclusione
Nonostante le sfide, c’è un ottimismo riguardo al potenziale dell’IA medica per migliorare il sistema sanitario in futuro. È fondamentale che le preoccupazioni distribuzionali vengano integrate in qualsiasi tentativo di legislazione in questo settore per garantire che tutti possano beneficiare di queste tecnologie, specialmente in contesti con meno risorse.
