L’AI sta invadendo il settore sanitario. Vogliono porvi rimedio.
Il settore sanitario è entrato in un nuovo mondo coraggioso con l’uso dell’AI nella diagnostica per immagini, nei registri medici elettronici e nel supporto alla salute mentale. Sebbene gli algoritmi che rilevano schemi nelle radiografie e nei registri sanitari abbiano aiutato a risparmiare tempo ai medici, il software AI ha portato a gravi errori nella cura dei pazienti, con pregiudizi razziali che hanno erroneamente declassato la cura dei pazienti neri e anziani, a cui è stata negata la copertura assicurativa per procedure che sarebbero state altrimenti approvate.
Il problema della regolamentazione
Il “metodo a scelta e mescolamento” utilizzato dalla maggior parte dell’industria con l’AI, che consiste nel creare regole al volo piuttosto che seguire linee guida e regolamenti completi, sta iniziando a mostrare segni di cedimento. L’integrazione dell’AI negli ospedali richiede una guida universale che possa aiutare sia i lavoratori IT della sanità che i medici, in un momento in cui la competenza sull’AI è ancora carente.
Progetto di guida etica per l’AI
Un progetto è in fase di avvio per costruire una guida universale sull’uso etico dell’AI in sanità, riunendo scienziati informatici, ricercatori di salute pubblica, eticisti e operatori sanitari per rispondere a una domanda chiave nella tecnologia sanitaria: come insegnare ai tecnici esperti di etica e ai medici, già sensibilizzati eticamente, riguardo alla tecnologia?
Le attuali normative sull’AI sono minime e, senza linee guida etiche chiare, i più di 1.200 dispositivi medici abilitati all’AI approvati dalla FDA presentano potenziali rischi per la sicurezza e la salute. Solo l’8% ha un piano per monitorare l’uso del prodotto dopo l’approvazione della FDA.
Obiettivi della guida
Il primo passo per elaborare la guida prevede una collaborazione tra ricercatori e grandi sistemi sanitari per comprendere le reali necessità di formazione dei lavoratori della salute riguardo all’AI. L’obiettivo finale è abituare i lavoratori a porre domande sull’AI, sia quando implementano strumenti AI che quando li utilizzano.
La guida non sarà solo un’introduzione all’etica dell’AI, ma un riferimento completo per ogni fase del processo per i sistemi sanitari che esplorano una tecnologia con pochi limiti chiari.
Conclusione
Il lavoro di redazione di una guida etica universale per l’AI nel settore sanitario è paragonabile a colpire un bersaglio in movimento. La tecnologia evolve rapidamente e, di conseguenza, la guida sarà un documento vivo che verrà adattato e aggiornato nel tempo, con l’auspicio di fornire supporto ai lavoratori tecnici nel sistema sanitario.
