Commenti su chatbot sanitari AI nel Regno Unito e nell’UE
La legge impone requisiti stringenti per il trattamento dei dati personali nel Regno Unito e nell’UE, ma ciò non rende impossibile l’operatività di un chatbot sanitario AI per i consumatori in questa parte dell’Atlantico. Sebbene non sia il primo, certamente non sarà l’ultimo.
Progettazione e sicurezza dei dati
Riconoscendo la particolare sensibilità dei dati sanitari e anticipando le preoccupazioni dei regolatori e degli interessati in tutto il mondo, il marketing sottolinea che il chatbot è stato progettato tenendo presente la privacy e la sicurezza. Si evidenziano i controlli in atto, tra cui il non utilizzo delle conversazioni per addestrare l’IA. Tuttavia, ciò che è praticabile negli Stati Uniti al lancio potrebbe richiedere modifiche significative per i mercati dell’UE e del Regno Unito, insieme a valutazioni di impatto.
Regolamentazione e dispositivi medici
Non è solo la legge sulla protezione dei dati a costituire un ostacolo. Gli strumenti AI utilizzati per scopi medici potrebbero qualificarsi come dispositivi medici secondo la legge del Regno Unito, richiedendo ulteriori approvazioni prima di poter essere immessi sul mercato. Ciò include la registrazione presso il regolatore locale dei medicinali e dei prodotti sanitari e, a seconda del rischio, ulteriori valutazioni. Anche l’UE ha considerazioni simili. Se il chatbot è considerato un dispositivo medico, sarà trattato come un sistema AI ad alto rischio dalla legge AI dell’UE, attivando ulteriori obblighi.
Disclaimer e responsabilità
Non sorprende che il marketing sia pieno di disclaimer sul fatto che lo strumento è progettato per supportare, non sostituire, le cure mediche e che non è destinato alla diagnosi o al trattamento. Questi disclaimer sono vitali data la possibilità di imprecisioni e il potenziale per l’IA di generare allucinazioni; in ambito sanitario, errori nelle risposte dell’IA possono avere conseguenze gravi.
Condivisione dei dati e fiducia
Maggiore condivisione di dati comporta maggiori rischi, introducendo opportunità per compromessi e utilizzi secondari imprevisti. Tuttavia, senza condivisione, non ci sarebbero approfondimenti, miglioramenti delle prestazioni e personalizzazioni utili per migliorare la salute. La condivisione richiede fiducia, specialmente quando si tratta degli aspetti più personali della vita. Se l’azienda commette errori, la violazione della fiducia potrebbe rallentare l’adozione di questi strumenti.
Conclusione
È cruciale uscire da una mentalità “a somma zero”: innovazione e sicurezza devono andare di pari passo, non sono alternative. La capacità di trasformare la vita delle persone per il meglio dipende dalla riuscita integrazione di queste tecnologie nel contesto sanitario.
