Governance e questioni normative nell’implementazione dell’IA nella sanità
I sistemi sanitari e le startup stanno affrontando sfide significative nel navigare le complicate questioni di governance e normative mentre implementano nuovi strumenti basati sull’intelligenza artificiale (IA). Un recente webinar organizzato da una società di consulenza ha messo in evidenza gli sforzi di due startup create per assistere i sistemi sanitari nella governance dell’IA.
Stato attuale della governance
Randi Seigel, un partner della società di consulenza, ha fornito un’analisi dello stato attuale della governance, inclusi i recenti orientamenti della Joint Commission e del CHAI. Durante l’incontro, sono state discusse anche le recenti tentativi di legislazione sull’IA al Congresso, evidenziando i modelli sviluppati da associazioni come la National Association of Insurance Commissioners, che ha stabilito un modello di bulletin sull’uso dell’IA da parte dei pagatori, ampiamente adottato da vari stati.
Seigel ha sottolineato che la Federation of State Medical Boards ha emesso una dichiarazione riguardante l’incorporazione responsabile ed etica dell’IA, adottata da almeno due consigli medici statali. Inoltre, la Joint Commission e il Coalition for Health AI hanno rilasciato linee guida proposte sulle migliori pratiche per l’adozione dell’IA nel settore sanitario, coprendo temi come la privacy del paziente, la sicurezza dei dati e il monitoraggio della qualità.
Linee guida e pratiche migliori
Le linee guida raccomandano che le organizzazioni sanitarie implementino un processo per la segnalazione volontaria e confidenziale di eventi di sicurezza legati all’IA. Viene anche sottolineata l’importanza di una gestione basata sul rischio dei fornitori terzi e della valutazione degli strumenti sviluppati internamente e acquistati.
Le sfide della scalabilità
Troy Bannister, CEO di una startup, ha osservato che solo una piccola percentuale di sistemi ospedalieri dispone delle risorse necessarie per attuare un monitoraggio completo e reattivo dei rischi emergenti. Durante il webinar, è stato evidenziato che la maggior parte degli ospedali non può implementare un monitoraggio per ogni strumento di IA, poiché comporta un notevole sforzo.
Seigel ha menzionato che il Senatore Ted Cruz ha introdotto il SANDBOX Act, che permetterebbe alle aziende di richiedere una modifica di alcune disposizioni normative. Tuttavia, i partecipanti al panel hanno espresso scetticismo riguardo a questa proposta, sottolineando che potrebbe mettere le organizzazioni sanitarie in una posizione difensiva.
Modelli di regolazione futuri
Mark Sendak, cofondatore di un’altra startup, ha suggerito un modello simile al CLIA (Clinical Laboratory Improvement Amendments), dove ci sia un insieme standard di pratiche concordate, ma con un network distribuito di organizzazioni responsabili del controllo della qualità dell’IA. Questo approccio richiederebbe un significativo coinvolgimento del settore privato.
In conclusione, l’implementazione dell’IA nel settore sanitario presenta opportunità e sfide, richiedendo un equilibrio tra innovazione e conformità normativa. Con l’evolversi delle tecnologie, le organizzazioni dovranno adattarsi per garantire che l’IA sia utilizzata in modo responsabile e efficace.
