Il CEO della compliance AI sottolinea che implementare IA regolamentata è “incredibilmente difficile”
Con l’introduzione del suo strumento interno di IA, Elsa, la FDA ha descritto questo passo come un importante progresso nella gestione della pesantezza delle revisioni regolatorie, dove documenti di migliaia di pagine sono all’ordine del giorno. Tuttavia, secondo un esperto di IA regolamentata, l’implementazione può rivelarsi un compito arduo, specialmente durante la costruzione dell’infrastruttura necessaria.
“Ritengo che sia davvero, davvero difficile far funzionare bene l’IA regolamentata,” afferma l’esperto. Una delle sfide principali è la scala dei documenti regolatori. Sebbene possa sembrare semplice utilizzare l’IA generativa per aiutare a rivedere i documenti, i documenti regolatori sono ben lontani dal rappresentare semplici compiti scolastici o persino molti documenti legali, che sono spesso “molto più brevi”.
Oltre la finestra di contesto
Il problema non riguarda solo la dimensione dei documenti, ma anche l’architettura fondamentale del sistema di IA stesso. Mentre i rapporti iniziali suggeriscono che Elsa sia principalmente basata su un modello di linguaggio di grandi dimensioni (LLM), si propone che una strategia più resiliente comporterebbe un approccio neuro-simbolico, che combina il potere di riconoscimento dei modelli delle reti neurali moderne con la logica strutturata e basata su regole dell’IA simbolica tradizionale.
Questo approccio ibrido consentirebbe al sistema di suddividere il processo di revisione monolitico in una sequenza logica di passaggi più piccoli e verificabili, simile a un diagramma di flusso, e poi di utilizzare l’IA generativa per eseguire quei compiti specifici e di contesto ridotto in cui eccelle.
Il diluvio documentale
La realtà è che sviluppare prodotti regolamentati è un compito intrinsecamente complesso. Per illustrare la differenza tra le applicazioni tipiche di IA e gli ambienti regolamentati, si confronta il flusso di lavoro di un giornalista, che può comportare da 10 a 20 passaggi dall’intervista alla pubblicazione. Al contrario, il processo di sviluppo di un farmaco, dalla scoperta alla produzione, presenta una complessità di ordini di grandezza maggiore.
Una situazione simile si verifica nel settore dei dispositivi medici, dove il percorso più comune, il processo 510(k), si basa sull’onere complesso di dimostrare l’“equivalenza sostanziale” a un dispositivo predicato. Ciò significa che ogni decisione, dalla progettazione ai test, crea un percorso ramificato di requisiti documentali.
Una combinazione uomo-IA
La FDA affronta sfide significative in termini di forza lavoro, con recenti riduzioni che hanno colpito più centri, aumentando le pressioni già esistenti. Con un tasso di abbandono che ha oscillato intorno al 13% dal 2018 fiscale, i revisori spesso faticano a tenere il passo con l’enorme volume di informazioni.
Invece di fare affidamento esclusivamente su modelli di linguaggio di grandi dimensioni, si sostiene la necessità di combinarli con l’IA simbolica, l’approccio basato su regole che ha dominato le ricerche iniziali sull’IA. L’IA simbolica è paragonabile a un giocatore di scacchi che conosce ogni possibile mossa e strategia in anticipo, utilizzando regole esplicite per navigare attraverso alberi decisionali complessi.
Verso un’autonomia responsabile
Si prevede che la FDA debba evolvere il proprio approccio man mano che la complessità documentale continua a superare la capacità di revisione umana. Si osserva che l’agenzia, insieme ad altri che lavorano sull’IA in contesti regolatori, dovrà unire approcci neurali e neuro-simbolici. “Chi ha già fatto questo dirà che hai bisogno di entrambi,” afferma l’esperto.
L’obiettivo dell’industria è raggiungere un’“autonomia responsabile”, in altre parole, un’IA che possa operare in modo indipendente, ma all’interno di confini chiaramente definiti. La bellezza dell’IA risiede nel suo potenziale di alleggerire la complessità, ma solo se possiamo rintracciare le sue decisioni, convalidare le sue azioni e garantire la sua sicurezza in ogni fase.
Quando implementata con le infrastrutture di tracciabilità e i protocolli di validazione richiesti dalle industrie regolamentate, si riportano guadagni di efficienza drammatici. “Siamo stati in grado di ridurre il processo di rilascio software da un anno a una settimana,” afferma l’esperto.
Guardando oltre i guadagni immediati di efficienza, la sfida è in termini più ampi: “Penso che le porte siano aperte. Le persone vedono che c’è una quantità immensa di lavoro che è stata svolta manualmente e che potrebbe essere fatta meglio con una combinazione di umani e computer… Il fatto che non ci sia una medicina migliore è in gran parte dovuto al volume di documenti.”
