Affrontare le sfide dell’IA regolamentata

Il CEO della compliance AI sottolinea che implementare IA regolamentata è “incredibilmente difficile”

Con l’introduzione del suo strumento interno di IA, Elsa, la FDA ha descritto questo passo come un importante progresso nella gestione della pesantezza delle revisioni regolatorie, dove documenti di migliaia di pagine sono all’ordine del giorno. Tuttavia, secondo un esperto di IA regolamentata, l’implementazione può rivelarsi un compito arduo, specialmente durante la costruzione dell’infrastruttura necessaria.

“Ritengo che sia davvero, davvero difficile far funzionare bene l’IA regolamentata,” afferma l’esperto. Una delle sfide principali è la scala dei documenti regolatori. Sebbene possa sembrare semplice utilizzare l’IA generativa per aiutare a rivedere i documenti, i documenti regolatori sono ben lontani dal rappresentare semplici compiti scolastici o persino molti documenti legali, che sono spesso “molto più brevi”.

Oltre la finestra di contesto

Il problema non riguarda solo la dimensione dei documenti, ma anche l’architettura fondamentale del sistema di IA stesso. Mentre i rapporti iniziali suggeriscono che Elsa sia principalmente basata su un modello di linguaggio di grandi dimensioni (LLM), si propone che una strategia più resiliente comporterebbe un approccio neuro-simbolico, che combina il potere di riconoscimento dei modelli delle reti neurali moderne con la logica strutturata e basata su regole dell’IA simbolica tradizionale.

Questo approccio ibrido consentirebbe al sistema di suddividere il processo di revisione monolitico in una sequenza logica di passaggi più piccoli e verificabili, simile a un diagramma di flusso, e poi di utilizzare l’IA generativa per eseguire quei compiti specifici e di contesto ridotto in cui eccelle.

Il diluvio documentale

La realtà è che sviluppare prodotti regolamentati è un compito intrinsecamente complesso. Per illustrare la differenza tra le applicazioni tipiche di IA e gli ambienti regolamentati, si confronta il flusso di lavoro di un giornalista, che può comportare da 10 a 20 passaggi dall’intervista alla pubblicazione. Al contrario, il processo di sviluppo di un farmaco, dalla scoperta alla produzione, presenta una complessità di ordini di grandezza maggiore.

Una situazione simile si verifica nel settore dei dispositivi medici, dove il percorso più comune, il processo 510(k), si basa sull’onere complesso di dimostrare l’“equivalenza sostanziale” a un dispositivo predicato. Ciò significa che ogni decisione, dalla progettazione ai test, crea un percorso ramificato di requisiti documentali.

Una combinazione uomo-IA

La FDA affronta sfide significative in termini di forza lavoro, con recenti riduzioni che hanno colpito più centri, aumentando le pressioni già esistenti. Con un tasso di abbandono che ha oscillato intorno al 13% dal 2018 fiscale, i revisori spesso faticano a tenere il passo con l’enorme volume di informazioni.

Invece di fare affidamento esclusivamente su modelli di linguaggio di grandi dimensioni, si sostiene la necessità di combinarli con l’IA simbolica, l’approccio basato su regole che ha dominato le ricerche iniziali sull’IA. L’IA simbolica è paragonabile a un giocatore di scacchi che conosce ogni possibile mossa e strategia in anticipo, utilizzando regole esplicite per navigare attraverso alberi decisionali complessi.

Verso un’autonomia responsabile

Si prevede che la FDA debba evolvere il proprio approccio man mano che la complessità documentale continua a superare la capacità di revisione umana. Si osserva che l’agenzia, insieme ad altri che lavorano sull’IA in contesti regolatori, dovrà unire approcci neurali e neuro-simbolici. “Chi ha già fatto questo dirà che hai bisogno di entrambi,” afferma l’esperto.

L’obiettivo dell’industria è raggiungere un’“autonomia responsabile”, in altre parole, un’IA che possa operare in modo indipendente, ma all’interno di confini chiaramente definiti. La bellezza dell’IA risiede nel suo potenziale di alleggerire la complessità, ma solo se possiamo rintracciare le sue decisioni, convalidare le sue azioni e garantire la sua sicurezza in ogni fase.

Quando implementata con le infrastrutture di tracciabilità e i protocolli di validazione richiesti dalle industrie regolamentate, si riportano guadagni di efficienza drammatici. “Siamo stati in grado di ridurre il processo di rilascio software da un anno a una settimana,” afferma l’esperto.

Guardando oltre i guadagni immediati di efficienza, la sfida è in termini più ampi: “Penso che le porte siano aperte. Le persone vedono che c’è una quantità immensa di lavoro che è stata svolta manualmente e che potrebbe essere fatta meglio con una combinazione di umani e computer… Il fatto che non ci sia una medicina migliore è in gran parte dovuto al volume di documenti.”

More Insights

Governanza AI: Impatti Transatlantici e Nuove Responsabilità Aziendali

Questo progetto di ricerca indaga come il Regolamento sull'Intelligenza Artificiale dell'UE stia catalizzando una trasformazione sistemica nei quadri di governance e responsabilità aziendale. Esamina...

AI e Sicurezza: Affrontare la Nuova Era delle Minacce

Le organizzazioni devono affrontare una nuova realtà: l'IA sta rapidamente rimodellando il panorama delle minacce informatiche. Mentre l'IA aiuta a migliorare la rilevazione e la risposta, porta anche...

Governare l’Intelligenza Artificiale: Verso un Futuro Sostenibile

La Thailandia ha redatto principi per la legislazione sull'intelligenza artificiale (AI), mirando a stabilire un ecosistema AI e ad ampliare l'adozione. La nuova legge dovrebbe fornire protezione agli...

Leggi Texane per una Governance Responsabile dell’Intelligenza Artificiale in Sanità

Il Texas ha adottato leggi complete sulla governance dell'intelligenza artificiale con disposizioni specifiche per il settore sanitario, inclusa la legge HB 149. Questa legge stabilisce un quadro per...

Intelligenza Artificiale: Garanzia di Allineamento e Governance

Gillian K. Hadfield è stata nominata Professore Distinto Bloomberg di Allineamento e Governance dell'IA presso la Johns Hopkins University. È riconosciuta a livello internazionale per la sua ricerca...

Il lato oscuro della pornografia con cambio di volto

Con l'evoluzione della tecnologia AI, gli strumenti di face swap vengono sempre più sfruttati in modo dannoso, in particolare nella pornografia con scambi di volto. Questo articolo esplora le...

Il Miraggio di Bruxelles: L’Impatto Sottile della Legge AI dell’UE

L'Atto sull'IA dell'UE, adottato nel 2024, rappresenta un tentativo di stabilire un modello normativo che possa influenzare altri paesi, ma la sua efficacia internazionale sembra svanire di fronte a...

Il Miraggio di Bruxelles: L’Impatto Sottile della Legge AI dell’UE

L'Atto sull'IA dell'UE, adottato nel 2024, rappresenta un tentativo di stabilire un modello normativo che possa influenzare altri paesi, ma la sua efficacia internazionale sembra svanire di fronte a...

Governanza Etica e Inclusiva dell’AI in Indonesia

Il Ministero della Comunicazione e del Digitale dell'Indonesia ha ribadito il proprio impegno a integrare principi etici e di inclusione nelle proprie politiche sull'intelligenza artificiale (AI). Il...