Co-creare AI responsabile ed etica con le parti interessate nel settore sanitario
Incorporare i principi etici nello sviluppo dell’AI richiede un approccio integrato e multistakeholder, che coinvolga non solo gli sviluppatori, ma anche gli utenti aziendali e i clienti.
Una prospettiva centrata sull’utente
Quando si sviluppano soluzioni di intelligenza artificiale (AI), è fondamentale partire dalla prospettiva dell’utente, comprendere chi viene impattato e lavorare a stretto contatto con loro per costruire soluzioni efficaci e sicure. Questo è stato il consenso emerso dal panel intitolato Oltre la conformità: AI responsabile ed etica nella sanità pubblica di Singapore.
È stato sottolineato che la tecnologia non deve essere il punto di partenza; piuttosto, l’attenzione deve essere rivolta alla comprensione della prospettiva degli utenti, siano essi clinici o pazienti, per aiutare a costruire soluzioni sia etiche che pratiche.
Mettere in pratica i principi etici
Le istituzioni sanitarie pubbliche possono incorporare i principi di AI responsabile ed etica nei loro flussi di lavoro quotidiani utilizzando strumenti specifici come il modello di minaccia e la pratica della carta etica dei dati. Queste pratiche aiutano a intrecciare i principi etici nel processo di pensiero del team di prodotto.
Ad esempio, la pratica della carta etica dei dati guida le discussioni su come i dati vengono utilizzati, accessibili e archiviati, assicurando che l’AI responsabile non sia solo un concetto teorico.
Strategie per affrontare il bias dei dati
È fondamentale adottare un approccio olistico per affrontare la sfida del bias nei dati o negli algoritmi. Poiché il bias è un problema complesso, è necessaria una strategia completa che copra tutto, dalla preparazione e pulizia dei dati fino alla costruzione del modello e al monitoraggio continuo.
La responsabilità dell’AI deve essere praticata come un requisito trasversale, in quanto influisce su ogni parte di un progetto e non solo su un team specifico.
Equilibrio tra etica e praticità
Il concetto centrale è che costruire un modello AI perfetto e al 100% accurato non è sempre l’obiettivo. Invece, si tratta di decidere quanto errore è accettabile per un dato caso d’uso e contesto. Le istituzioni sanitarie pubbliche devono adottare un approccio pragmatico che prioritizzi l’equilibrio tra diversi bisogni, come accuratezza, etica e praticità.
È importante una valutazione passo-passo dei dati per assicurarsi che siano rappresentativi della realtà. Il panel ha riconosciuto il bias come un problema che non può essere risolto in una sola fase, ma deve essere affrontato dalla raccolta iniziale dei dati fino all’operazione continua del sistema AI.
Un approccio ecosistemico per governare l’AI
Singapore sta adottando un approccio a livello di governo – o addirittura a livello di società – per lanciare il suo movimento nazionale per la salute della popolazione, Healthier SG. Quando si considera il Health Promotion Board (HPB), un’app con i dati individuali di un utente potrebbe non essere sufficiente per promuovere un cambiamento duraturo, poiché la salute delle persone è influenzata da altri fattori nel loro ambiente.
Con l’espansione dei sistemi AI per coprire dati provenienti da altre fonti e potenziali punti di intervento, è necessario un approccio ecosistemico per governare questi sistemi. Con l’aumento della quantità di dati raccolti per addestrare l’AI, è stato sottolineato che è fondamentale stabilire limiti etici e salvaguardie.
I sistemi AI devono essere progettati con un chiaro insieme di limitazioni e una rete di sicurezza integrata che garantisca l’intervento umano quando necessario, assicurando che l’AI agisca come uno strumento di supporto e non come sostituto dell’expertise umana.
