Chi possiede la governance e il rischio dell’IA?
Quando una decisione guidata dall’IA produce un risultato che nessuno si sente a proprio agio nel difendere, accade qualcosa di rivelatore all’interno delle organizzazioni. Le conversazioni si spostano rapidamente da ciò che il sistema ha raccomandato a chi lo ha approvato, chi si è affidato ad esso e chi è infine responsabile delle conseguenze.
In quel momento, la tecnologia svanisce sullo sfondo e le domande di proprietà emergono in primo piano.
Ridistribuzione della responsabilità
Man mano che i sistemi di IA iniziano a influenzare decisioni di credito, interazioni con i clienti, scelte di assunzione e priorità operative, ridisegnano silenziosamente come viene distribuita la responsabilità. Le decisioni continuano a portare conseguenze, ma la catena di responsabilità non è più ovvia. Quando i risultati sono positivi, l’IA viene accreditata per l’efficienza e l’intuizione. Quando non lo sono, risulta più difficile individuare la responsabilità.
In molte organizzazioni, questa ambiguità non è accidentale. Le iniziative di IA vengono spesso introdotte come miglioramenti tecnici piuttosto che come sistemi organizzativi. La responsabilità è distribuita tra team IT, fornitori esterni, unità aziendali e funzioni di conformità, senza un gruppo singolo chiaramente responsabile per i risultati. Per un certo periodo, questo ha funzionato. I risultati iniziali sembrano promettenti e domande difficili possono essere rimandate. La ricerca e la nostra esperienza suggeriscono che è proprio qui che si accumula il rischio.
Fallimenti nella governance
Una recente revisione sistematica della ricerca sulla governance dell’IA ha esaminato come le organizzazioni assegnano la responsabilità per le decisioni e i rischi legati all’IA. Gli autori hanno trovato un modello ricorrente attraverso le industrie e le regioni: i fallimenti nella governance raramente derivano da algoritmi difettosi. Piuttosto, sorgono perché la proprietà delle decisioni e del rischio non è chiara. Le responsabilità sono frammentate, i percorsi di escalation sono deboli e i meccanismi di governance vengono spesso introdotti solo dopo che è successo qualcosa di sbagliato. Le organizzazioni, in effetti, adottano l’IA più velocemente di quanto decidano chi sia responsabile delle sue conseguenze.
Implementazione responsabile dell’IA
È importante non diventare troppo scettici riguardo alla governance dell’IA, affermando che questa rallenta l’innovazione. Le organizzazioni che definiscono la proprietà fin da subito sono in grado di scalare l’IA con fiducia. Sanno chi può intervenire, come vengono evidenziati i rischi e come si apprende quando i sistemi falliscono o vengono sovrascritti. La governance diventa un abilitatore delle performance, non un vincolo su di esse.
