Le normative statali sull’IA possono lasciare i CIO con sistemi inutilizzabili
Con l’accelerazione delle normative sull’intelligenza artificiale (IA) da parte degli stati, i CIO si trovano di fronte alla prospettiva che i loro sistemi diventino inutilizzabili o economicamente impraticabili a causa delle nuove leggi. Queste normative minacciano di aumentare i costi di conformità, ridurre il ritorno sugli investimenti (ROI) o addirittura lasciare gli investimenti in stallo.
Regolamentazioni in ambito retail
Ad esempio, quando è stato riportato che una catena di supermercati stava utilizzando il riconoscimento facciale per identificare i ladri recidivi, alcuni legislatori hanno proposto di vietare il riconoscimento facciale nei negozi al dettaglio. Altri stati stanno considerando di vietare etichette elettroniche sugli scaffali in negozi di grandi dimensioni, preoccupati che la pricing dinamica possa sostituire posti di lavoro e determinare i prezzi in base al comportamento dei consumatori.
Rischi delle normative frammentate
Numerosi stati stanno considerando normative sull’IA per settori critici come la sanità, le assicurazioni, le risorse umane e la finanza. Alcune proposte richiedono alle aziende di fornire ai regolatori: alberi decisionali dell’IA, documentazione dei dati di addestramento e risultati di audit.
I costi di conformità legati alle nuove leggi sull’IA aumenteranno, aggiungendo costi organizzativi e tempi di gestione che le aziende non avevano preventivato. Questi costi si accumuleranno nel tempo.
Costi a lungo termine della conformità normativa
Un esempio delle dinamiche di conformità è fornito dal Regolamento generale sulla protezione dei dati (GDPR) dell’Europa, dove le aziende hanno speso in media milioni per la conformità iniziale, con costi di manutenzione annuali che raggiungono il 20-30% di quell’investimento iniziale.
Nonostante il crescente rischio normativo, le aziende sembrano riluttanti a rallentare le implementazioni dell’IA, poiché questa è già profondamente integrata nel funzionamento delle organizzazioni ed è essenziale per la velocità e la competitività.
Il futuro delle normative sull’IA
È previsto un aumento delle normative sull’IA man mano che i legislatori e il pubblico diventano più consapevoli dei rischi associati. Tuttavia, non tutte le leggi sull’IA saranno adottate, e molte perderanno la loro incisività una volta in vigore. Ad esempio, una legge adottata da una città richiedeva audit dei sistemi di assunzione basati sull’IA, ma applicava limitazioni che permettevano ai datori di lavoro di evitare la conformità.
Governance e contratti come controlli del rischio
Questo approccio pone un forte accento sulla governance. Stabilire strutture interne solide per l’implementazione dell’IA aiuta le aziende a reagire meglio ai cambiamenti legislativi e a prevedere nuovi requisiti. Tuttavia, i cambiamenti normativi possono lasciare le aziende con sistemi tecnicamente validi ma legalmente inutilizzabili.
Per gestire questo rischio, è consigliabile negoziare clausole di “cambio di legge” nei contratti con i fornitori che prevedano diritti di risoluzione se le normative rendono impossibile o impraticabile l’uso continuato di un sistema.
Conclusione
In sintesi, i CIO devono essere preparati a reagire a normative statali che possono agire in modi sorprendenti sull’IA. Dovranno anche considerare le reazioni pubbliche e politiche riguardo all’uso di strumenti basati sull’IA e biometrici.
