California diventa il primo stato degli Stati Uniti ad attuare una legge dedicata alla sicurezza dell’IA
La discussione globale sulla governance dell’intelligenza artificiale ha raggiunto una nuova fase, con la California che diventa il primo stato degli Stati Uniti ad attuare una legge dedicata alla sicurezza dell’IA.
La legge sulla trasparenza nell’intelligenza artificiale di frontiera (TFAIA)
La Transparency in Frontier Artificial Intelligence Act (TFAIA) richiede a aziende come Google, Meta e OpenAI, così come ad altri sviluppatori principali, di segnalare incidenti ad alto rischio, divulgare misure di sicurezza e proteggere i whistle-blowers. La legge impone inoltre che le aziende pubblichino quadri che mostrano come incorporano standard di sicurezza e creino un meccanismo per segnalare incidenti critici di sicurezza alle autorità statali.
Secondo un commentatore, la legge della California potrebbe rappresentare un passo significativo verso la responsabilità, ma senza un coordinamento federale, potrebbe anche portare a “maggiore confusione che chiarezza”.
Il contesto internazionale e il confronto con l’India
Mentre le principali economie si affrettano a stabilire dei confini per l’IA, l’approccio dell’India si distingue per il suo contrasto. Attualmente, l’India non ha ancora implementato un quadro specificamente dedicato all’IA. Le iniziative attuali dell’India, come la missione IndiaAI e il proposto Digital India Act, si concentrano sullo sviluppo delle infrastrutture e sul supporto all’innovazione, senza affrontare specificamente la responsabilità dei modelli, l’uso etico o la sicurezza dell’IA.
Le aziende che utilizzano modelli di IA in sistemi pubblici vulnerabili come la salute, la finanza e l’istruzione non sono ancora soggette a requisiti chiari di auditing, testing o divulgazione. “L’attuale quadro normativo dell’India si concentra sull’abilitare l’IA, non sulla sua regolamentazione”, afferma un esperto di politiche pubbliche.
Le sfide dell’India nella governance dell’IA
Uno dei principali problemi è la mancanza di chiarezza su chi sia responsabile se un sistema di IA causa danni. “La più grande lacuna che affrontiamo è la responsabilità”, afferma l’esperto. “Non c’è chiarezza su chi sia responsabile se un sistema di IA causa danni, che sia il sviluppatore, il deployer o l’utente finale”.
Le nazioni di tutto il mondo stanno seguendo direzioni diverse. L’EU AI Act, che si prevede sarà implementato l’anno prossimo, adotta una strategia basata sul rischio e impone i requisiti più elevati sui sistemi che presentano un rischio significativo. Anche in Cina, le valutazioni di sicurezza e le registrazioni degli algoritmi sono già obbligatorie.
Un approccio settoriale e volontario per l’India
Al contrario, l’India si sta concentrando su un approccio settoriale e volontario, consentendo a ministeri o regolatori specifici di pubblicare avvisi sull’IA. “Le linee guida etiche volontarie sono un buon primo passo”, afferma un esperto, “perché incoraggiano le aziende a incorporare sicurezza e responsabilità senza soffocare l’innovazione”. Tuttavia, senza un mandato legale, non c’è garanzia che i sistemi ad alto rischio vengano auditati o monitorati correttamente.
Gli esperti avvertono che una supervisione frammentata potrebbe rendere l’India vulnerabile. “Avremo bisogno di un quadro nazionale di governance dell’IA che allinei innovazione e sicurezza, soprattutto man mano che l’uso dell’IA nel settore pubblico si espande”, afferma un partner di uno studio legale.
Conclusioni e raccomandazioni
Il compromesso che i governi devono affrontare è come richiedere trasparenza senza limitare la crescita, come dimostra l’esperimento della California. La decisione è cruciale per l’India. Poiché l’IA viene incorporata nei programmi e nei servizi governativi che interagiscono con i cittadini, la mancanza di meccanismi chiari di sicurezza e risarcimento potrebbe aumentare i rischi prima ancora che la nazione stabilisca le necessarie salvaguardie.
“Aspettare troppo a lungo per definire la responsabilità significa che finiremo per reagire alle crisi piuttosto che prevenirle”, avverte un esperto. “L’India ha bisogno di un quadro modulare e stratificato per il rischio che imponga trasparenza, sicurezza e spiegabilità, lasciando spazio per l’innovazione e la sperimentazione”.
Con la California che stabilisce un precedente e altre giurisdizioni che seguono l’esempio, l’India affronta una finestra critica per stabilire il proprio approccio bilanciato, che protegga i cittadini preservando al contempo il suo vantaggio competitivo nella corsa globale all’IA.
