Linee guida dell’UE su pratiche AI vietate

Linee Guida della Commissione UE sulle Pratiche di IA Proibite ai sensi dell’AI Act UE

Il 4 febbraio 2025, la Commissione Europea (CE) ha emesso una bozza di linee guida che chiariscono le pratiche di intelligenza artificiale (IA) proibite ai sensi dell’AI Act dell’Unione Europea (UE). Sebbene non siano vincolanti, queste linee guida offrono chiarimenti preziosi e esempi pratici per aiutare le aziende a navigare le loro obbligazioni sotto l’AI Act. La CE ha approvato la bozza, ma deve ancora adottarla formalmente, il che è previsto a breve.

Contesto

Il 2 febbraio 2025, le disposizioni dell’AI Act riguardanti le pratiche di IA proibite sono diventate effettive, insieme ad altre disposizioni sulla alfabetizzazione dell’IA. L’Articolo 5 dell’AI Act vieta alcune pratiche di IA considerate a rischio inaccettabile, come i sistemi di IA che manipolano o sfruttano gli individui, eseguono valutazioni sociali, o inferiscono le emozioni degli individui nel luogo di lavoro o nell’istruzione. Il divieto si applica sia alle aziende che offrono tali sistemi di IA che a quelle che li utilizzano.

Pratiche di IA Proibite

Di seguito è riportata una panoramica delle principali proibizioni ai sensi dell’AI Act, come interpretato dalle linee guida:

1. Valutazione Sociale. L’AI Act vieta l’offerta o l’uso di sistemi di IA che valutano i comportamenti sociali degli individui per determinare il loro trattamento in un contesto non correlato. Ad esempio, i sistemi di IA utilizzati per raccomandare il prezzo di un premio assicurativo potrebbero costituire valutazioni sociali.
2. Manipolazione e Sfruttamento. L’AI Act vieta l’offerta o l’uso di sistemi di IA che utilizzano tecniche subliminali o sfruttano le vulnerabilità individuali per influenzare il comportamento e causare danni. Ad esempio, l’uso di IA nei giochi per incoraggiare un eccesso di gioco sfruttando le vulnerabilità dei bambini è proibito.
3. Riconoscimento Facciale e Identificazione Biometrica. L’AI Act vieta la costruzione di database di riconoscimento facciale attraverso il scraping non mirato di immagini da Internet o registrazioni CCTV. Le linee guida chiariscono che tale pratica è proibita se utilizzata per costruire un database di riconoscimento facciale.
4. Riconoscimento delle Emozioni nei Luoghi di Lavoro e nelle Istituzioni Educative. L’uso di IA per riconoscere le emozioni nei contesti lavorativi e educativi è generalmente vietato. Ad esempio, un call center che utilizza webcam per monitorare le emozioni dei dipendenti è sotto divieto.
5. Categorizzazione Biometrica. È vietata la categorizzazione degli individui basata su attributi sensibili come razza o orientamento sessuale utilizzando dati biometrici. Tuttavia, il divieto non si estende ai casi in cui la categorizzazione è puramente tecnica e necessaria per un servizio commerciale.

Responsabilità per i Fornitori di IA

Le linee guida stabiliscono che i fornitori di sistemi di IA sono responsabili di non rilasciare un sistema che è “ragionevolmente probabile” che sia utilizzato per uno scopo proibito, così come di adottare misure di salvaguardia per prevenire un uso improprio prevedibile.

Prossimi Passi

Le aziende che si impegnano in pratiche di IA proibite potrebbero affrontare multe significative, che possono arrivare fino a 35 milioni di euro o al sette percento del loro fatturato globale annuale, a seconda di quale sia maggiore. Si prevede che le prime azioni di enforcement inizieranno nella seconda metà del 2025, mentre i paesi dell’UE finalizzano i loro regimi di enforcement.

Le aziende che offrono o utilizzano IA nell’UE dovrebbero rivedere i loro sistemi di IA e i termini alla luce di queste linee guida e affrontare eventuali lacune di conformità nella prima metà del 2025.