Linee guida dell’UE sui rischi inaccettabili dell’IA

Linee guida della Commissione Europea sulle pratiche di IA vietate ai sensi dell’Atto sull’IA dell’UE

Il 4 febbraio 2025, la Commissione Europea (CE) ha pubblicato una bozza di linee guida che chiariscono le pratiche di intelligenza artificiale (IA) vietate ai sensi dell’Atto sull’IA dell’Unione Europea. Sebbene non siano vincolanti, queste linee guida offrono chiarimenti preziosi e esempi pratici per aiutare le aziende a comprendere i propri obblighi.

Contesto

Dal 2 febbraio 2025, le disposizioni dell’Atto sull’IA riguardanti le pratiche vietate sono entrate in vigore. L’Articolo 5 dell’Atto vieta determinate pratiche di IA considerate a rischio inaccettabile, come i sistemi di IA che manipolano o sfruttano gli individui, effettuano valutazioni sociali o inferiscono le emozioni degli individui sul lavoro o nell’istruzione.

Pratiche di IA vietate

Di seguito è fornita una panoramica delle principali proibizioni sotto l’Atto sull’IA, come interpretato dalle linee guida:

1. Valutazione sociale. L’Atto vieta l’offerta o l’uso di sistemi di IA che valutano i comportamenti sociali degli individui per determinare il loro trattamento in un contesto non correlato. Ad esempio, i sistemi di IA utilizzati per raccomandare il prezzo di un premio assicurativo potrebbero costituire una valutazione sociale.
2. Manipolazione e sfruttamento. È vietato utilizzare sistemi di IA che sfruttano tecniche subliminali o vulnerabilità individuali per influenzare il comportamento e causare danno. Questo include, ad esempio, l’uso di IA nei giochi per incoraggiare un uso eccessivo, sfruttando le vulnerabilità dei bambini.
3. Riconoscimento facciale e identificazione biometrica. È vietata la creazione di banche dati di riconoscimento facciale tramite scraping indiscriminato di immagini da internet o filmati di CCTV. Le linee guida chiariscono che l’acquisizione di immagini facciali da piattaforme sociali per costruire un database di riconoscimento facciale è proibita.
4. Riconoscimento delle emozioni nei luoghi di lavoro e nelle istituzioni educative. L’uso di IA per riconoscere le emozioni in contesti lavorativi e educativi è generalmente vietato. Esempi includono call center che utilizzano webcam per monitorare le emozioni dei dipendenti.
5. Categorizzazione biometrica. È vietata la categorizzazione degli individui basata su attributi sensibili come razza o orientamento sessuale utilizzando dati biometrici. Ad esempio, è vietato utilizzare sistemi di IA che categorizzano le persone in base a tali attributi.

Responsabilità per i fornitori di IA

Le linee guida stabiliscono che i fornitori di sistemi di IA sono responsabili di non rilasciare sistemi che siano “ragionevolmente probabili” di essere utilizzati per scopi vietati. Devono adottare misure di sicurezza per prevenire usi scorretti.

Prossimi passi

Le aziende che si impegnano in pratiche di IA vietate potrebbero affrontare sanzioni significative, che possono raggiungere fino a 35 milioni di euro o il sette percento del loro fatturato globale annuale, a seconda di quale sia più elevato. Le prime azioni di enforcement sono attese nella seconda metà del 2025.

Le aziende che offrono o utilizzano IA nell’UE dovrebbero rivedere i loro sistemi di IA e i termini in conformità con queste linee guida e affrontare eventuali lacune di conformità.