Linee guida dell’UE su pratiche AI vietate

Linee Guida della Commissione UE sulle Pratiche di IA Proibite ai sensi dell’AI Act UE

Il 4 febbraio 2025, la Commissione Europea (CE) ha emesso una bozza di linee guida che chiariscono le pratiche di intelligenza artificiale (IA) proibite ai sensi dell’AI Act dell’Unione Europea (UE). Sebbene non siano vincolanti, queste linee guida offrono chiarimenti preziosi e esempi pratici per aiutare le aziende a navigare le loro obbligazioni sotto l’AI Act. La CE ha approvato la bozza, ma deve ancora adottarla formalmente, il che è previsto a breve.

Contesto

Il 2 febbraio 2025, le disposizioni dell’AI Act riguardanti le pratiche di IA proibite sono diventate effettive, insieme ad altre disposizioni sulla alfabetizzazione dell’IA. L’Articolo 5 dell’AI Act vieta alcune pratiche di IA considerate a rischio inaccettabile, come i sistemi di IA che manipolano o sfruttano gli individui, eseguono valutazioni sociali, o inferiscono le emozioni degli individui nel luogo di lavoro o nell’istruzione. Il divieto si applica sia alle aziende che offrono tali sistemi di IA che a quelle che li utilizzano.

Pratiche di IA Proibite

Di seguito è riportata una panoramica delle principali proibizioni ai sensi dell’AI Act, come interpretato dalle linee guida:

  1. Valutazione Sociale. L’AI Act vieta l’offerta o l’uso di sistemi di IA che valutano i comportamenti sociali degli individui per determinare il loro trattamento in un contesto non correlato. Ad esempio, i sistemi di IA utilizzati per raccomandare il prezzo di un premio assicurativo potrebbero costituire valutazioni sociali.
  2. Manipolazione e Sfruttamento. L’AI Act vieta l’offerta o l’uso di sistemi di IA che utilizzano tecniche subliminali o sfruttano le vulnerabilità individuali per influenzare il comportamento e causare danni. Ad esempio, l’uso di IA nei giochi per incoraggiare un eccesso di gioco sfruttando le vulnerabilità dei bambini è proibito.
  3. Riconoscimento Facciale e Identificazione Biometrica. L’AI Act vieta la costruzione di database di riconoscimento facciale attraverso il scraping non mirato di immagini da Internet o registrazioni CCTV. Le linee guida chiariscono che tale pratica è proibita se utilizzata per costruire un database di riconoscimento facciale.
  4. Riconoscimento delle Emozioni nei Luoghi di Lavoro e nelle Istituzioni Educative. L’uso di IA per riconoscere le emozioni nei contesti lavorativi e educativi è generalmente vietato. Ad esempio, un call center che utilizza webcam per monitorare le emozioni dei dipendenti è sotto divieto.
  5. Categorizzazione Biometrica. È vietata la categorizzazione degli individui basata su attributi sensibili come razza o orientamento sessuale utilizzando dati biometrici. Tuttavia, il divieto non si estende ai casi in cui la categorizzazione è puramente tecnica e necessaria per un servizio commerciale.

Responsabilità per i Fornitori di IA

Le linee guida stabiliscono che i fornitori di sistemi di IA sono responsabili di non rilasciare un sistema che è “ragionevolmente probabile” che sia utilizzato per uno scopo proibito, così come di adottare misure di salvaguardia per prevenire un uso improprio prevedibile.

Prossimi Passi

Le aziende che si impegnano in pratiche di IA proibite potrebbero affrontare multe significative, che possono arrivare fino a 35 milioni di euro o al sette percento del loro fatturato globale annuale, a seconda di quale sia maggiore. Si prevede che le prime azioni di enforcement inizieranno nella seconda metà del 2025, mentre i paesi dell’UE finalizzano i loro regimi di enforcement.

Le aziende che offrono o utilizzano IA nell’UE dovrebbero rivedere i loro sistemi di IA e i termini alla luce di queste linee guida e affrontare eventuali lacune di conformità nella prima metà del 2025.

More Insights

Politica AI del Quebec per Università e Cégeps

Il governo del Quebec ha recentemente rilasciato una politica sull'intelligenza artificiale per le università e i CÉGEP, quasi tre anni dopo il lancio di ChatGPT. Le linee guida includono principi...

L’alfabetizzazione AI: la nuova sfida per la conformità aziendale

L'adozione dell'IA nelle aziende sta accelerando, ma con essa emerge la sfida dell'alfabetizzazione all'IA. La legislazione dell'UE richiede che tutti i dipendenti comprendano gli strumenti che...

Legge sull’IA: Germania avvia consultazioni per l’attuazione

I regolatori esistenti assumeranno la responsabilità di monitorare la conformità delle aziende tedesche con l'AI Act dell'UE, con un ruolo potenziato per l'Agenzia Federale di Rete (BNetzA). Il...

Governare l’AI nell’Economia Zero Trust

Nel 2025, l'intelligenza artificiale non è più solo un concetto astratto, ma è diventata una realtà operativa che richiede un governance rigorosa. In un'economia a zero fiducia, le organizzazioni...

Il nuovo segretariato tecnico per l’IA: un cambiamento nella governance

Il prossimo quadro di governance sull'intelligenza artificiale potrebbe prevedere un "segreteria tecnica" per coordinare le politiche sull'IA tra i vari dipartimenti governativi. Questo rappresenta un...

Innovazione sostenibile attraverso la sicurezza dell’IA nei Paesi in via di sviluppo

Un crescente tensione si è sviluppata tra i sostenitori della regolamentazione dei rischi legati all'IA e coloro che desiderano liberare l'IA per l'innovazione. Gli investimenti in sicurezza e...

Verso un approccio armonioso alla governance dell’IA in ASEAN

Quando si tratta di intelligenza artificiale, l'ASEAN adotta un approccio consensuale. Mentre i membri seguono percorsi diversi nella governance dell'IA, è fondamentale che questi principi volontari...

Italia guida l’UE con una legge innovativa sull’IA

L'Italia è diventata il primo paese nell'UE ad approvare una legge completa che regola l'uso dell'intelligenza artificiale, imponendo pene detentive a chi utilizza la tecnologia per causare danni. La...

Regolamentare l’Intelligenza Artificiale in Ucraina: Verso un Futuro Etico

Nel giugno del 2024, quattordici aziende IT ucraine hanno creato un'organizzazione di autoregolamentazione per sostenere approcci etici nell'implementazione dell'intelligenza artificiale in Ucraina...