Corte di Giustizia dell’Unione Europea riceve domande sulla legge sull’IA relative al processo decisionale automatizzato
Il 25 novembre 2024, il tribunale distrettuale di Sofia in Bulgaria ha presentato una richiesta di pronuncia pregiudiziale alla Corte di Giustizia dell’Unione Europea (CJEU) riguardante le disposizioni sul processo decisionale automatizzato (ADM) ai sensi della legge sull’IA. Il caso [C-806/24] riguarda una controversia tra una compagnia telefonica e un consumatore che non ha pagato le sue bollette.
Il consumatore sostiene che il metodo della compagnia telefonica per calcolare automaticamente le spese costituisca un sistema ADM soggetto all’Articolo 86(1) della legge sull’IA, sollevando interrogativi riguardo alla trasparenza, alla revisione umana e agli aspetti di equità del sistema ADM. Il tribunale bulgaro richiede chiarimenti alla CJEU su 17 questioni giuridiche, citando la legge sull’IA, la Direttiva sulle clausole abusive e la Direttiva sui diritti dei consumatori.
Domande sollevate dal tribunale bulgaro
In linea generale, il tribunale bulgaro solleva tre gruppi di questioni da considerare:
- Domande relative al diritto del consumatore di essere informato e di richiedere la revisione delle decisioni prese tramite ADM;
- Domande relative all’equità di addebitare una tassa di compensazione quando il contratto è scaduto, nell’ambito della legge sulla protezione dei consumatori;
- Una domanda riguardante la possibilità che un consumatore possa essere obbligato a sostenere parte dei costi del procedimento per non pagamento di somme dovute ai sensi del contratto, se il commerciante non ha spiegato il sistema ADM in modo chiaro e comprensibile, ma fornisce successivamente la spiegazione durante il procedimento giuridico.
Interpretazione dell’Articolo 86(1) della legge sull’IA
Il primo gruppo di domande si concentra sull’interpretazione dell’Articolo 86(1) della legge sull’IA. Questa disposizione stabilisce che qualsiasi individuo soggetto a una decisione basata sull’output di un sistema AI ad alto rischio e che produce effetti legali o influisce significativamente su di lui, ha il diritto di ottenere dal gestore dell’IA “ spiegazioni chiare e significative riguardo al ruolo del sistema IA nella procedura decisionale e agli elementi principali della decisione presa.”
Il tribunale bulgaro pone, tra le altre, le seguenti domande riguardanti l’Articolo 86(1) della legge sull’IA, letto in combinazione con altre leggi dell’UE:
- Deve l’Articolo 86(1) essere interpretato nel senso che il commerciante deve informare il consumatore su come viene presa la decisione utilizzando l’ADM (qui, riguardo all’algoritmo che calcola le fatture generate automaticamente e quali elementi e parametri vengono utilizzati)?
- Ha il tribunale il potere di richiedere al commerciante di fornire i dati del black box, il codice sorgente e l’algoritmo relativi al modo in cui vengono prese le decisioni basate su un sistema ADM?
- Il consumatore ha il diritto, ai sensi dell’Articolo 86(1), di richiedere al commerciante una spiegazione o l’algoritmo relativo al processo decisionale?
- Il consumatore ha il diritto di richiedere la revisione umana delle decisioni basate su ADM – e questa revisione umana deve essere effettuata da un giudice in procedimenti giuridici reali?
È interessante notare che, sebbene la legge sull’IA sia entrata in vigore nell’agosto 2024, l’Articolo 86(1) non si applica fino al 2 agosto 2026. Una sentenza è attesa entro la metà del 2026.
È fondamentale monitorare gli sviluppi normativi sull’IA, poiché le aziende tecnologiche affrontano sfide sempre più complesse in materia di regolamentazione e conformità nell’UE e in altri mercati importanti.
