Un Buco Normativo nella Legge AI sulle Tecnologie di Riconoscimento delle Emozioni
La recente legge AI ha suscitato interrogativi riguardo al suo divieto delle tecnologie di riconoscimento delle emozioni (ERT). Esiste un evidente buco normativo che potrebbe minare l’efficacia di tale divieto.
Contesto e Sviluppo delle ERT
Le ERT sono sistemi che rilevano e identificano gli stati emotivi individuali attraverso vari metodi. Alcuni ERT si concentrano su stati emotivi ampi, mentre altri monitorano una gamma di stati emotivi discreti come felicità, paura, rabbia e confusione.
Negli ultimi dieci anni, le ERT hanno sollevato controversie, con aziende come Amazon e Microsoft che hanno lanciato prodotti in questo settore. Il mercato delle ERT è stato stimato intorno ai 20 miliardi di dollari nel 2019, con previsioni di oltre 50 miliardi di dollari entro la fine del 2024.
Le Emozioni come Strumento di Giudizio
Le emozioni giocano un ruolo cruciale nel giudicare il carattere e le intenzioni di una persona. Analizzare le emozioni altrui è fondamentale in situazioni come processi legali e decisioni interpersonali. Il giudice Anthony Kennedy ha sottolineato che conoscere lo stato emotivo di un imputato è essenziale per comprendere la sua responsabilità.
Le Limitazioni delle ERT
Tuttavia, l’idea che le emozioni possano rivelare la verità interiore di una persona è controversa. Le persone possono ingannare riguardo ai propri stati emotivi, e le ERT possono essere influenzate da bias legati a età, etnia e genere.
Regolamentazione delle ERT nell’Unione Europea
Nel 2021, la legge AI ha classificato le ERT come tecnologie ad alto rischio, vietandone l’uso in contesti lavorativi e educativi. Tuttavia, il divieto si applica solo all’inferenza degli stati emotivi e non all’identificazione delle espressioni emotive.
Ciò significa che un manager di un call center potrebbe ancora monitorare le emozioni senza inferire esplicitamente che un dipendente sia grumpy sulla base del tono della voce.
Problemi di Regolamentazione e Futuri Sviluppi
La legge non protegge gli utenti dall’uso delle ERT, ma solo dall’uso di ERT biasate e difettose. Con l’evoluzione delle tecnologie, è plausibile che i miglioramenti nelle ERT multimodali possano superare le sfide tecniche attuali.
In un’epoca in cui la comprensione delle emozioni umane diventa essenziale nello sviluppo dei sistemi AI, è fondamentale considerare l’impatto che la commodificazione della vita affettiva avrà sulle persone e sulla società.
