Scappatoie nella regolamentazione delle emozioni nell’era dell’IA

Un Buco Normativo nella Legge AI sulle Tecnologie di Riconoscimento delle Emozioni

La recente legge AI ha suscitato interrogativi riguardo al suo divieto delle tecnologie di riconoscimento delle emozioni (ERT). Esiste un evidente buco normativo che potrebbe minare l’efficacia di tale divieto.

Contesto e Sviluppo delle ERT

Le ERT sono sistemi che rilevano e identificano gli stati emotivi individuali attraverso vari metodi. Alcuni ERT si concentrano su stati emotivi ampi, mentre altri monitorano una gamma di stati emotivi discreti come felicità, paura, rabbia e confusione.

Negli ultimi dieci anni, le ERT hanno sollevato controversie, con aziende come Amazon e Microsoft che hanno lanciato prodotti in questo settore. Il mercato delle ERT è stato stimato intorno ai 20 miliardi di dollari nel 2019, con previsioni di oltre 50 miliardi di dollari entro la fine del 2024.

Le Emozioni come Strumento di Giudizio

Le emozioni giocano un ruolo cruciale nel giudicare il carattere e le intenzioni di una persona. Analizzare le emozioni altrui è fondamentale in situazioni come processi legali e decisioni interpersonali. Il giudice Anthony Kennedy ha sottolineato che conoscere lo stato emotivo di un imputato è essenziale per comprendere la sua responsabilità.

Le Limitazioni delle ERT

Tuttavia, l’idea che le emozioni possano rivelare la verità interiore di una persona è controversa. Le persone possono ingannare riguardo ai propri stati emotivi, e le ERT possono essere influenzate da bias legati a età, etnia e genere.

Regolamentazione delle ERT nell’Unione Europea

Nel 2021, la legge AI ha classificato le ERT come tecnologie ad alto rischio, vietandone l’uso in contesti lavorativi e educativi. Tuttavia, il divieto si applica solo all’inferenza degli stati emotivi e non all’identificazione delle espressioni emotive.

Ciò significa che un manager di un call center potrebbe ancora monitorare le emozioni senza inferire esplicitamente che un dipendente sia grumpy sulla base del tono della voce.

Problemi di Regolamentazione e Futuri Sviluppi

La legge non protegge gli utenti dall’uso delle ERT, ma solo dall’uso di ERT biasate e difettose. Con l’evoluzione delle tecnologie, è plausibile che i miglioramenti nelle ERT multimodali possano superare le sfide tecniche attuali.

In un’epoca in cui la comprensione delle emozioni umane diventa essenziale nello sviluppo dei sistemi AI, è fondamentale considerare l’impatto che la commodificazione della vita affettiva avrà sulle persone e sulla società.

More Insights

Fiducia e Rischio nell’Era dell’AI

Per i marketer, l'IA promette un salto in produttività, ma solo se guidata da una strategia chiara e supervisione umana. La questione non è se utilizzare l'IA, ma come usarla in modo responsabile ed...

Governanza Cloud: Rilanciare l’Innovazione nell’Era dell’AI

Molti si concentrano sulle ultime innovazioni dell'IA, ma pochi prestano attenzione a un gap critico: i modelli di governance del cloud obsoleti. Questi modelli non sono stati costruiti per il ritmo...

Guida pratica per un’adozione responsabile dell’IA

Con l'intelligenza artificiale (IA) che diventa una parte fondamentale delle moderne attività commerciali, la Confederazione dell'Industria Indiana (CII) ha pubblicato una nuova guida per aiutare i...

Automazione Intelligente e Sicurezza: Rischi e Opportunità nel DevSecOps

L'adozione rapida dell'automazione alimentata dall'IA nel DevSecOps introduce opportunità e sfide significative. Sebbene l'automazione possa migliorare l'efficienza, è fondamentale garantire che le...

Centro di Eccellenza per l’Intelligenza Artificiale: La Nuova Frontiera del Diritto

In un importante sviluppo che pone l'India in prima linea nel dibattito globale sulla regolamentazione dell'intelligenza artificiale (AI), è stato annunciato l'istituzione del Centro Cyril Shroff per...

Politica AI: Semplificare la Governance per le Agenzie Pubbliche

Darwin ha annunciato il lancio del suo AI Policy Wizard, uno strumento gratuito e interattivo progettato per aiutare i governi locali e le agenzie pubbliche a creare politiche AI pratiche e conformi...

Riconquistare la Fiducia nell’Intelligenza Artificiale con la Governance

Le minacce poco chiare e il comportamento imprevedibile complicano la fiducia globale nell'IA. È essenziale utilizzare misure di governance come il Regolamento sull'IA dell'UE per stabilire una...

Cultura e AI: Costruire Fiducia nel Futuro Tecnologico

Questo rapporto esamina le soluzioni che enfatizzano gli accordi collaborativi e le iniziative interorganizzative per creare un input diversificato di idee. È fondamentale che la governance dell'IA...

La conformità al copyright nell’era dell’IA generativa

Una delle sfide principali nella formazione dei modelli di intelligenza artificiale generativa è garantire la conformità alle leggi sul copyright. L'AI Act dell'UE sottolinea la necessità di...