La Regola del Diritto e l’Etica dell’IA: FRTs in Primo Piano
Negli ultimi anni, i sistemi di intelligenza artificiale (IA) hanno dimostrato di avere benefici significativi per l’umanità, ma il loro utilizzo ha sollevato sfide morali, legali ed etiche complesse. Ad esempio, nel maggio 2023, un’emittente radio locale ha riportato che “la Jamaica Constabulary Force introdurrà presto tecnologie di riconoscimento facciale (FRT) per assistere nell’arresto di persone indesiderate”. Le tecnologie di riconoscimento facciale sono definite come “un insieme di strumenti digitali utilizzati per svolgere compiti su immagini o video di volti umani”. Tuttavia, l’uso di queste tecnologie nel contesto delle forze dell’ordine solleva gravi preoccupazioni riguardo a pregiudizi, discriminazione e rispetto dei diritti umani.
I pericoli del dispiegamento non regolamentato delle FRT
Nonostante il loro uso diffuso, le FRT sono classificate come sistemi di IA “ad alto rischio” a causa dei pregiudizi algoritmici intrinseci. In particolare, le FRT identificano erroneamente le persone di colore e le donne a tassi significativamente più alti rispetto agli uomini bianchi. Un studio del NIST del 2020 ha anche trovato che i tassi di errata identificazione erano ancora più elevati quando i soggetti indossavano mascherine. Questi errori hanno portato a violazioni dei diritti umani fondamentali.
Nel dicembre 2020, Nijeer Parks, un uomo afroamericano, è stato ingiustamente arrestato e detenuto per 10 giorni dopo essere stato identificato erroneamente come sospetto ladro. Più recentemente, nel febbraio 2023, una donna afroamericana incinta di otto mesi è stata arrestata per carjacking e interrogata per 11 ore a seguito di un errore di corrispondenza delle FRT. Questi casi dimostrano i pericoli del dispiegamento delle FRT senza un adeguato controllo normativo.
Inoltre, il dispiegamento non regolamentato delle FRT ha suscitato preoccupazioni riguardo alla privacy informativa, poiché i dati biometrici sensibili raccolti possono essere utilizzati per facilitare la sorveglianza di massa. Diventa pertanto cruciale regolamentare le FRT in modo da bilanciare l’innovazione guidata dall’IA con il rispetto dei diritti umani fondamentali e della Regola del Diritto.
Interazione tra Regola del Diritto, Etica dell’IA e FRT
Nell’era della Quarta Rivoluzione Industriale, i sistemi di IA non regolamentati come le FRT possono minacciare i diritti umani fondamentali e minare la Regola del Diritto, un principio democratico volto a prevenire l’abuso di potere esecutivo garantendo che le azioni statali siano legali, responsabili, trasparenti, giuste e non discriminatorie. Nel caso Edward Bridges v. The Chief Constable of South Wales Police and others, la Corte d’Appello ha stabilito che l’uso delle FRT da parte della polizia del Galles del Sud violava le leggi sulla protezione dei dati, sulla privacy e sull’uguaglianza.
Data l’importanza di un uso regolamentato delle FRT, il concetto di Etica dell’IA assume un’importanza considerevole. Questa può essere definita come “una riflessione normativa sistematica che può guidare le società nel trattare responsabilmente gli impatti noti e ignoti delle tecnologie IA”. L’atto dell’Unione Europea sull’IA del 2024 stabilisce standard giuridici vincolanti per garantire che i sistemi di IA “rispettino i diritti fondamentali, la sicurezza e i principi etici”. Il Toronto Declaration, sebbene non abbia forza di legge, mira a incoraggiare l’accettazione dei diritti umani come componente fondamentale dell’Etica dell’IA.
Bilanciare l’innovazione guidata dall’IA con il rispetto dei diritti umani fondamentali e della Regola del Diritto
Il piano della JCF di implementare le FRT riflette un desiderio lodevole di modernizzare le strategie di lotta al crimine. Tuttavia, data la gravità delle preoccupazioni sollevate, la Giamaica dovrebbe imporre un moratorium sul loro uso fino a quando non sarà stabilita una regolamentazione legale, come già fatto in giurisdizioni più avanzate come gli Stati Uniti. Qualsiasi quadro giuridico per la regolamentazione delle FRT dovrebbe essere informato da un’Etica dell’IA centrata sui diritti umani, garantendo che le FRT siano utilizzate in modo rispettoso dei diritti umani e della Regola del Diritto.
In conclusione, una governance responsabile dell’IA richiede un approccio che riconosca e integri la convergenza tra l’Etica dell’IA centrata sui diritti umani e la Regola del Diritto. Abbracciando questa convergenza, i legislatori e gli altri portatori di interesse saranno meglio posizionati per sviluppare quadri normativi per le FRT che rispettino i diritti umani fondamentali senza soffocare l’innovazione guidata dall’IA.
