Lo sviluppo dell’IA in Sudafrica deve essere guidato dall’etica
Le aziende che sviluppano intelligenza artificiale (IA) e ignorano i propri pregiudizi sono destinate a rendere la propria vita più difficile. I pregiudizi e la discriminazione non solo alimentano l’ira tra i clienti, ma possono anche portare a problemi normativi in futuro.
Non c’è modo di rallentare l’avanzata dell’IA. La tecnologia si è infiltrata in ogni aspetto della vita, dalle piattaforme di chat ai giochi. Sebbene la maggior parte dell’IA rivolta ai clienti possa essere ignorata dagli utenti che non desiderano interagire con essa, le aziende la utilizzano per automatizzare determinate attività e lavori. Dal punto di vista di un operatore commerciale, delegare compiti precedentemente laboriosi a una macchina e risparmiare denaro è una scelta semplice.
Il ruolo dell’etica nello sviluppo dell’IA
Tuttavia, è fondamentale che l’etica faccia parte integrante dello sviluppo e dell’implementazione dell’IA. L’IA è ora integrata in vari settori, tra cui il servizio clienti, la rilevazione di frodi, il reclutamento, la creazione di contenuti e i sistemi di supporto decisionale. I quadri di governance riguardanti la progettazione, l’addestramento e il dispiegamento di questi strumenti rimangono però preoccupantemente deboli.
Il problema più preoccupante è che i pregiudizi sembrano già esistere anche senza una profonda implementazione dell’IA. Recentemente, alcuni schemi medici sono stati trovati a discriminare ingiustamente determinati fornitori di assistenza sanitaria. Se questo pregiudizio viene implementato, anche inconsapevolmente, nei sistemi di IA, le vite reali potrebbero essere in pericolo.
Rischi e responsabilità
Quando un algoritmo classifica erroneamente, le conseguenze si ripercuotono su persone reali e le ripercussioni finanziarie e reputazionali ricadono sull’organizzazione, non sul fornitore del software. Non si può delegare la responsabilità a una macchina. C’è anche un grande rischio per la reputazione di un’azienda se si scopre che è bias o discriminatoria. Inoltre, quando la legislazione si allinea con la tecnologia, le aziende possono trovarsi in disaccordo con i requisiti legali e normativi.
Per questo motivo, è importante delineare quattro aree di governance che dovrebbero guidare lo sviluppo dell’IA localmente:
Trasparenza
Le uscite generate o assistite dall’IA devono essere chiaramente comunicate ai soggetti interessati. Una comunicazione trasparente riduce il rischio reputazionale e si allinea con gli standard globali emergenti.
Audit dei dati e dei pregiudizi
I sistemi di IA devono essere addestrati e testati su dati che riflettono la diversità razziale, linguistica e geografica. Audit regolari dovrebbero essere obbligatori per garantire che i modelli non rinforzino le disuguaglianze storiche o incorporino decisioni ingiuste.
Supervisione umana
I decisori umani devono rimanere responsabili. Tutte le azioni supportate dall’IA, dalla produzione di contenuti alla valutazione del rischio, dovrebbero essere verificate per accuratezza e conformità con i quadri etici e legali.
Sviluppo delle competenze
I team devono avere una comprensione più profonda sia delle capacità sia dei limiti dell’IA. Senza un adeguato sviluppo delle competenze, le organizzazioni rischiano di utilizzare in modo errato gli strumenti, fraintendere i risultati e perdere segnali di allerta precoce di fallimenti algoritmici.
L’IA può trasformare il modo in cui operano le aziende, ma solo quelle che danno priorità alla governance, alla chiarezza e alla fiducia vedranno un valore sostenibile. Essere consapevoli dei molti pericoli che possono danneggiare lo sviluppo dell’IA ora e in futuro aiuta le aziende a prepararsi nel momento in cui le normative si allineano.
È sensato, dal punto di vista commerciale, essere più diversificati, equi e inclusivi, specialmente in un contesto multiculturale.
