Responsabilità nell’IA
Gli designer e gli sviluppatori di intelligenza artificiale hanno la responsabilità di considerare il design, lo sviluppo, i processi decisionali e i risultati dell’IA.
Il giudizio umano gioca un ruolo fondamentale in un sistema apparentemente oggettivo di decisioni logiche. Sono gli esseri umani a scrivere gli algoritmi, a definire il successo o il fallimento, a prendere decisioni sull’uso dei sistemi e a essere influenzati dai risultati di un sistema.
Ogni persona coinvolta nella creazione dell’IA in qualsiasi fase è responsabile di considerare l’impatto del sistema nel mondo, così come le aziende investite nel suo sviluppo.
Azioni raccomandate
01
Rendi le politiche aziendali chiare e accessibili ai team di design e sviluppo fin dal primo giorno, affinché nessuno sia confuso riguardo alle questioni di responsabilità o di accountability. Come designer o sviluppatore di IA, è tua responsabilità sapere.
02
Comprendi dove termina la responsabilità dell’azienda/software. Potresti non avere il controllo su come i dati o uno strumento verranno utilizzati da un utente, cliente o altra fonte esterna.
03
Mantieni registrazioni dettagliate dei tuoi processi di design e decisione. Determina una strategia per mantenere i registri durante il processo di design e sviluppo per incoraggiare le migliori pratiche e favorire l’iterazione.
04
Aderisci alle linee guida di condotta aziendale. Comprendere anche le leggi nazionali e internazionali che la tua IA potrebbe dover rispettare. Puoi trovare altre risorse correlate nel documento IEEE Ethically Aligned Design.
“Quasi il 50% degli sviluppatori intervistati crede che gli esseri umani che creano l’IA dovrebbero essere responsabili per considerare le ramificazioni della tecnologia. Non i capi. Non i manager di medio livello. I programmatori.”
Da considerare
– Comprendi il funzionamento della tua IA anche se non stai sviluppando e monitorando personalmente i suoi algoritmi.
– Riferisciti a ricerche secondarie condotte da sociologi, linguisti, comportamentisti e altri professionisti per comprendere i problemi etici in un contesto olistico.
Domande per il tuo team
– Come cambia la responsabilità in base ai livelli di influenza dell’utente su un sistema IA?
– L’IA sarà integrata in un processo decisionale umano, sta prendendo decisioni autonomamente, o è un ibrido?
– Come manterrà il nostro team i registri del nostro processo?
– Come possiamo tenere traccia delle scelte e considerazioni etiche nel design dopo il lancio dell’IA?
– Gli altri, nuovi al nostro progetto, saranno in grado di comprendere i nostri registri?
Esempio di responsabilità
– Il team utilizza ricercatori di design per contattare ospiti reali negli hotel per comprendere i loro desideri e bisogni attraverso interviste faccia a faccia.
– Il team considera la propria responsabilità quando il feedback di un assistente dell’hotel non soddisfa le esigenze o le aspettative degli ospiti. Hanno implementato un loop di apprendimento per comprendere meglio le preferenze e hanno evidenziato la possibilità per un ospite di disattivare l’IA in qualsiasi momento durante il soggiorno.
