Responsabilità nell’AI
La responsabilità nell’intelligenza artificiale si riferisce all’idea che l’intelligenza artificiale debba essere sviluppata, implementata e utilizzata in modo tale che la responsabilità per i risultati negativi possa essere assegnata a parti responsabili. La tecnologia abilitata all’AI solleva spesso preoccupazioni di responsabilità a causa dell’opacità e della complessità dei sistemi di machine e deep learning, del numero di stakeholder coinvolti nella creazione e implementazione dei prodotti AI, e del potenziale di apprendimento dinamico della tecnologia.
Una perdita di trasparenza, tracciabilità e responsabilità
I modelli di linguaggio di grandi dimensioni (LLM) sono sistemi stocastici inscrutabili sviluppati in ambienti chiusi, spesso da aziende che non sono disposte a condividere informazioni sulla loro architettura. Questo rende difficile sapere come e perché un sistema ha raggiunto un determinato output. Di conseguenza, diventa complicato risalire alla causa e tenere le persone giuste responsabili per i danni che potrebbero derivare dagli output del sistema.
Domande di discussione
1. Perché la trasparenza è importante nei sistemi AI?
2. Chi dovrebbe essere ritenuto responsabile quando un sistema AI commette un errore?
3. In che misura gli sviluppatori di AI dovrebbero essere responsabili per le conseguenze indesiderate dei sistemi che creano?
4. Quali responsabilità, se esistenti, hanno le aziende nel rendere i loro sistemi AI spiegabili?
5. Come possiamo rendere i sistemi AI complessi più interpretabili e quale ruolo dovrebbe avere l’istruzione in questo processo?
6. Quali principi etici e tecnici dovrebbero guidare lo sviluppo di sistemi AI per proteggere contro le preoccupazioni relative alla responsabilità nell’AI?
7. Come, se non del tutto, può essere regolata la questione della responsabilità nell’AI?
8. Quanto è importante la spiegabilità dell’AI in aree critiche come la sanità e la giustizia penale?
Un quadro per la governance internazionale dell’AI
In considerazione dello sviluppo rapido delle applicazioni generative di intelligenza artificiale, è stato co-sviluppato un quadro che si basa su idee discusse in workshop del 2023. La proposta è offerta per stimolare una riflessione più profonda su ciò che abbiamo appreso dalla promozione e dalla governance delle tecnologie esistenti, ciò che è necessario e i prossimi passi da seguire.
Risorse aggiuntive
La responsabilità è fondamentale per lo sviluppo di un’AI affidabile. Le organizzazioni stanno analizzando come le città utilizzano il potere degli acquisti pubblici per un’AI responsabile e come sviluppare meccanismi di responsabilità per i sistemi AI. Inoltre, esistono quadri etici per l’uso decisionale automatizzato dell’AI, che guidano gli enti governativi nel loro utilizzo etico.
