Come dovrebbero essere integrate i diritti dei bambini nella governance dell’IA?
L’IA è sempre più presente nei contesti educativi, utilizzata per personalizzare le esperienze di apprendimento, monitorare e tracciare i risultati o assistere gli insegnanti nella pianificazione e nell’erogazione delle lezioni. Con i bambini che trascorrono sempre più tempo online e si connettono attraverso i social media, l’IA sta plasmando il loro accesso e la loro ricezione delle informazioni sul mondo e come formano e mantengono le amicizie. Inoltre, i sistemi di IA impiegati nel settore pubblico hanno un impatto significativo sulle vite dei bambini e delle loro famiglie, influenzando decisioni riguardanti l’accesso a servizi fondamentali come sanità, istruzione, alloggio e giustizia penale.
Tuttavia, mentre l’IA sta influenzando sempre più tutte le aree della vita dei bambini, questi ultimi sono per lo più assenti dai processi decisionali riguardanti la progettazione, lo sviluppo, il dispiegamento o la governance dell’IA. Ciò significa che spesso le tecnologie di IA sono progettate senza considerare le esigenze, le vulnerabilità e gli interessi specifici degli utenti più giovani. Inoltre, le risposte politiche o normative, che hanno un ruolo chiave nel proteggere i bambini, sono spesso sviluppate senza avere conoscenze concrete delle esperienze o degli interessi dei bambini.
Non affrontando queste considerazioni vitali, l’IA può avere impatti significativamente dannosi sui diritti dei bambini. Sebbene quasi tutti i paesi del mondo abbiano firmato la Convenzione delle Nazioni Unite sui diritti del fanciullo (UNCRC), uno studio dell’UNICEF del 2020 ha rilevato che su 20 paesi con strategie nazionali per l’IA, la maggior parte includeva una menzione minima o assente dei bambini e dei loro diritti. È necessario un intervento nella governance per garantire che i diritti dei bambini siano sempre rispettati e che i sistemi di IA siano progettati e utilizzati per supportare il miglior interesse del bambino. Per raggiungere questo obiettivo, è necessaria ulteriore ricerca per comprendere le relazioni variabili e in evoluzione dei bambini con l’IA.
Panoramica del lavoro attuale
Dal 2020, il team sui diritti dei bambini e l’IA ha lavorato su progetti innovativi che esplorano i diritti dei bambini e l’IA. Il team ha collaborato con l’UNICEF per testare le loro linee guida politiche sulla IA centrata sui bambini. In questa ricerca, sono state condotte interviste semi-strutturate con soggetti del settore pubblico nel Regno Unito, e si è riscontrato che, mentre molti stakeholder aspirano a coinvolgere i bambini riguardo all’IA, solitamente riferiscono di non sapere come farlo. Basandosi su questo lavoro, il nostro articolo di ricerca esamina gli approcci attuali progettati per affrontare i diritti dei bambini in relazione ai sistemi di IA.
Per espandere a una prospettiva più globale, abbiamo condotto un’analisi approfondita mappando i quadri normativi all’intersezione tra tecnologie basate sui dati, diritti dei bambini e benessere. Questi risultati sono stati pubblicati nel nostro recente rapporto che include due mappe di calore che illustrano la nostra analisi e valutazione di 13 quadri transnazionali in relazione a tre temi chiave: diritti dei bambini, benessere dei bambini e raccomandazioni e politiche centrate sui bambini. A un livello granulare, abbiamo esplorato categorie specifiche di diritti dei bambini, come la non discriminazione e il miglior interesse del bambino, così come le violazioni dei diritti dei bambini in relazione allo sfruttamento. Abbiamo anche esaminato il benessere dei bambini e considerazioni sociotecniche come l’importanza della voce e dell’agenzia dei bambini, opportunità e rischi, e una considerazione speciale per i bambini vulnerabili e svantaggiati.
Risultati chiave e raccomandazioni
Il nostro rapporto dimostra che c’è bisogno di un approccio multistakeholder alla collaborazione internazionale e alla condivisione delle conoscenze per garantire che questi quadri siano utilizzati efficacemente nella pratica. Ci aspettiamo che il nostro lavoro fornisca un punto di partenza per future ricerche e serva come risorsa utile per i responsabili politici e i professionisti per esplorare modi per sviluppare e applicare approcci centrati sui bambini all’IA. È fondamentale che i diritti e le voci dei bambini rimangano al centro dei processi decisionali riguardanti la progettazione, lo sviluppo, il dispiegamento e la governance dei sistemi di IA che influenzano le loro vite.
Con molti paesi in attesa del rilascio della nuova legge sull’IA dell’UE e della Convenzione del Consiglio d’Europa sui diritti umani, è cruciale che i bambini e i giovani siano al centro di queste conversazioni. Sebbene supportiamo il lavoro emergente e gli sforzi a livello giuridico e politico nel riconoscere i diritti dei bambini, crediamo che siano necessarie ulteriori azioni. Man mano che l’IA diventa sempre più prevalente nella vita quotidiana dei bambini, è fondamentale che i diritti dei bambini e le loro voci siano al centro dei processi decisionali riguardanti i sistemi di IA che li influenzano, per creare un mondo digitale in cui possano prosperare.
