Como os direitos das crianças devem ser integrados na governança da IA?
A presença crescente da IA em contextos educacionais tem revolucionado a forma como as crianças aprendem e interagem. A IA é utilizada para personalizar experiências de aprendizagem, monitorar o desempenho e auxiliar os professores no planejamento e entrega de aulas. À medida que as crianças passam mais tempo online e se conectam por meio das redes sociais, a IA molda seu acesso e recebimento de informações sobre o mundo, além de influenciar como formam e mantêm amizades.
No entanto, apesar da crescente influência da IA nas vidas das crianças, elas estão frequentemente ausentes dos processos de tomada de decisão relacionados ao design, desenvolvimento, implementação ou governança da IA. Essa lacuna resulta em tecnologias que muitas vezes são projetadas sem levar em consideração as necessidades, vulnerabilidades e interesses específicos dos usuários mais jovens.
Impactos da IA nos direitos das crianças
Um estudo da UNICEF em 2020 revelou que, embora quase todos os países tenham assinado a Convenção das Nações Unidas sobre os Direitos da Criança (UNCRC), muitos países com estratégias nacionais de IA mencionam minimamente ou não mencionam os direitos das crianças. Isso levanta preocupações sobre como a governança pode garantir que os direitos das crianças sejam protegidos e que os sistemas de IA sejam projetados para apoiar os melhores interesses das crianças.
Trabalho Atual e Pesquisas
Desde 2020, a equipe de Direitos das Crianças & IA do Alan Turing Institute tem trabalhado em projetos inovadores que exploram a interseção entre os direitos das crianças e a IA. Em colaboração com a UNICEF, a equipe pilotou diretrizes de política centradas na criança. Uma pesquisa conduzida por meio de entrevistas semi-estruturadas com partes interessadas do setor público no Reino Unido revelou que, embora muitos stakeholders queiram envolver crianças em relação à IA, eles frequentemente não sabem como fazê-lo.
Além disso, um relatório recente mapeou estruturas transnacionais relacionadas aos direitos das crianças e ao bem-estar, revelando que a maioria das estruturas se concentra em como governos e formuladores de políticas devem garantir os direitos das crianças, mas pouco se menciona sobre a responsabilidade do governo em evitar a violação desses direitos.
Engajamento das Crianças na IA
Um projeto em andamento, que começou em 2021, está colaborando com o Children’s Parliament e a Scottish AI Alliance para envolver crianças de escolas primárias na Escócia, explorando como elas se sentem sobre a IA e como desejam que a IA seja desenvolvida no futuro. Este projeto inclui workshops com cerca de 100 crianças e investigações online, permitindo que as crianças se envolvam diretamente com desenvolvedores e formuladores de políticas.
Desafios e Recomendações
Durante uma conferência de alto nível, três desafios principais foram identificados: a falta de estruturas legais que abordem os direitos das crianças no contexto da IA, a maneira como os sistemas de IA são frequentemente projetados sem considerar esses direitos e a escassez de evidências científicas sobre o impacto da IA no desenvolvimento das crianças.
As descobertas do mapeamento sugerem a necessidade de uma abordagem multissetorial para a colaboração internacional e o compartilhamento de conhecimentos, enfatizando que as crianças e jovens devem permanecer no centro das conversas sobre a governança da IA. É fundamental que os direitos e as vozes das crianças sejam incorporados nos processos de tomada de decisão para garantir que os benefícios da IA sejam realizados, enquanto se protege as crianças dos riscos associados.
