Objetivos Globais, Realidades Locais: Alinhando a Governança de IA com a Inclusão
No dia 22 de setembro de 2024, a Assembleia Geral da ONU adotou o Pacto para o Futuro, uma resolução histórica que incluiu o Pacto Digital Global (GDC). Entre suas principais iniciativas, estavam a criação de um Painel Científico Internacional Independente sobre Inteligência Artificial (IA) e o lançamento de um Diálogo Global sobre a Governança da IA.
À primeira vista, o GDC parece ser um passo na direção certa. Ele prevê um futuro digital que é inclusivo, justo, seguro e sustentável. No entanto, o Compacto não oferece orientações concretas para garantir que o Painel Científico ou o Diálogo Global sejam verdadeiramente inclusivos. Sem um quadro claro e aplicável para representação e participação, é difícil imaginar como esses esforços atenderão suas ambições declaradas.
A Importância da Inclusão no Processo
Para entender por que isso é importante, é preciso primeiro compreender como as resoluções da ONU ganham vida. Embora sejam formalmente negociadas pelos Estados Membros, esses processos frequentemente deixam pouco espaço para a contribuição da sociedade civil, comunidades marginalizadas ou especialistas independentes. Grande parte da redação ocorre a portas fechadas, impulsionada por um pequeno círculo de diplomatas.
Os facilitadores podem solicitar feedback ou convidar a submissão por escrito, mas não existem mecanismos vinculativos que garantam que perspectivas diversas sejam não apenas ouvidas, mas refletidas de maneira significativa no resultado final. Essa arquitetura processual é inadequada para enfrentar um desafio tão dinâmico e multifacetado como a IA. Quando a inclusão está ausente do processo, raramente está presente no resultado.
Desafios Linguísticos
Um dos primeiros e mais imediatos obstáculos é a linguagem. Quase três bilhões de pessoas ao redor do mundo não conseguem falar, ler ou escrever em nenhuma das seis línguas oficiais da ONU. Se elas não conseguem acessar as conversas—sejam em consultas nacionais ou convenções globais—como podem suas realidades informar as políticas que estão sendo desenvolvidas em seu nome? Como podemos afirmar que estamos projetando sistemas de IA equitativos quando comunidades linguísticas e culturais inteiras estão excluídas da mesa?
Isso não é uma preocupação teórica—está acontecendo hoje, mesmo dentro da própria ONU. Como o Secretário-Geral enfatizou recentemente durante o lançamento da iniciativa UN80, a ONU deve se tornar mais ágil, transparente e acessível. No entanto, mesmo agora, consultas informais e negociações na ONU frequentemente carecem de serviços de tradução, efetivamente marginalizando inúmeros Estados Membros e grupos da sociedade civil que não podem operar em nenhuma das seis línguas oficiais da ONU.
Em vez de depender exclusivamente de intérpretes humanos caros—ou pior, esperar que os participantes se desenrasquem—, a ONU poderia abraçar ferramentas de tradução alimentadas por IA para preencher essas lacunas em tempo real, especialmente durante consultas informais onde os recursos são limitados.
Dados e Exclusão
Mas a linguagem é apenas uma camada de exclusão. Outra, menos visível, mas igualmente significativa, reside nos dados em si. O desenvolvimento da IA é amplamente dominado por um pequeno número de empresas de tecnologia multinacionais. Essas empresas estão sediadas no Global North, mas grande parte dos dados que alimentam seus sistemas vem do Global South. O desequilíbrio é impressionante: o Global South contribui com a matéria-prima para tecnologias avançadas de IA, mas é excluído das decisões que governam como essas tecnologias são construídas, treinadas e implantadas.
Considere um sistema de IA projetado para monitorar tendências de saúde entre mulheres de ascendência africana nos Estados Unidos. Ignorar os contextos de saúde mais amplos das populações africanas e caribenhas não seria apenas uma visão de curto prazo, mas também poderia ser perigoso.
Essas preocupações não são mais teóricas. Já vimos como a IA pode reforçar desigualdades sistêmicas, desde algoritmos de contratação discriminatórios até ferramentas falhas usadas na saúde e na justiça criminal. Esses sistemas não são neutros—refletem as prioridades, suposições e pontos cegos de seus criadores.
A Necessidade de Inclusão na Governança da IA
À medida que a comunidade global começa a definir a arquitetura da governança da IA, devemos evitar repetir os padrões de exclusão que nos trouxeram a este ponto. Isso significa rejeitar os antigos reflexos diplomáticos que prezam pela velocidade e consenso em detrimento da equidade e representação.
Em um mundo ideal, o Diálogo Global sobre a Governança da IA adotaria uma estrutura híbrida de múltiplos níveis que garantisse representação, responsabilidade e transparência desde o início:
- Primeiro, poderia ser estabelecido um Grupo Consultivo Global inclusivo, composto por representantes de comunidades marginalizadas, povos indígenas, minorias linguísticas, jovens, pessoas com deficiência e especialistas do Global South—selecionados através de processos abertos e transparentes liderados por redes regionais e temáticas.
- Segundo, todas as consultas—sejam virtuais ou presenciais—deveriam ser realizadas em múltiplas línguas além das seis línguas oficiais da ONU, utilizando IA para tradução simultânea.
- Terceiro, o Diálogo deveria se comprometer com uma abordagem aberta e iterativa, publicando posições preliminares para comentários públicos e exigindo que os Estados Membros relatassem de forma transparente como tais contribuições foram abordadas.
A inclusão deve moldar quem se senta no Painel Científico, como o Diálogo Global é projetado e conduzido, e como conhecimento, expertise e experiências vividas são reconhecidos e validados através de fronteiras culturais e disciplinares. Isso significa garantir que o Global South, povos indígenas, minorias linguísticas, pessoas com deficiência e jovens não sejam apenas presentes, mas empoderados para moldar a agenda.
Estamos em um momento crucial. As estruturas de governança que construímos hoje moldarão os limites éticos, as trajetórias tecnológicas e as consequências sociais da IA por décadas. Se não agirmos com inclusão intencional agora, corremos o risco de criar sistemas que aprofundem desigualdades existentes e sirvam aos interesses de poucos em detrimento de muitos.
O tempo para gestos simbólicos passou. O que precisamos agora é de liderança ousada e principiada—liderança que priorize justiça, acessibilidade e representação na governança global da IA.
