Rumo ao Consenso sobre Ciência e Governança em IA
No mês passado, durante a 80ª sessão da Assembleia Geral das Nações Unidas (ONU) em Nova Iorque, os Estados Membros da ONU lançaram formalmente duas novas iniciativas: o Diálogo Global sobre Governança da IA e o Painel Científico Internacional Independente sobre IA. Ambas derivam do Compacto Digital Global e foram legitimadas na resolução A/RES/79/325, oficialmente adotada em 26 de agosto.
O Diálogo Global sobre Governança da IA fornecerá uma plataforma inclusiva dentro da ONU para que os Estados e partes interessadas discutam os problemas críticos relacionados à IA que a humanidade enfrenta hoje. Essa iniciativa visa promover a interoperabilidade entre diferentes vertentes de governança e incentivar a inovação aberta. Ao complementar iniciativas internacionais existentes, como o Processo de Hiroshima da G7, busca-se criar um ambiente estável e inclusivo para coordenar a governança da IA, ajudando a construir sistemas de IA seguros, confiáveis e confiáveis.
Por sua vez, o Painel Científico Internacional Independente sobre IA atuará como uma ponte crucial entre a pesquisa de ponta em IA e a formulação de políticas. Ele fornecerá avaliações científicas rigorosas e independentes, ajudando a comunidade internacional a antecipar desafios emergentes e a tomar decisões informadas sobre como governar essa tecnologia transformadora. O painel será composto por 40 especialistas globais que produzirão um relatório científico anual sobre os riscos, oportunidades e impactos da IA.
Desafios e Críticas
Apesar de ser considerado um triunfo simbólico, a nova arquitetura de governança da IA da ONU enfrenta vários desafios. Primeiro, instituições internacionais baseadas em representação, focadas em alcançar consenso, podem ser inadequadas para acompanhar as tecnologias em rápida mudança e suas potenciais crises. A cooperação é voluntária, e qualquer ação é de responsabilidade dos Estados Membros, o que levanta questões sobre a eficácia em responder a eventos imprevistos.
Além disso, a ONU carece de mecanismos para impor resoluções, tornando-as impotentes se grandes nações desenvolvedoras de IA, como os EUA ou a China, decidirem não participar ou cumprir.
O financiamento dessas iniciativas ambiciosas também é problemático. Todas as atividades da ONU dependem do financiamento dos Estados Membros, e com a recente ordem executiva dos EUA para reavaliar todos os organismos internacionais, a sustentabilidade financeira das novas iniciativas é incerta.
Por último, surge a questão de se as iniciativas visam fomentar a melhor pesquisa de liderança mundial em governança de IA ou se buscam atender a uma distribuição menos focada dos benefícios da IA em conformidade com uma variedade de objetivos sociais da ONU.
Embora a ONU mereça algum crédito por conseguir uma cooperação internacional imperfeita (melhor do que nenhuma cooperação) em IA, sua possível influência ou impacto ainda está por ser determinado.
