ONU busca construir consenso sobre IA “segura, confiável e protegida”
A Organização das Nações Unidas está empreendendo esforços para influenciar mais diretamente a política global sobre inteligência artificial (IA), incluindo a promoção de normas políticas e técnicas em torno de uma IA “segura, confiável e protegida”.
No mês passado, a entidade mundial finalizou planos para criar um novo painel de especialistas focado no desenvolvimento de normas científicas, técnicas e políticas para essa tecnologia emergente. O Painel Científico Independente sobre IA será composto por 40 especialistas internacionais que servirão por mandatos de três anos, com representação geográfica equilibrada para promover a compreensão científica dos riscos e impactos.
Diálogo Global sobre Governança da IA
A mesma resolução também criou o Diálogo Global sobre Governança da IA, que visa reunir governos, empresas e especialistas para “discutir cooperação internacional, compartilhar melhores práticas e lições aprendidas, e facilitar discussões abertas, transparentes e inclusivas sobre a governança da inteligência artificial.” A primeira tarefa listada para o diálogo é o “desenvolvimento de uma inteligência artificial segura, confiável e protegida.”
Na quinta-feira, o Secretário-Geral António Guterres afirmou que essas ações ajudarão a ONU a passar “dos princípios à prática” e a promover ainda mais a organização como um fórum global para moldar políticas e normas de IA.
Questões Complexas e Desafios
Isso também será uma oportunidade para construir um consenso internacional sobre uma série de questões complicadas, incluindo o consumo de energia dos sistemas de IA, o impacto da tecnologia na força de trabalho humana e as melhores maneiras de evitar seu uso indevido para fins maliciosos ou repressão de cidadãos.
O trabalho da ONU “complementará os esforços existentes em todo o mundo – incluindo na OCDE, no G7 e em organizações regionais – e fornecerá um espaço inclusivo e estável para os esforços de coordenação da governança da IA”, disse ele. “Em suma, trata-se de criar um espaço onde governos, indústria e sociedade civil possam avançar juntos em soluções comuns.”
Desafios da Governança da IA
Guterres usou uma retórica elevada para argumentar que a tecnologia está destinada a se tornar parte integral da vida de bilhões de pessoas, reestruturando fundamentalmente a vida na Terra. “A questão não é mais se a IA transformará nosso mundo – ela já está transformando”, disse Guterres. “A questão é se vamos governar essa transformação juntos – ou deixá-la nos governar.”
A pressão da ONU por segurança, proteção e confiança em sistemas de IA ocorre em um momento em que países com alta adoção e gastos, como Estados Unidos, Reino Unido e Europa, estão se afastando da ênfase nessas mesmas preocupações ou estão se inclinando mais fortemente para argumentar a favor da desregulamentação para ajudar suas indústrias a competir com a China.
Oportunidades e Limitações
Especialistas internacionais em tecnologia disseram que isso pode abrir espaço para a ONU ou outro órgão credível ter uma voz maior na modelagem das discussões sobre IA segura e responsável. No entanto, eles também eram realistas sobre a autoridade limitada da ONU para fazer muito mais do que incentivar boas políticas.
Pavlina Pavova, uma especialista em políticas cibernéticas no Escritório da ONU sobre Drogas e Crime, em Viena, Áustria, afirmou que a ONU tem construído uma base para ter discussões mais substanciais sobre IA e permanece “o fórum mais inclusivo para o diálogo internacional” sobre a tecnologia. No entanto, ela acrescentou: “Os formatos recém-estabelecidos são consultivos e carecem de autoridade de aplicação, desempenhando um papel de construção de confiança, no melhor dos casos.”
James Lewis, conselheiro sênior do Centro de Análise de Políticas da Europa, ecoou alguns desses sentimentos, dizendo que os esforços da ONU terão “um impacto limitado”. Mas também deixou claro que a indústria de IA é “completamente incapaz de julgar riscos” e que colocar formuladores de políticas com “interesses reais” encarregados de desenvolver soluções pode ajudar a contrabalançar essa dinâmica.
Importância da Inclusão
Uma abordagem semelhante foi adotada pelos organizadores do Cyberspace Solarium dos EUA, que preenchiam sua comissão com legisladores influentes e especialistas em políticas, a fim de obter apoio em propostas concretas. O resultado foi que a comissão estima que 75% de suas recomendações finais foram adotadas na legislação.
“A coisa mais importante que eles podem fazer é ter um bom presidente, porque um bom presidente pode garantir que o produto final seja útil”, disse Lewis.
Outro desafio que Lewis apontou: a adoção e o investimento em IA tendem a ser mais altos nos Estados Unidos, Reino Unido e União Europeia, todos governos que provavelmente buscarão trilhar seus próprios caminhos nas políticas de IA. Esses governos podem acabar relutando em aceitar recomendações de um painel composto por especialistas de países com taxas de adoção de IA mais baixas, algo que Lewis comparou a passageiros “dizendo como dirigir o ônibus.”
Para Tiffany Saade, uma especialista em tecnologia e consultora de políticas de IA para o governo libanês, a inclusão dessas perspectivas não tradicionais é o ponto, dando a eles a oportunidade de moldar políticas para uma tecnologia que afetará suas vidas em breve. Saade, que participou de discussões da ONU em Nova York esta semana sobre IA, afirmou que a confiança foi um tema importante, especialmente para países com menos recursos tecnológicos e financeiros.
No entanto, qualquer boa ideia que surja desse processo da ONU precisará ter incentivos reais embutidos para levar países e empresas a adotarem as políticas preferidas. “Precisamos descobrir estruturas em torno disso para incentivar os governos líderes e os laboratórios de ponta a cumprir [as recomendações] sem comprometer a inovação”, disse ela.
