A tentativa das Nações Unidas de regular a IA pode complicar a conformidade das empresas
As Nações Unidas lançaram um apelo para que os países concordem com o que chamam de linhas vermelhas da IA: limites que não devem ser cruzados em relação à inteligência artificial, para serem estabelecidos até o final de 2026, com o objetivo de prevenir os riscos mais severos à humanidade e à estabilidade global.
A declaração da ONU afirmou que, “sem regras internacionais vinculativas, a humanidade enfrenta riscos crescentes, que variam de pandemias criadas em laboratório e desinformação em larga escala a ameaças à segurança global, abusos sistemáticos dos direitos humanos e perda de controle humano sobre sistemas avançados.”
Possíveis proibições e preocupações
A ONU propôs uma ampla gama de possíveis proibições em relação à IA, incluindo:
- Proibição do uso em armas autônomas letais.
- Proibição da imitação humana por meio de sistemas de IA que enganam os usuários a acreditar que estão interagindo com um humano.
- Proibindo o uso em vigilância em massa.
- Proibição da replicação autônoma, onde sistemas de IA podem replicar ou melhorar a si mesmos sem autorização humana explícita.
- Impedimento do desenvolvimento de sistemas de IA que não possam ser imediatamente desativados se o controle humano significativo sobre eles for perdido.
A ONU enfatizou que qualquer futuro tratado deve ser construído sobre três pilares: uma lista clara de proibições, mecanismos de verificação robustos e auditáveis, e a designação de um corpo independente para supervisionar a implementação.
Desafios e incertezas
Apesar das intenções da ONU, muitos analistas expressam preocupações sobre a viabilidade e aplicabilidade dessas regulamentações globais. Questões levantadas incluem se países suficientes apoiarão a proposta e se as regras serão realmente aplicáveis e executáveis.
As regras de IA que poderiam impactar as empresas podem incluir limites no uso de IA para triagem de candidatos a emprego, decisões de empréstimos ou na formação de modelos a partir de dados confidenciais de clientes. As empresas ainda precisariam cumprir essas regras se operassem em qualquer país que assinasse o acordo da ONU.
Entretanto, países como Alemanha, Canadá, Suíça e Japão provavelmente teriam suas próprias regras de conformidade em IA, tornando a proposta da ONU potencialmente irrelevante.
O ponto de não governabilidade
Valence Howden, um especialista em pesquisa, destacou que o espaço dos fornecedores de IA está se aproximando do que ele chama de ponto de não governabilidade. Ele expressou dúvidas sobre a disposição dos grandes fornecedores de IA em cumprir tais normas, afirmando que “não podemos confiar nos grandes fornecedores de empresas para fazer isso.”
Outros especialistas, como Brian Levine, acreditam que, embora a medida da ONU provavelmente ocorra, os princípios acordados serão tão gerais que não irão realmente avançar em nenhuma forma significativa.
Peter Salib, professor de direito, expressou ceticismo sobre a eficácia da proposta da ONU, afirmando que “provavelmente nada acontece que importe, pois os países não se importam o suficiente para abrir mão de sua soberania.”
Em resumo, enquanto a iniciativa da ONU visa estabelecer diretrizes para o uso ético e seguro da IA, sua eficácia e aplicabilidade permanecem em dúvida, refletindo uma tensão entre inovação tecnológica e a necessidade de regulamentação.
