No, a singularidade humano-robô não chegou. Mas precisamos agir para governar a IA
Em uma viagem recente à área da Baía de São Francisco, fiquei chocado com os outdoors que alinhavam a rodovia fora do aeroporto. “A singularidade está aqui”, proclamava um. “A humanidade teve uma boa corrida”, dizia outro. Parecia que cada placa ao longo da estrada estava coberta com alegações de empresas de tecnologia fazendo afirmações exageradas sobre a inteligência artificial. Os anúncios, é claro, estavam repletos de exageros e clickbait. Mas as alegações que contêm não estão ocorrendo em um vácuo.
O CEO da OpenAI, por exemplo, afirmou recentemente: “Basicamente construímos AGI, ou estamos muito próximos disso”, antes de qualificar sua declaração de forma confusa como “espiritual”. Elon Musk foi ainda mais longe, afirmando: “Entramos na singularidade”.
A chegada do Moltbook
Surge o Moltbook, a rede social construída para agentes de IA. Um lugar onde bots podem conversar entre si. Uma série de artigos e opiniões apocalípticas seguiram seu lançamento. Os autores se preocuparam com o fato de que os bots estavam discutindo religião, alegando ter secretamente gasto o dinheiro de seus criadores humanos e até mesmo planejando a derrubada da humanidade. Muitas peças continham sugestões assustadoramente semelhantes às dos outdoors em São Francisco: que as máquinas não são apenas tão inteligentes quanto os humanos (uma teoria conhecida como inteligência geral artificial), mas que estão indo além de nós (um conceito de ficção científica conhecido como singularidade).
A realidade da IA
Com base em anos de pesquisa sobre bots, IA e propaganda computacional, posso afirmar duas coisas com quase total certeza. Primeiro, o Moltbook não é nada novo. Humanos têm construído bots que podem conversar uns com os outros — e com humanos — por décadas. Eles foram projetados para fazer alegações extravagantes e até assustadoras durante todo esse tempo. Segundo, a singularidade não chegou. Nem a AGI. De acordo com a maioria dos pesquisadores, nenhuma das duas está remotamente próxima. O avanço da IA é limitado por uma série de fatores tangíveis: matemática, acesso a dados e custos empresariais, entre outros. As alegações de que a AGI ou a singularidade chegaram não são fundamentadas em pesquisa empírica ou ciência.
No entanto, à medida que as empresas de tecnologia promovem suas capacidades de IA, outra coisa também está clara: as grandes empresas de tecnologia estão longe de ser a força contrária que eram durante a primeira administração Trump. As alegações exageradas que emanam do Vale do Silício sobre IA se tornaram entrelaçadas com o nacionalismo do governo dos EUA, enquanto ambos trabalham juntos na tentativa de “vencer” a corrida da IA. Enquanto isso, agências governamentais estão pagando por softwares habilitados para IA que podem ser usados para vigilância.
A necessidade de governança
Mesmo que ainda não tenhamos que nos preocupar com a singularidade, precisamos combater essa união conveniente causada pela busca das grandes empresas de tecnologia por maiores avaliações e pelo desejo de controle de Washington. Quando a tecnologia e os políticos estão em sincronia, os cidadãos precisarão usar seu poder para decidir o que acontecerá com a IA.
Muitas pessoas acreditam, compreensivelmente, que a regulação de tecnologia socialmente benéfica não é possível no clima político atual. Felizmente, a política governamental e corporativa não é a única maneira de combater os desafios e incertezas apresentados pela IA. As recentes protestos em várias cidades lembraram-nos do poder que temos como coletivo, mesmo que de forma vagamente organizada. A demonstração de força causou recuos na administração e nas corporações que a apoiam. No passado, a pressão pública fez com que as grandes empresas de tecnologia fizessem mudanças relacionadas à privacidade, segurança e bem-estar dos usuários.
Conclusão
As recentes manifestações e o recuo subsequente de organizações poderosas demonstram que aqueles que estão no poder agem à mercê do povo. Isso é verdade tanto para políticos quanto para líderes empresariais. A IA não é uma força descontrolada nas mãos dos que estão no topo, mas, como afirmam alguns cientistas, uma “tecnologia normal”. Seus efeitos sobre o mundo serão decididos pelas pessoas. Temos a capacidade de permitir que seu impacto acelere, mas também temos a capacidade de controlar e regular seu uso. A governança da IA deve ser focada e informada. Não precisa ser antitética ao progresso técnico razoável ou aos direitos democráticos. Devemos exigir que a IA seja efetivamente governada e devemos fazer isso em breve. A IA está causando mudanças e os políticos estão criando caos, mas o poder de decidir o futuro ainda reside nas mãos dos humanos.
