AI, Governança e Nosso Futuro “Utopiano”
Discutir sobre inteligência artificial (IA) e governança neste momento é uma tarefa desafiadora. As capacidades da IA estão mudando rapidamente. Embora seja muito provável que estejamos no meio de um ciclo de hype em relação à confiabilidade e utilidade da IA atualmente, os atuais modelos de linguagem grande ainda possuem capacidades impressionantes. Todos parecem esperar mais e melhor rapidamente, seja com base nesses modelos ou algum outro paradigma de IA. Montantes massivos de dinheiro estão sendo gastos e grandes quantidades de energia consumidas na proposta incerta, mas não tão implausível, de que a “inteligência geral artificial” (AGI)—um nível de IA que igualará e, em seguida, superará as capacidades humanas de fala e raciocínio—está logo ali ao virar da esquina.
Ao mesmo tempo, estamos desenvolvendo um novo modelo de governança sob a direção do presidente, juntamente com o “Departamento de Eficiência Governamental”. Como caracterizar esse modelo é uma das controvérsias do momento. É populismo, uma revolta há muito aguardada contra elites corruptas? É autoritarismo, impulsionado pelas ambições do presidente e seus asseclas? É uma espécie de tecnocracia refletindo a ascensão dos “tech-lords”?
Mudanças Rápidas e Incertezas
O resultado líquido dessas duas situações dinâmicas é que quem fala com grande certeza sobre o que o futuro reserva é provavelmente superconfiante. Mas mudanças rápidas geralmente não acontecem sem mais nem menos; requerem tempo para ganhar impulso. Tentar entender como chegamos aqui pode nos ajudar a recuar das paixões e suposições do momento. O que estamos vendo é a expressão prática de uma certa ideologia do progresso que, de uma forma ou de outra, tem estado presente há muito tempo, mantendo que o desenvolvimento tecnológico significa que a humanidade pode e irá eventualmente superar a necessidade de trabalho e governança.
Esses aspectos hitherto perenes da vida humana são produtos da escassez e, quando essa escassez for superada, eles “murcharão”. As consequências caóticas de implementar essa ideologia nas circunstâncias atuais refletem alguns mal-entendidos profundos sobre a vida humana e a governança que estão inerentes a essa visão do progresso.
A História da IA
Em relação à IA, temos mais de 2.000 anos de narrativa mítica, especulação filosófica e esforços práticos no que diz respeito à criação de seres semelhantes aos humanos para uma variedade de propósitos. Desde Aristóteles sobre os tripods autônomos, passando por Pigmalião, talos, golems, e até mesmo Frankenstein, a história está repleta de referências a esses desejos humanos profundos.
Por muito tempo, tais criações só podiam ser imaginadas—e as histórias que contamos sobre elas eram em sua maioria cautelares. Isso permanece verdadeiro hoje, mesmo enquanto começamos a alcançar alguns desses sonhos antigos. A maioria das representações fictícias da inteligência artificial varia entre o cauteloso e o distópico.
O Futuro da IA
Se a utopia não está nos planos, por que desejaríamos um mundo onde o trabalho humano e o esforço são subjugados ou tornados redundantes pela IA? Mais um indicador do sucesso dos pesquisadores em IA é que até mesmo os atuais modelos de linguagem grande passam em testes que operacionalizam o que contaria como uma máquina inteligente. Isso significa que em contextos experimentais e informais, as pessoas frequentemente julgam erroneamente se estão se comunicando com uma IA ou com um ser humano.
Em resumo, a AGI, que antes poderia ser apenas um sonho, agora parece cada vez mais provável de se tornar realidade, talvez mais cedo do que se imagina. As pessoas estão tão ansiosas para fazer isso acontecer que até mesmo os modelos de IA atualmente limitados e notoriamente não confiáveis estão sendo implementados em situações do mundo real com uma rapidez extraordinária.
Desafios da Governança em um Mundo de IA
A visão do progresso que define a superação das necessidades humanas através do desenvolvimento tecnológico se entrelaça com a ideia de que a governança se tornará obsoleta à medida que a IA avance. A questão da “alinhamento” surge: como ter certeza de que a IA tem nossos melhores interesses em mente? Não precisamos prestar atenção à longa história de contos cautelares que sugerem que nossas criações podem se voltar contra nós?
Um exemplo disso é a preocupação com o uso de IA em contextos de segurança nacional, onde se argumenta que ter um ser humano “no loop” é inviável. Mesmo os defensores fervorosos dessa visão reconhecem que o problema do alinhamento é uma grande preocupação.
A Concepção da Governança
Estamos sendo enganados por uma concepção da governança como “solução de problemas”, e com a promessa de que, se resolvermos problemas suficientes, a necessidade de governança diminuirá. Na verdade, os problemas políticos existem porque as pessoas não concordam sobre o que é o suposto problema, ou se de fato existe um problema. Alcance de um acordo é uma questão de compromisso, inteligência emocional e empatia, o que levanta questões sobre a capacidade da IA em alcançar tais acordos.
As esperanças utópicas para um mundo pós-escassez, sem trabalho ou governança, são ideais de longa data que abriram a porta para alguns pensarem que permitir a IA é o que precisamos para alcançar um mundo sem política e trabalho. A realidade, no entanto, eventualmente intervirá e as expectativas voltarão à terra. Poderíamos começar a pensar em maneiras pelas quais a IA poderia ajudar a reduzir o perigo de alguns trabalhos, ou aumentar a produtividade sem aumentar a monotonia ou a vigilância. Assim, o futuro da IA pode não ser tão distópico quanto imaginamos.
