Laboratórios Autônomos de IA Prometem Cura de Doenças, Mas Podem Gerar Perigos Letais Também
No início de 2020, enquanto cidades ao redor do mundo começavam a se fechar em resposta à covid, alguns pesquisadores conseguiram continuar seus experimentos. Embora, como todos, tivessem sido proibidos de entrar em seus laboratórios, puderam acessar “laboratórios em nuvem” e submeter seus testes remotamente, deixando que braços robóticos e instrumentos automatizados executassem suas instruções à distância.
O que era uma conveniência em meio à crise se tornou uma realidade generalizada, à medida que software, robótica e inteligência artificial (IA) se uniram para trazer o conceito de “trabalho remoto” para a experimentação científica. Em todo o mundo, laboratórios comerciais em nuvem começaram a inverter os fluxos de trabalho científicos tradicionais, de modo que, em vez de pesquisadores se deslocando entre seus instrumentos, as amostras viajam por caminhos robóticos.
Laboratórios Autônomos
Os laboratórios autônomos vão um passo além. Ao incorporar IA diretamente nesses laboratórios, eles conseguem não apenas executar instruções, mas também gerá-las ativamente. Esses sistemas automatizados inteligentes são capazes de identificar novos experimentos, realizá-los usando infraestrutura robótica e, com base no feedback, decidir o que deve ser feito a seguir. No processo, o longo ciclo de experimentação pode ser transformado em um loop de feedback contínuo.
A consequência imediata disso será uma aceleração dramática dos cronogramas de progresso científico. Quando um ano de pesquisa humana pode ser comprimido em semanas ou até dias, milhares de variantes experimentais podem ser exploradas em paralelo. Em tal mundo, o fracasso é barato e a descoberta por meio de iteração incessante não é apenas possível, mas inevitável.
Implicações e Riscos
No entanto, como aprendemos repetidamente, qualquer tentativa de reduzir a fricção geralmente traz consequências indesejadas. Ao acelerar o ritmo da pesquisa científica, estaremos inadvertidamente nos expondo a riscos que até agora não tínhamos motivos para nos preocupar.
Qualquer sistema de IA que ajuda a identificar a cura para uma doença pode, da mesma forma, ser usado para identificar agentes químicos e biológicos que possam nos fazer mal. Um exemplo é um algoritmo de aprendizado de máquina desenvolvido para identificar compostos nunca vistos antes com alta probabilidade de curar doenças. No processo de eliminar moléculas adequadas com efeitos colaterais tóxicos, o sistema acabou gerando uma lista de substâncias potencialmente letais que eram não apenas mais potentes do que os agentes químicos mais tóxicos conhecidos, mas também efetivamente inrastreadas, já que muitas delas ainda não haviam sido descobertas.
Embora isso soe aterrorizante, tudo o que o sistema faz é identificar substâncias potencialmente tóxicas. Para usar esse conhecimento para realmente construir substâncias biológicas prejudiciais, alguém precisaria pegar essas fórmulas teóricas e sintetizá-las em produtos reais. Isso não apenas requer acesso a um laboratório totalmente equipado, mas também pessoal que tenha a expertise necessária para utilizá-lo e a ambivalência moral para fazê-lo, independentemente das consequências. À medida que laboratórios autônomos se tornam realidade, essa barreira em breve será derrubada.
Necessidade de Regulação
Esse não é um risco hipotético. A maioria dos sistemas biológicos de IA é levemente regulamentada. Muitos são de código aberto. Poucos incorporam salvaguardas significativas. Os laboratórios em nuvem que existem hoje operam em uma zona cinza regulatória, mesmo que possam realizar experimentos altamente poderosos. Estruturas legais, como a Convenção sobre Armas Biológicas, que foram projetadas para um mundo em que instalações físicas e pesquisa controladas por humanos eram os únicos meios de criar substâncias biológicas, terão dificuldades para se adaptar a essa nova realidade da IA.
Dito isso, laboratórios em nuvem autônomos oferecem caminhos sem precedentes para a experimentação clínica. Nas mãos certas, isso pode melhorar nossa capacidade de desenvolver tratamentos que salvam vidas e possibilitar tratamentos personalizados em escala. Embora os potenciais danos possam ser sérios, existem muitas razões para tentar encontrar uma maneira de fazer isso funcionar com segurança.
Se quisermos alcançar esse equilíbrio delicado, precisamos urgentemente atualizar nossos tratados e emendar nossas leis. Mas não podemos parar por aí. À medida que construímos sistemas de laboratório automatizados, a responsabilidade deve ser incorporada desde o início. Experimentos elaborados, implementados e refinados por agentes de IA devem ser identificáveis, auditáveis e rastreáveis até tomadores de decisão humanos.
Conclusão
Os laboratórios em nuvem possibilitaram a ciência remota, tornando a pesquisa resiliente a interrupções físicas. Ao fazer isso, também removeram muitas das fricções que, sem que soubéssemos, estavam nos mantendo seguros. Avanços rápidos em IA não apenas aceleraram esse processo, mas também possibilitaram uma expansão massiva das capacidades científicas.
Geralmente, há uma pequena janela entre o nascimento de uma nova tecnologia e o reconhecimento das consequências que ela pode causar para a sociedade. Este é o período em que pode passar sem regulamentação e ser usada sem permissão das autoridades. Com a IA evoluindo rapidamente, essa janela é mais importante do que muitos de nós percebemos. E, no caso de laboratórios autônomos, particularmente, devemos garantir que ela permaneça o mais estreita possível. Dada a gravidade dos danos que podem resultar, precisamos não apenas fechá-la rapidamente, mas garantir que nunca seja ampla o suficiente para causar resultados catastróficos.
