Reino Unido Carece de Capacidade para Responder a Desastres Relacionados à IA, Avisa Relatório
Um desastre significativo habilitado por IA está se tornando cada vez mais provável à medida que as capacidades da IA avançam. Contudo, um novo relatório de um think tank baseado em Londres alerta que o governo britânico não possui os poderes de emergência necessários para responder a desastres relacionados à IA, como a interrupção de infraestruturas críticas ou um ataque terrorista. O Reino Unido precisa conceder a seus oficiais novos poderes, incluindo a capacidade de obrigar empresas de tecnologia a compartilhar informações e restringir o acesso público aos seus modelos de IA em uma emergência.
A Falta de Medidas Eficazes
Tommy Shaffer Shane, diretor de política de IA do CLTR e autor do relatório, comenta: “Confiar em legislações de 20 ou 50 anos atrás, que nunca foram concebidas para este tipo de tecnologia, não é necessariamente a melhor abordagem.” Ele adverte que, se algo realmente der errado, o governo pode se ver em apuros para encontrar as medidas necessárias e pode não conseguir agir rapidamente.
Propostas do Relatório
O relatório apresenta 34 propostas que o CLTR espera que sejam incluídas no tão aguardado projeto de lei sobre IA do governo. Além de dar ao governo o poder de compelir empresas de tecnologia a compartilhar informações e revogar acesso a modelos, as propostas incluem:
- Requerer que as empresas de IA reportem incidentes de segurança graves ao governo;
- Realizar exercícios regulares de preparação para emergências.
Uma Nova Abordagem para a Regulação de IA
Se o governo britânico adotar essas propostas, isso sinalizaria uma abordagem diferente em relação à regulação da IA, especialmente quando comparado à União Europeia, cuja longa Lei de IA foca na regulação de modelos individuais de IA. Essa legislação tem sido criticada por figuras influentes em Silicon Valley e Washington, que argumentam que está sufocando a inovação na indústria de tecnologia europeia e impondo ônus excessivos às empresas de IA americanas.
Preparando-se para Consequências
O CLTR sugere que o Reino Unido deve regular a IA de maneira a se preparar para as consequências de modelos de IA potencialmente perigosos. “O que estamos discutindo com a preparação para emergências é aceitar que você não terá intervenções desse tipo e que modelos mais perigosos serão amplamente implantados do que você idealmente gostaria”, afirma Shaffer Shane.
AI em Ação
Recentemente, um homem de 60 anos buscou aconselhamento no ChatGPT sobre como substituir o sal de mesa para melhorar sua dieta. Com base nas sugestões da IA, ele trocou o sal por brometo de sódio e, nos meses seguintes, começou a apresentar sintomas graves, resultando em um diagnóstico de bromismo—uma síndrome que pode levar a alucinações e até coma. Este caso destaca como a utilização da inteligência artificial pode contribuir para o desenvolvimento de resultados adversos à saúde que poderiam ser evitados.
Em resposta, a OpenAI afirmou que o ChatGPT não é destinado ao uso no tratamento de condições de saúde e que não deve substituir o aconselhamento profissional.
