O Uso de Inteligência Artificial no Governo do Reino Unido
O primeiro-ministro do Reino Unido, Keir Starmer, está determinado a tornar o país um líder mundial em inteligência artificial. Recentemente, foi revelado que milhares de servidores civis que apoiam diretamente o primeiro-ministro estão utilizando um chatbot de inteligência artificial proprietário para realizar suas funções.
Falta de Transparência
Embora a utilização da ferramenta tenha sido confirmada, os oficiais se recusaram a divulgar como exatamente o chatbot está sendo utilizado, se o primeiro-ministro está recebendo conselhos preparados com o uso de IA e como os servidores civis estão mitigando os riscos de informações imprecisas ou tendenciosas geradas pela IA. A falta de clareza levanta preocupações sobre a transparência governamental e a precisão das informações utilizadas no governo.
A revista New Scientist solicitou registros de interações com o Redbox, uma ferramenta de IA generativa desenvolvida internamente e testada entre os funcionários do governo britânico. O chatbot, alimentado por um modelo de linguagem avançado, permite que os usuários interrogem documentos do governo e “gerem rascunhos iniciais de relatórios.” Durante os testes iniciais, um servidor civil afirmou ter sintetizado 50 documentos “em questão de segundos”, ao invés de levar um dia inteiro.
Respostas dos Departamentos Governamentais
Todos os departamentos contatados afirmaram que não utilizavam o Redbox ou se negaram a fornecer os registros das interações, alegando que os pedidos da New Scientist eram “vexatórios”. No entanto, dois departamentos forneceram algumas informações sobre seu uso do Redbox. O Gabinete do Primeiro-Ministro informou que 3000 pessoas em seu departamento participaram de um total de 30.000 chats com o Redbox, mas que a revisão desses chats para ocultar informações sensíveis levaria mais de um ano.
O Departamento de Negócios e Comércio também se recusou a fornecer detalhes, afirmando que detinha “mais de 13.000 prompts e respostas” e que revisar esses registros para liberação não seria viável.
Preocupações com a IA Generativa
Quando questionados sobre o uso do Redbox, ambos os departamentos encaminharam a New Scientist para o Departamento de Ciência, Inovação e Tecnologia (DSIT), que supervisiona a ferramenta. O DSIT não respondeu perguntas específicas sobre se o primeiro-ministro ou outros ministros do gabinete estavam recebendo conselhos preparados com o uso de ferramentas de IA.
Um porta-voz do DSIT afirmou: “Ninguém deve gastar tempo em algo que a IA pode fazer melhor e mais rapidamente. O Redbox, desenvolvido em Whitehall, está nos ajudando a aproveitar o poder da IA de maneira segura, prática e eficaz.” No entanto, o uso de ferramentas de IA generativa preocupa alguns especialistas, que apontam problemas bem documentados relacionados à tendência e à precisão, que são difíceis de mitigar.
Acesso à Informação e Governança
A falta de transparência é uma preocupação crescente. Especialistas afirmam que, como ferramentas de IA generativa são caixas-pretas, não é fácil testar ou entender como elas chegam a um determinado resultado. A recusa do governo em compartilhar essa informação reduz ainda mais a transparência.
O Tesouro, em resposta ao pedido de liberdade de informação, afirmou que seus funcionários não têm acesso ao Redbox e que “ferramentas GPT disponíveis internamente no Tesouro não retêm o histórico de prompts.” Essa resposta sugere que o Tesouro está utilizando ferramentas de IA, mas não mantendo registros abrangentes de seu uso.
Se o governo não retiver os prompts utilizados, é difícil obter uma noção de como os processos de decisão são replicados. Embora as instituições públicas não sejam obrigadas a manter registros públicos antes do arquivamento, uma boa governança da informação sugere que é importante reter registros que possam ter sido usados para desenvolver ou informar políticas.
Contudo, especialistas em proteção de dados afirmam que o Tesouro está dentro de seus direitos de não reter prompts de IA sob as leis de FOI, a menos que haja uma regra legal ou de serviço civil específica sobre a natureza dos dados.
