Austrália avalia uso de IA para decisões governamentais apesar de preocupações de segurança

O Governo Australiano e a Exploração do Uso de IA em Submissões de Gabineteh2>

O governo federal australiano está considerando a possibilidade de utilizar programas de b>inteligência artificialb> para redigir submissões sensíveis de gabinete ou casos de negócios, como parte de uma grande iniciativa para integrar a IA em todo o serviço público. Isso ocorre apesar das preocupações relacionadas ao aumento dos riscos de b>segurançab> e b>brechas de dadosb>.p>

Iniciativas e Benefícios da IAh3>

A ministra das finanças, Katy Gallagher, anunciou que o serviço público desenvolverá seu próprio programa especial de IA para trabalhadores do governo, destacando os benefícios de produtividade proporcionados pela implementação de programas generativos, como b>ChatGPTb>, b>Copilotb> e b>Geminib>.p>

Embora muitos servidores públicos relatem que os testes de IA ajudaram em seu trabalho, outros expressaram preocupações sobre a qualidade e imprecisão do trabalho gerado pela IA. Há também receios sobre a possível eliminação de empregos de nível inicial e o medo público em relação à tomada de decisões automatizada, especialmente após o escândalo do b>Robodebtb>.p>

Resultados dos Testes com o Microsoft Copiloth3>

Um relatório sobre os testes do b>Microsoft Copilotb> revelou que, enquanto há benefícios claros na adoção da IA generativa, também existem desafios e preocupações que precisam ser monitoradas. A maioria dos participantes do teste foi positiva, com 69% afirmando que a IA os ajudou a trabalhar mais rapidamente e 61% notando uma melhoria na qualidade de seu trabalho.p>

No entanto, 60% dos participantes relataram que precisaram fazer edições moderadas a significativas nos trabalhos gerados pela IA, levantando questões sobre a b>imprecisãob> e a falta de conhecimento contextual do Copilot.p>

Plano de IA do Governoh3>

O plano de IA estabelece como meta que todos os servidores públicos receberão treinamento e acesso a ferramentas de IA generativa. O programa b>GovAI Chatb> será amplamente implementado, esperado para a primeira parte de 2026. Além disso, o governo desenvolverá diretrizes sobre o uso de plataformas públicas, como b>ChatGPTb> e b>Claudeb>, para lidar com informações governamentais classificadas.p>

Entre as sugestões “novas” dos participantes do teste, destacam-se o uso da IA para avaliar documentos, redigir documentos públicos e elaborar conteúdos para casos de negócios e submissões ao gabinete.p>

Preocupações de Segurança e Transparênciah3>

O relatório também levantou questões de segurança de dados, relatando instâncias em que o Copilot acessou informações sensíveis de forma inadequada. “O uso do Copilot permitiu que alguns participantes acessassem documentos aos quais não deveriam ter permissão”, afirmaram os testes.p>

Além disso, o relatório destacou que a adoção da IA no serviço público ocorre em um contexto de elevada expectativa pública quanto à gestão de dados, especialmente após a Comissão Real sobre o b>Robodebtb>. Gallagher enfatizou a necessidade de consulta contínua com funcionários e sindicatos sobre as mudanças de emprego, garantindo que a adoção generalizada da IA não seja vista como uma forma de substituir pessoas.p>

Conclusãoh3>

A proposta do governo australiano de explorar o uso da IA em processos críticos como as submissões de gabinete representa um passo significativo na modernização do serviço público. No entanto, isso deve ser equilibrado com a necessidade de garantir a segurança dos dados e a precisão nas operações, evitando os erros do passado.p>

More Insights

A Importância da IA Responsável: Riscos e Soluções

As empresas estão cientes da necessidade de uma IA responsável, mas muitas a tratam como um pensamento secundário ou um fluxo de trabalho separado. Isso pode levar a riscos legais, financeiros e de...

Modelo de Governança de IA que Combate o Shadow IT

As ferramentas de inteligência artificial (IA) estão se espalhando rapidamente pelos locais de trabalho, mudando a forma como as tarefas diárias são realizadas. A adoção da IA está ocorrendo de forma...

Acelerando Inovação com IA Ética

As empresas estão correndo para inovar com inteligência artificial, mas muitas vezes sem as diretrizes adequadas. A conformidade pode se tornar um acelerador da inovação, permitindo que as empresas se...

Riscos Ocultos da IA na Contratação

A inteligência artificial está transformando a forma como os empregadores recrutam e avaliam talentos, mas também introduz riscos legais significativos sob as leis federais de anti-discriminação. A...