Inteligência Artificial Segura e Responsável na Austrália — Resposta Interina do Governo
Em 17 de janeiro de 2024, o Departamento de Indústria, Ciência e Recursos (DISR) publicou a resposta interina do Governo Australiano à consulta do DISR sobre o documento de discussão intitulado “Apoio à Inteligência Artificial Responsável na Austrália”. Este documento, publicado em 1º de junho de 2023, buscou opiniões sobre como o Governo Australiano poderia mitigar os potenciais riscos da inteligência artificial (IA) e apoiar práticas seguras e responsáveis de IA. A resposta delineia o feedback recebido de partes interessadas e discute a estratégia do governo para garantir o desenvolvimento seguro da IA.
Resposta Interina do Governo Australiano
De 1º de junho a 4 de agosto de 2023, o governo se envolveu em consultas extensivas, buscando input de diversas partes interessadas, como o público, grupos de defesa, academia, indústria, escritórios de advocacia e agências governamentais. Enquanto as submissões à consulta expressaram entusiasmo pelos potenciais benefícios da IA em áreas como saúde, educação e produtividade, preocupações foram levantadas sobre os possíveis danos ao longo de seu ciclo de vida.
Exemplos incluíram violações das leis de propriedade intelectual durante a coleta de dados, preconceitos que impactam os resultados dos modelos, impactos ambientais durante o treinamento e questões de competição que afetam os consumidores. Notavelmente, essas submissões enfatizaram a inadequação dos atuais quadros regulatórios para abordar os riscos da IA, levando a um consenso sobre a necessidade de barreiras regulatórias, especialmente para aplicações de IA de alto risco.
Principais Conclusões da Resposta Interina
O governo, tendo iniciado um diálogo com a comunidade australiana por meio de um documento de discussão, está comprometido em avançar nesta conversa sobre como aproveitar efetivamente as oportunidades da IA enquanto aborda os riscos associados. A análise inicial, que abrange submissões e discussões globais, como a Cúpula de Segurança da IA, destacou os seguintes insights chave:
- Reconhecimento do impacto positivo da IA na criação de empregos e crescimento da indústria.
- Reconhecimento de que nem todas as aplicações de IA necessitam de respostas regulatórias; o governo enfatiza a necessidade de garantir o uso irrestrito de IA de baixo risco, ao mesmo tempo em que reconhece que o quadro regulatório existente é insuficiente, especialmente em relação aos riscos apresentados por aplicações de IA de alto risco.
- As leis existentes são consideradas insuficientes para prevenir danos induzidos pela IA antes que ocorram, exigindo uma resposta ampliada para danos pós-ocorrência.
- O governo considera introduzir obrigações obrigatórias para aqueles que desenvolvem ou usam sistemas de IA de alto risco para garantir a segurança.
Princípios que Orientam a Resposta Interina do Governo para Apoiar IA Segura e Responsável
O Governo Australiano se comprometeu com cinco princípios ao orientar sua resposta interina:
- Abordagem Baseada em Risco: Adotar uma estrutura baseada em risco para facilitar o uso seguro da IA, ajustando as obrigações de desenvolvedores e implementadores com base no nível de risco avaliado.
- Equilibrada e Proporcional: Evitar encargos desnecessários ou desproporcionais sobre empresas, comunidade e reguladores.
- Colaborativa e Transparente: Enfatizar a abertura e engajamento com especialistas para moldar a abordagem de uso seguro e responsável da IA.
- Parceiro Internacional Confiável: Conformidade com a Declaração de Bletchley e utilização de capacidades domésticas para apoiar a ação global em relação aos riscos da IA.
- Comunidade em Primeiro Lugar: Colocar pessoas e comunidades no centro, priorizando o desenvolvimento e implementação de abordagens regulatórias que se alinhem com as necessidades e contextos sociais de todos.
Próximos Passos para o Governo Australiano em IA
Em consonância com o objetivo geral do Governo Australiano de maximizar as oportunidades que a IA apresenta para a economia e a sociedade, os próximos passos propostos incluem:
a. Prevenção de Danos
Em resposta às preocupações, o governo visa explorar guardrails regulatórios focados em testes, transparência e responsabilidade para prevenir danos relacionados à IA, que incluem:
- Testes: Testes internos e externos, compartilhamento de melhores práticas de segurança e auditoria contínua.
- Transparência: Conscientização dos usuários sobre o uso de sistemas de IA e relatórios públicos sobre limitações e capacidades.
- Responsabilidade: Papéis designados para segurança da IA e treinamento obrigatório para desenvolvedores, especialmente em ambientes de alto risco.
b. Esclarecimento e Fortalecimento das Leis
Para abordar as preocupações levantadas durante as consultas, esforços substanciais estão em andamento em todo o governo para esclarecer e fortalecer as leis, garantindo a proteção dos cidadãos. As iniciativas-chave incluem:
- Desenvolvimento de novas leis que capacitem a Autoridade de Comunicações e Mídia da Austrália a combater a desinformação online.
- Revisão estatutária da Lei de Segurança Online de 2021.
- Colaboração com governos estaduais e territoriais para estabelecer um quadro regulatório para veículos automatizados na Austrália.
c. Colaboração Internacional
A Austrália está monitorando de perto como outros países estão respondendo aos desafios da IA, incluindo esforços iniciais na UE, EUA e Canadá. O governo continuará a trabalhar com outros países para moldar os esforços internacionais nesse campo.
d. Maximização dos Benefícios da IA
No orçamento de 2023-24, o governo australiano alocou $75,7 milhões para iniciativas de IA, enfatizando áreas-chave, como:
- Programa de Adoção de IA: Criar centros para ajudar PMEs a tomar decisões informadas sobre como aproveitar a IA.
- Expansão do Centro Nacional de IA: Ampliar o escopo do centro para pesquisa vital e liderança na indústria de IA.
- Programas de Graduados em IA de Próxima Geração: Continuar o financiamento para atrair e treinar a próxima onda de especialistas prontos para o trabalho.
Conclusão
A resposta interina do Governo Australiano demonstra um compromisso em fomentar os benefícios da IA enquanto aborda os riscos associados. Por meio de uma abordagem baseada em princípios, busca garantir o desenvolvimento seguro, responsável e orientado para a comunidade da IA, contribuindo para o crescimento econômico e o avanço tecnológico da Austrália.
