Inteligência Artificial: Preparando-se para o Próximo Desafio de Governança no Novo Ano
A Inteligência Artificial (IA) não é mais um conceito futurista. É uma realidade em rápida evolução que está transformando a forma como os governos locais operam e prestam serviços à população.
Crescimento da IA e Desafios para os Governos Locais
O crescimento da IA toca quase todos os aspectos do governo local. Os oficiais devem equilibrar inovação com cautela. Cada interação com a IA, desde a geração de um comunicado de imprensa até a resumir uma ordem de zoneamento, pode acarretar consequências legais e levantar questões éticas que não podem ser ignoradas. A IA tem potencial para discriminar e fornecer informações falsas, conhecidas como alucinações, além de renunciar ao privilégio advogado-cliente e criar registros sob a Lei de Direito à Informação.
Registros Públicos e a Lei de Direito à Informação
Quando um funcionário usa uma ferramenta de IA para negócios da agência, ele não está apenas adotando uma nova tecnologia; ele está criando um novo registro. Essa distinção é fundamental para proteger as comunicações internas. Quando um gerente ou funcionário insere informações em uma plataforma de IA, esse conteúdo pode ser classificado como registro sob a Lei de Direito à Informação, e é responsabilidade do Oficial de Registros da Agência buscar esses registros.
Implicações da IA em Reuniões Públicas
A IA também se entrelaça com a Lei de Transparência, que garante ao público o direito de testemunhar o processo decisório do governo local. Portanto, os oficiais devem garantir que as ferramentas de IA não sejam usadas de maneiras que pareçam deliberar ou chegar a conclusões fora de uma reunião pública.
Por que Isso Importa em Litígios?
As interações com plataformas de IA podem criar informações descobertas. Os prompts e saídas gerados podem qualificar-se como informações eletronicamente armazenadas. A preservação dessas informações se torna obrigatória quando um litígio é razoavelmente antecipado.
Desenvolvendo uma Política de IA
A melhor proteção para um governo local é trabalhar com um consultor jurídico para adotar uma política de IA. Uma política bem escrita demonstra a disposição do governo em estar em conformidade legal. Cada política de IA deve cobrir, pelo menos:
- Aplicabilidade: Especificar a quem a política se aplica e exigir reconhecimento de conformidade.
- Escopo das ferramentas: Identificar quais sistemas de IA estão cobertos.
- Propósito e uso permitido: Descrever como a IA pode ser utilizada.
- Definições: Definir termos como “inteligência artificial” e “sistema de aprendizado de máquina”.
- Supervisão humana: Exigir que um funcionário designado revise e aprove todo o conteúdo gerado pela IA antes de ser liberado.
- Retenção de registros: Esclarecer como os materiais relacionados à IA serão retidos.
- Treinamento e responsabilidade: Incluir um requisito de revisão e treinamento anual.
Checklist de Ano Novo: Cinco Passos que os Governos Podem Tomar Agora
- Identificar onde as ferramentas de IA estão sendo usadas nas operações do governo.
- Redigir e adotar uma política interna de IA.
- Estabelecer um Comitê de Governança de IA para supervisão.
- Treinar os funcionários sobre o uso apropriado e proibido da IA.
- Explicar a abordagem do governo em relação à IA para manter a confiança pública.
Considerações Finais
A IA continuará a evoluir, e é responsabilidade do governo estar preparado para enfrentar os riscos associados ao uso da IA. Os governos devem permanecer proativos na compreensão da IA e aplicar os mesmos valores que sempre governaram a administração local: transparência e responsabilidade. Ao abordar a IA de forma deliberada, os oficiais locais podem garantir que as ferramentas de IA fortaleçam a confiança pública, em vez de desafiá-la.
