Billings, Mont., Implementa Sua Primeira Política de Segurança em IA
Durante uma reunião do conselho municipal, um membro propôs a criação de uma Comissão Consultiva de Tecnologia para ajudar a cidade a refinar sua abordagem em tecnologia. Essa comissão seria composta por membros da indústria que poderiam fornecer orientação sobre questões-chave, incluindo políticas de cibersegurança e governança de IA.
A cidade já adiantou-se em um aspecto. Em abril, a administração da cidade implementou sua primeira política de segurança em IA, parte de uma atualização do manual de TI. A política aborda temas como privacidade, transparência e uso ético da IA. Ela reconhece que a IA tem o potencial de melhorar as operações da cidade e aumentar a eficiência, mas seu uso deve ser regulamentado por medidas de segurança robustas para proteger dados e manter a confiança pública.
Uso Cotidiano e Segurança de Dados
Os funcionários da cidade podem usar IA para tarefas diárias, como realizar buscas na web ou redigir e-mails. A administração enfatiza a importância de verificar qualquer trabalho produzido com a assistência da IA, pois é possível que a IA produza informações imprecisas.
A política de segurança proíbe o upload de informações pessoais sensíveis para modelos de IA, incluindo informações identificáveis e dados do sistema de justiça criminal. Além disso, a cidade monitora e restringe os tipos de modelos de IA utilizados pelos funcionários.
Manutenção da Confiança Pública através da Transparência
Um dos principais debates públicos sobre o uso ético da IA é a transparência. A política da cidade compromete-se a ser transparente sobre seu uso de IA e orienta os funcionários a explicar as decisões baseadas em IA ao público, especialmente em áreas que impactam os residentes.
Além disso, foi implementado um sistema de relatório para abusos de IA, com punições que vão desde a suspensão de privilégios de TI até a rescisão e possíveis ações legais para abusos graves.
Um Processo em Andamento
A indústria de IA está em constante crescimento e mudança, tornando difícil a regulamentação. Mesmo assim, a equipe da cidade está sempre buscando se manter atualizada sobre a IA e planeja atualizar a política de segurança em IA, mesmo que tenha sido implementada há menos de um ano.
Uma cópia completa da política de segurança em IA da cidade está disponível no manual de políticas de TI acessível no site da cidade.
