Preocupações com a confiabilidade da IA levam à proposta de supervisão formal
O Departamento de Tecnologia da Informação propôs a criação de um Centro de Excelência para Inteligência Artificial com o objetivo de supervisionar a adoção segura de tecnologias de IA no governo local. A proposta será apresentada ao Conselho de Comissários, solicitando um investimento de $118.000 para o ano fiscal de 2027.
A proposta surge em resposta a um aumento recente em violações de segurança de dados federais e preocupações sobre a confiabilidade da IA. Funcionários do condado citaram o roubo de bilhões de registros e centenas de casos judiciais relacionados à desinformação gerada por IA como razões primárias para a criação de um quadro de governança formal. O centro ofereceria supervisão de segurança e processos documentados para os 600 funcionários do condado e 95.000 residentes.
Orçamento e Retorno sobre Investimento
O orçamento proposto de $118.000 inclui $75.000 para uma posição de funcionário em tempo integral e $18.000 para licenças de tecnologia. Os fundos restantes seriam alocados para treinamento, serviços de consultoria e novas ferramentas de segurança para detectar alucinações de IA e monitorar injeções de prompts. Os oficiais de TI esperam que o investimento traga um retorno positivo em 18 a 24 meses por meio de ganhos de eficiência e evitamento de custos.
Crise de Confiabilidade da IA
A proposta destaca uma “Crise de Confiabilidade da IA”, observando que 486 casos judiciais em todo o mundo envolveram alucinações de IA, sendo 324 desses em tribunais dos Estados Unidos. Segundo um estudo de 2024, organizações com governança documentada em IA obtêm uma redução de 96% nos erros de IA. Sem esses processos, o departamento de TI alertou que o condado não teria defesa em litígios ou proteção contra ameaças internas.
Política de Uso Aceitável
A iniciativa inclui uma política de Uso Aceitável atualizada, que exige validação “humano-no-loop” para todo o conteúdo gerado por IA. De acordo com essas regras, os funcionários do condado estão proibidos de carregar informações pessoalmente identificáveis, registros de saúde ou dados de aplicação da lei em plataformas de IA públicas. A política também exige que os usuários divulguem quando a IA ajudou na preparação de documentos ou relatórios oficiais.
Estrutura da Proposta
O plano do condado é baseado em quatro pilares: governança, expertise, inovação e segurança. Essa estrutura visa proteger dados sensíveis de serviços de emergência, tribunais e departamentos de saúde. A proposta cita histórias de sucesso de outras regiões que economizaram significativamente ao utilizar IA em avaliações de propriedades.
Falhas recentes de segurança federais foram utilizadas para justificar a necessidade imediata do centro, incluindo uma violação em um departamento que expôs milhares de arquivos. O departamento de TI destacou que mesmo sistemas não classificados podem enfrentar violações catastróficas se os protocolos de segurança adequados forem ignorados.
Se o Conselho de Comissários aprovar a proposta, a primeira reunião do comitê diretor será realizada dentro de 30 dias. O cronograma de implementação para 2027 inclui uma fase de fundação para avaliar o uso atual de IA e uma fase de capacitação para lançar projetos piloto com detecção de alucinações.
