Programas de IA em Filadélfia enfrentam escrutínio sobre governança e participação pública
Filadélfia está avançando com o uso de IA nos serviços da cidade, mas alguns residentes estão preocupados com a implementação, que ocorreu em grande parte sem a participação pública.
Regulamentação e Estratégia
O Conselho da Cidade realizou a primeira grande audiência sobre a regulamentação da IA em outubro. Representantes da administração municipal apresentaram uma estratégia de alto nível, mas não ofereceram detalhes sobre como a tecnologia está sendo utilizada. A administração afirmou que criaria um quadro para guiar como os funcionários do setor público devem usar a IA até o final do inverno de 2025 ou início da primavera de 2026, embora não esteja claro quanto progresso foi feito nesse sentido.
Após a implementação desse quadro, os líderes planejam mais oportunidades de treinamento e a criação de um comitê de governança de IA interdepartamental para revisar e atualizar políticas futuras de IA.
Preocupações sobre o Uso de Dados
Uma das preocupações centrais é sobre como os dados estão sendo coletados, usados internamente e compartilhados com terceiros. A questão do controle dos dados gerados pela população é crucial, pois as empresas estão obtendo cada vez mais controle sobre informações valiosas.
Iniciativas e Experimentos com IA
Nos anos anteriores, agências da cidade experimentaram o uso de IA em espaços públicos. Entre as iniciativas, destacam-se o uso de ferramentas de IA para identificar buracos nas ruas e a instalação de software de detecção de armas em partes do sistema de transporte público.
As iniciativas continuaram sob a atual administração, incluindo o uso de IA para aplicar multas em veículos estacionados em áreas proibidas.
Transparência e Justiça
Os residentes expressaram a necessidade de garantir que haja humanos envolvidos nos processos de decisão relacionados à IA. Há preocupações sobre equidade, especialmente dado que dados utilizados para treinar algoritmos podem conter preconceitos que resultam em resultados injustos.
A administração afirmou que o julgamento humano, a confiança pública e a responsabilidade serão prioridades na implementação de políticas de IA.
Conclusão
À medida que Filadélfia avança na adoção da tecnologia de IA, a necessidade de transparência e participação pública se torna cada vez mais evidente. Garantir que a tecnologia beneficie todos os cidadãos e não comprometa a equidade será um desafio importante nos próximos anos.
