Editorial: Ajude o município a escrever regras para robôs de IA
É irônico e apropriado que o município, ao buscar orientações sobre como ferramentas de inteligência artificial do século XXI podem ser utilizadas na gestão do governo, recorra a um processo antigo de elaboração democrática de regras: uma assembleia cívica.
Uma assembleia de cerca de 40 residentes do município se reunirá para ouvir especialistas, deliberar sobre questões e elaborar recomendações sobre o uso de IA, que serão consideradas pelo conselho municipal. No ano passado, o conselho votou para usar o processo de assembleia cívica para estabelecer algumas regras para a utilização da IA no governo, aproveitando a eficiência oferecida por chatbots e outras ferramentas de IA, garantindo, no entanto, salvaguardas que protejam e melhorem a transparência, a precisão da informação e a boa governança.
Oportunidades e desafios da tecnologia
Encontrar um terreno comum em relação à nova tecnologia é um passo importante. As preocupações e as oportunidades da IA, segundo um membro do conselho, são questões que precisam ser discutidas de forma colaborativa. O processo de assembleia cívica é visto como uma forma de envolver cidadãos que, de outra forma, podem não participar da política local.
A atual forma de engajamento público muitas vezes não resulta em um senso de propriedade pública nas decisões. O processo de assembleia cívica, que se assemelha a um dever de júri, é voluntário e busca diversificar a participação, convidando residentes para se inscreverem e, em seguida, selecionando aleatoriamente os participantes de forma a refletir a diversidade do município.
Estrutura do processo de assembleia
Durante três finais de semana, a assembleia ouvirá informações abrangentes sobre IA de uma variedade de especialistas. Após as deliberações, a assembleia redigirá recomendações que serão consideradas pelo conselho municipal, seguido por audiências públicas. O processo será transparente, com reuniões e materiais disponíveis ao público, e uma avaliação independente será realizada para garantir a eficácia do processo.
Importância das regras para o uso da IA
A crescente adoção da IA por governos locais levanta questões sobre a necessidade de diretrizes claras. Embora a utilização de IA possa ser uma solução prática para orçamentos apertados, a tecnologia ainda apresenta desafios, como a produção de dados imprecisos, conhecida como “alucinação” da IA. Além disso, já houve relatos de manipulação de respostas de IA em processos de licitação, o que destaca a necessidade de uma regulamentação cuidadosa.
Conclusão
Iniciar o processo de elaboração de regras para o uso da IA com uma assembleia cívica composta por residentes do município é uma abordagem intrigante e promissora. Este método pode se tornar uma prática regular, oferecendo uma oportunidade para os cidadãos contribuírem ativamente para a governança local. Os residentes são incentivados a participar e a fazer parte deste importante processo de tomada de decisões.
