Proposta para um Sistema de Governança de IA em Xangai
O rápido desenvolvimento da IA generativa trouxe uma série de riscos secundários, como a desinformação e a segurança de dados. É essencial fortalecer a base de segurança para o desenvolvimento da inteligência artificial.
Desafios na Governança da IA
Uma representante do congresso municipal de Xangai destacou que, embora a tecnologia de IA reduza significativamente as barreiras de aplicação, ela também apresenta uma tendência complexa de abuso generalizado, aumento da ocultação e danos crescentes. A construção de um sistema de governança abrangente, ágil e científico para lidar com os riscos negativos associados à IA tornou-se uma prioridade urgente.
O uso indevido da tecnologia está apresentando novas características, como a industrialização e o impacto intersetorial. O sistema atual de governança é insuficiente para enfrentar os desafios relacionados à confrontação tecnológica, segurança de dados e riscos à ordem do mercado. Isso inclui a escalada do uso indevido de tecnologia deepfake e riscos proeminentes à segurança de dados e direitos de propriedade intelectual.
Iniciativas Propostas
Para equilibrar desenvolvimento e segurança, é necessário acelerar a construção de um sistema de governança de IA que abranja todas as áreas. Uma sugestão é a criação de um “Centro Municipal de Testes de Segurança de Conteúdo de IA”, que integraria monitoramento, alerta precoce e rastreabilidade. Isso permitiria registrar tecnicamente cenários de alto risco e realizar avaliações regulares.
Além disso, a recomendação é implementar rigorosamente os padrões nacionais de marca d’água digital, garantindo que todo conteúdo gerado seja totalmente rastreável online.
Melhorias na Estrutura Legal
É necessário acelerar a legislação em campos emergentes, formulando uma regulamentação local que atenda às necessidades do desenvolvimento tecnológico e industrial e estabeleça padrões globais para a governança da IA. Isso ajudaria a assegurar a influência internacional.
Considerando a crescente exposição de menores a produtos de IA, é proposta a promoção da “Regulamentação de Proteção de Menores em Aplicações de Inteligência Artificial”, proibindo explicitamente a geração ou promoção de conteúdo envolvendo violência ou induções prejudiciais.
Colaboração Interdepartamental
Para abordar novos tipos de riscos, como a manipulação de mercados financeiros e violação de dados, recomenda-se a criação de um “Banco de Dados de Informações Falsas de IA e Dados Anômalos”. Isso ajudaria a detectar e responder a riscos financeiros novos, utilizando tecnologia de IA para eliminar rumores.
Além disso, devem ser realizadas auditorias de segurança mais rigorosas nas empresas que utilizam ferramentas de IA de terceiros, a fim de prevenir vazamentos de dados.
Educação e Conscientização
É fundamental construir uma “defesa psicológica” contra os riscos da IA na sociedade. A recomendação é incorporar a educação sobre segurança em IA no programa de aprimoramento da alfabetização digital da cidade, focando em grupos vulneráveis, como idosos e crianças. Mensagens-chave devem incluir a conscientização sobre riscos como “falsificação de vídeo” e “previsões não confiáveis”.
