Governança de IA Robusta e Responsiva Essencial para Sustentar o Progresso Tecnológico
O Escritório do Principal Conselheiro Científico lançou um Documento Branco intitulado ‘Fortalecendo a Governança de IA Através de um Quadro Tecnológico e Legal’, delineando a abordagem para construir sistemas de inteligência artificial (IA) seguros, confiáveis e inovadores.
Modelo de Governança Proposto
O documento propõe um modelo de governança que combina leis, salvaguardas técnicas e supervisão institucional. O Conselheiro Científico enfatizou que desenvolver uma estrutura de governança robusta e responsiva não é apenas uma necessidade regulatória, mas um pré-requisito para sustentar o avanço tecnológico. A abordagem tecnológico-legal oferece um caminho viável ao incorporar salvaguardas legais, técnicas e institucionais nos sistemas de IA desde o início.
Proposta para um Banco de Dados de Incidentes de IA
O documento recomenda a criação de um banco de dados nacional para rastrear problemas relacionados à IA, como falhas de segurança, resultados tendenciosos, violações de segurança e uso indevido. Os relatórios viriam de órgãos governamentais, empresas, pesquisadores e grupos da sociedade civil, ajudando a identificar riscos, rastrear tendências e orientar ações regulatórias.
Passos Voluntários e Apoio Especializado
O Documento Branco incentiva as empresas a publicarem voluntariamente relatórios de transparência, testarem sistemas de IA quanto à equidade e segurança, realizarem verificações de segurança e exercícios de estresse. Também sugere a criação de um Comitê de Especialistas em Tecnologia e Política para apoiar a governança da IA.
Equilibrando Privacidade, Equidade e Desempenho
O documento observa que proteger a privacidade enquanto garante equidade e desempenho do sistema pode ser desafiador, especialmente em um país diversificado. Recomenda a remoção de dados consciente do impacto, em vez de uma exclusão automática de dados, para evitar prejudicar grupos sub-representados.
