Quadro Ético Nacional de Inteligência Artificial
O Ministro da Ciência e Tecnologia assinou uma circular emitindo o Quadro Ético Nacional de Inteligência Artificial, projetado para orientar a pesquisa, desenvolvimento e implantação de sistemas de IA em direção a resultados que sejam seguros, responsáveis e benéficos para indivíduos, comunidades e sociedade em geral.
Obrigações e Responsabilidades
De acordo com a circular que entrou em vigor em 10 de março, o quadro impõe obrigações específicas às entidades e indivíduos envolvidos em atividades de IA. Em particular, o uso da IA deve garantir segurança e confiabilidade, prevenindo danos à vida humana, saúde, dignidade, honra e bem-estar mental.
Desenvolvedores e operadores são responsáveis por incorporar recursos de segurança desde a fase de design, antecipando cenários potencialmente prejudiciais e adotando controles preventivos adequados. É necessário estabelecer critérios de qualidade claros para dados, modelos e resultados, além de processos internos para teste, validação e verificação antes de qualquer implantação.
Supervisão Humana e Segurança
O quadro exige capacidades de supervisão e intervenção humanas para todas as decisões e ações impulsionadas por IA, calibradas de acordo com o nível de impacto potencial do sistema. As entidades devem implementar mecanismos para coletar feedback, detectar erros, iniciar correções e manter planos de contingência em casos de mau funcionamento ou uso inadequado.
Protocolos de segurança robustos devem detectar e mitigar ameaças, incluindo acesso não autorizado, sequestro de sistemas, envenenamento de dados ou modelos, ataques adversariais, exploração de vulnerabilidades, violações de dados ou outras formas de uso indevido, garantindo assim a confidencialidade, integridade e disponibilidade de dados, modelos e infraestrutura de suporte.
Direitos Humanos e Inclusividade
O respeito aos direitos humanos e civis é enfatizado, com compromissos com a justiça, transparência e não discriminação ao longo do desenvolvimento e uso da IA. As entidades devem aplicar processos de revisão apropriados para evitar violações de privacidade, proteção de dados pessoais, liberdade de escolha e direito ao tratamento igualitário.
Esforços são exigidos para detectar e mitigar preconceitos em dados, modelos e operações, com atenção especial aos efeitos sobre grupos vulneráveis, como crianças, idosos e pessoas com deficiência. As entidades devem fornecer notificações claras sobre a participação da IA, apresentando detalhes razoáveis sobre os objetivos do sistema, escopo, fontes de dados e limitações conhecidas.
Sustentabilidade e Inovação
O quadro incentiva o uso de IA que promova o bem-estar social, inclusividade e progresso sustentável. As entidades devem avaliar o uso de energia, recursos computacionais e a pegada ambiental ao longo de todo o ciclo de vida da IA, favorecendo tecnologias eficientes em energia e processos de baixa emissão.
O design de sistemas de IA deve seguir normas éticas sociais e a identidade cultural, evitando resultados discriminatórios ou impactos adversos aos interesses da comunidade. A inovação e a responsabilidade social corporativa são incentivadas, com experimentação responsável e divulgação aberta de pesquisas, respeitando as regulamentações legais e a proteção dos direitos de propriedade intelectual.
Revisão e Atualizações
O quadro será revisado e atualizado periodicamente a cada três anos, ou mais cedo em resposta a mudanças significativas na tecnologia, legislação ou práticas de gestão. A emissão reforça a implementação da Resolução do Politburo sobre inovações em ciência e tecnologia e transformação digital nacional.
