Singapura: Fortalecendo a Proteção de Dados e a Governança de IA
Singapura está respondendo de forma proativa aos desafios em evolução impostos pelo uso de dados na era da inteligência artificial (IA). O evento da Semana de Proteção de Dados Pessoais 2025 destacou a crescente importância da proteção de dados em um cenário tecnológico e global em rápida mudança. O tema deste ano, “Proteção de Dados em um Mundo em Mudança”, reflete a necessidade premente de adaptar não apenas leis e práticas, mas também normas sociais mais amplas.
O Poder dos Dados na IA
A ministra da Comunicação e Informação, Josephine Teo, destacou como os dados são fundamentais para todo o ciclo de desenvolvimento da IA, desde o pré-treinamento até o ajuste fino, testes e validação. Aplicações setoriais como AskMax, o chatbot do Aeroporto Changi, e GPT-Legal, ajustado com a base de dados do LawNet, ilustram a dependência da IA em conjuntos de dados de alta qualidade e específicos de domínio.
Desafios Relacionados aos Dados
No entanto, os dados também se tornaram uma limitação. Os dados da Internet utilizados no treinamento são frequentemente irregulares e podem incluir conteúdo tóxico ou tendencioso. Um desafio regional de red-teaming revelou estereótipos preocupantes gerados por um modelo de linguagem, sublinhando os riscos de dados de treinamento não filtrados. À medida que os desenvolvedores esgotam conjuntos de dados públicos, a atenção está mudando para fontes mais sensíveis, incluindo parcerias privadas com universidades, empresas e governos, o que levanta novas preocupações sobre privacidade.
Desafios na Implementação de Aplicações de IA
As aplicações de IA também podem apresentar desafios quando implantadas. Um teste descobriu que um chatbot usado por um fabricante de alta tecnologia vazou taxas de comissão de vendas de backend quando solicitado em mandarim. Este exemplo, descoberto pela Vulcan, ilustra a importância de salvaguardas robustas e testes pré-lançamento.
Barreiras como prompts de sistema, geração aumentada por recuperação (RAG) e filtros de dados são comumente usados para abordar questões de confiabilidade, viés e privacidade. No entanto, falhas inesperadas destacam a necessidade de testes independentes. Como enfatizou a ministra Teo, garantir que as aplicações de IA generativa funcionem como pretendido é crucial para a confiança e adoção.
Iniciativas de Proteção de Dados
O Sandbox de Tecnologias de Proteção de Privacidade (PETs) de Singapura oferece um espaço seguro para experimentação. A empresa financeira Ant International, por exemplo, treinou um modelo com um parceiro de carteira digital usando conjuntos de dados separados, melhorando o direcionamento de vouchers e o engajamento sem comprometer a privacidade do cliente.
A geração de dados sintéticos também mostra promessas. O Guia do PDPC sobre Geração de Dados Sintéticos descreve as melhores práticas, e empresas locais como Betterdata estão ajudando desenvolvedores a aumentar conjuntos de dados de treinamento enquanto protegem informações sensíveis.
Promoção da Adoção de Tecnologias de Proteção de Privacidade
Para apoiar uma adoção mais ampla, a IMDA introduzirá um Guia de Adoção de PETs para líderes de C-suite, ajudando empresas a escolher e implementar tecnologias de privacidade adequadas. O Summit de PETs retorna este ano para aprofundar a colaboração entre setores entre reguladores, provedores de tecnologia e adotantes.
Avanços na Garantia de IA
Singapura também está avançando na garantia de IA. O piloto de Garantia Global de IA e um novo Sandbox de Garantia de IA visam desenvolver métodos de teste padronizados para gerenciar riscos como conteúdo tóxico e vazamentos de dados. O Kit de Ferramentas IMDA oferece ferramentas práticas que vão além de estruturas de alto nível.
Exemplos incluem o Hospital Geral de Changi, que testou uma ferramenta de sumarização para segurança clínica, e a NCS, que verificou a conformidade de seu assistente de codificação com padrões internos e regulatórios. Esses esforços ilustram o compromisso de Singapura em construir um robusto ecossistema de IA que proteja os usuários e incentive a inovação responsável.
O Data Protection Trustmark
O Data Protection Trustmark foi elevado ao Padrão de Singapura 714, estabelecendo um referencial nacional para organizações que demonstram práticas sólidas de proteção de dados. Este novo padrão assegura aos consumidores que as empresas certificadas estão adotando medidas de governança de dados de classe mundial. Ele também permite que as empresas ganhem uma vantagem competitiva ao mostrar seu compromisso com o uso responsável de dados e conformidade com a privacidade.
Responsabilidade Coletiva na Governança de IA
A ministra Teo concluiu pedindo responsabilidade coletiva em todo o ciclo de vida da IA e reafirmou o compromisso de Singapura em permitir a inovação responsável, ao mesmo tempo em que promove a confiança pública na governança de dados e IA.
Ao abordar esses desafios de forma colaborativa, Singapura visa liderar na adoção de IA confiável e eficaz em todos os setores. A abordagem equilibrada da nação de incentivar a inovação enquanto garante segurança e responsabilidade pode servir como um modelo global para a governança de IA e dados.
