A economia digital da ASEAN está projetada para atingir quase US$ 1 trilhão até 2030, impulsionada por uma população jovem e conectada. Apesar do crescimento, os países da ASEAN enfrentam o desafio crítico de proteger os vastos dados gerados, levando a uma série de iniciativas para fortalecer as leis de proteção de dados na região.
A inteligência artificial agentiva está revolucionando o suporte ao cliente, finanças e gerenciamento de fluxo de trabalho, enquanto expõe falhas nos processos de conformidade com o Regulamento Geral sobre a Proteção de Dados (GDPR). É necessário passar de controles estáticos para mecanismos ativos que garantam a conformidade durante a operação do sistema.
A integração da GenAI nos fluxos de trabalho diários desafia diretamente as responsabilidades dos Diretores de Recursos Humanos (CHROs) em relação a políticas e conformidade. Um novo relatório revela que mais de um terço dos profissionais australianos está regularmente carregando dados sensíveis da empresa em plataformas de IA não autorizadas, expondo as organizações a sérios riscos de vazamento de dados e conformidade regulatória.
Não está claro se a OpenAI está cumprindo os requisitos de divulgação de dados de treinamento da Lei de IA para o GPT-5, o modelo mais recente que alimenta seu popular chatbot. Embora a OpenAI tenha assinado o código de prática da UE, até agora não parece ter publicado um resumo dos dados de treinamento do GPT-5.
Este é um checklist de riscos e governança da IA, abrangendo tópicos como identificação de riscos, governança e responsabilidade, gestão de dados e qualidade. O documento fornece diretrizes detalhadas para garantir conformidade com a Lei de IA da UE e promover práticas éticas no desenvolvimento e uso de sistemas de IA.
A governança de dados evoluiu de uma necessidade de conformidade para um pilar estratégico para empresas impulsionadas por IA. Com o aumento dos volumes de dados, é essencial adotar estruturas de governança automatizadas e adaptativas que garantam conformidade dinâmica e segurança em tempo real.
A recente decisão da Comissão Europeia de não adiar a Lei de IA da UE gerou reações polarizadas, com alguns considerando um fracasso épico e outros uma vitória. Contudo, o tempo de incertezas acabou, e é crucial que as organizações se preparem e entendam as obrigações regulatórias que se aproximam.
A governança de IA e a governança de dados tornaram-se cruciais para garantir o desenvolvimento de soluções de IA confiáveis, éticas e de alta qualidade. Esses frameworks de governança são interligados e vitais para o sucesso de iniciativas impulsionadas por IA, especialmente em grandes organizações.
O Ato de IA da UE divide a inteligência artificial em três categorias de risco: “inaceitável”, “alto” e “baixo/mínimo”. Sistemas de IA que representam um risco inaceitável são proibidos, enquanto aqueles classificados como de alto risco devem atender a requisitos rigorosos para proteger os direitos fundamentais das pessoas.
A União Europeia implementou sua Lei de IA, lançando diretrizes para garantir a conformidade e equilibrar a inovação em IA com a segurança. Esta lei classifica modelos de inteligência artificial em quatro níveis de risco distintos, com proibições específicas para aqueles classificados como de risco inaceitável.