No Atual Era da IA, a Governança Empresarial Significa Proteger a Confiança
A governança de IA deve focar em resultados como integridade, responsabilidade, transparência e resiliência.
As diretorias devem convergir a transformação da IA e a cibersegurança, garantindo que as equipes co-projetem sistemas desde o início, em vez de validar após o fato.
A governança confiável requer liderança independente, inventários precisos de IA/TI e alfabetização genuína no nível da diretoria para administrar o valor a longo prazo.
A Transformação da IA e os Riscos Cibernéticos
A IA está transformando os negócios, os riscos cibernéticos estão aumentando e a confiança nas instituições está sob pressão. Diante desses desenvolvimentos, como se parece uma boa governança em 2025? A governança refere-se às estruturas, sistemas e práticas que uma organização possui para atribuir autoridade de decisão, definir como as decisões devem ser tomadas e, mais importante, fazer progressos em direção à direção estratégica da organização. Ela também inclui a entrega de serviços, gerenciamento de desempenho, monitoramento e mitigação de riscos-chave.
No entanto, a governança muitas vezes é caricaturada como burocracia que atrasa a inovação. O remédio não é mais procedimentos, mas um retorno aos princípios fundamentais: definir os resultados que a governança existe para proteger – integridade, responsabilidade, transparência e resiliência – e, em seguida, trabalhar de trás para frente para os mecanismos mínimos necessários para alcançá-los. Boa governança não significa nunca falhar; significa, mesmo na falha, ser transparente, resiliente e pronto para se adaptar.
A Convergência de Imperativos da Diretoria
Esta reformulação da governança se conecta diretamente aos desafios que as diretorias enfrentam hoje. Elas são as guardiãs da longevidade corporativa; nos últimos dois anos, dois itens dominaram sua agenda: transformar com IA e defender contra riscos cibernéticos. Estamos no início de uma nova revolução industrial, e as empresas que perderem a transformação da IA não sobreviverão.
Um erro comum é tratar esses dois itens da agenda como separados. No entanto, a constante evolução do cenário de ameaças demonstra sua interseção: a IA é usada para amplificar ataques cibernéticos, e ataques cibernéticos visam sistemas de IA. Portanto, sistemas de IA confiáveis dependem de muitas das mesmas disciplinas que a cibersegurança definiu: políticas, riscos, controles, testes e red-teaming. A convergência dessas disciplinas não é opcional.
Design Conjunto é Fundamental
Mas a mudança não pode acontecer se as equipes permanecerem isoladas. No entanto, é raro ver líderes de cibersegurança trabalhando lado a lado com a agenda de transformação de uma corporação. Em vez disso, muitas vezes são vistos como validadores de resultados, intervindo no último minuto para verificar o estado de segurança. Este modelo “após o fato” é custoso e atrasa a inovação. E se a verdadeira velocidade e eficácia viessem da co-projetagem das equipes de cibersegurança e transformação de IA desde o início?
Setor Público vs. Privado: O Dever de Resiliência
No setor privado, os consumidores podem “votar com os pés” (ou carteira) se perderem confiança ou confiança em um fornecedor após uma violação. No entanto, no setor público, os cidadãos não têm tal escolha: eles não podem mudar onde obtêm passaportes, cuidados de saúde ou serviços essenciais. Isso torna os padrões de contratação, transparência, responsabilidade e resiliência ainda mais vitais. Os governos devem mostrar que – mesmo quando erros ocorrem – os processos são éticos, transparentes e resilientes o suficiente para manter a confiança dos cidadãos.
A Evolução do Mandato do CISO em Governança de IA
Um número crescente de organizações está explorando ativamente onde a governança de IA deve se situar. Algumas já decidiram expandir o papel do chief information security officer (CISO), que traz um nível de independência das operações diárias e já é responsável por várias disciplinas de risco e controle. No entanto, a estrutura organizacional importa; onde o CISO se senta na hierarquia e a quem ele se reporta pode impactar sua capacidade de influenciar e entregar, bem como sua independência percebida.
O Problema do Inventário
A governança eficaz começa com saber o que você está governando. No entanto, criar um inventário de IA frequentemente enfrenta a realidade de que muitos inventários de ativos de TI das organizações são incompletos ou de baixa qualidade. Adotar uma abordagem de pensamento sistêmico ajuda positivamente ao fornecer uma visão mais holística de como pessoas, processos, dados e máquinas interagem. Essa abordagem também garante a propriedade responsável pela manutenção de mapas precisos dessas interações.
Alfabetização é Necessária
Embora a alfabetização em IA e cibersegurança no nível da diretoria e dos executivos esteja aumentando, a jargão ainda bloqueia a colaboração. Os líderes precisam de clareza, não de complexidade. É imperativo simplificar a complexidade e falar sobre os impactos transformacionais. Somente então as decisões de governança podem ser informadas e resilientes.
Oportunidades para Melhorar a Governança
Cinco oportunidades se destacam:
- Mandatar a convergência independente: um único gerente sênior capacitado em IA, segurança e risco de dados, reportando-se à diretoria com independência das pressões de entrega.
- Institucionalizar a co-criação: revisões de design multifuncionais que unem especialistas em cibersegurança com equipes de produto e dados & IA desde o início dos projetos.
- Operacionalizar a transparência: registrar logs de decisões para sistemas de alto risco, comunicar amplamente e ensaiar rigorosamente a comunicação e recuperação de incidentes.
- Consertar o inventário: estabelecer um catálogo autoritário de AI/TI com propriedade clara e metas de qualidade.
- Crescer a “alfabetização real”: substituir o treinamento de verificação por oficinas de cenários onde os líderes praticam fazer e defender trocas sob condições incertas.
Se a governança é, em última análise, sobre administrar a tomada de decisão que protege o valor ao longo do tempo, então na era da IA, a diretoria deve agir como guardiã da confiança. Isso começa pela derrubada das paredes entre a transformação da IA e a cibersegurança, e pela medição da governança, não por procedimentos, mas por resultados.
