A expectativa do conselho sobre a estratégia e governança de IA
À medida que a inteligência artificial (IA) se torna cada vez mais integrada nas ferramentas de negócios do dia a dia, os conselhos de administração enfrentam um desafio sutil, mas crítico, de governança. A IA não está mais restrita a sistemas sob medida ou plataformas de análise avançadas. Hoje, até mesmo aplicativos comumente usados, como software de produtividade, sistemas empresariais e plataformas de atendimento ao cliente, vêm com capacidades habilitadas por IA por padrão.
Essa realidade exige que os conselhos recalibrem sua perspectiva. A IA não deve mais ser vista apenas como uma iniciativa tecnológica isolada, mas como uma camada de capacidade cada vez mais entrelaçada aos processos e decisões centrais dos negócios. Consequentemente, a governança da IA não se resume a supervisionar alguns “projetos de IA”, mas a garantir que as decisões habilitadas por IA em toda a organização permaneçam alinhadas com a estratégia, apetite ao risco e padrões éticos.
Definições e Estrutura de Governança
Uma definição clara do que constitui um sistema de IA é fundamental. Os conselhos devem estar cientes do que a gestão considera um “sistema de IA” para fins de governança. À medida que as capacidades de IA são cada vez mais incorporadas em softwares padrão, nem toda IA exige o mesmo nível de supervisão.
Uma abordagem prática distingue entre funcionalidades de IA embutidas ou de baixo risco e sistemas de IA materiais. Funcionalidades de IA embutidas geralmente melhoram a eficiência e a experiência do usuário, como correção de texto assistida por IA ou transcrição automática de reuniões, e podem ser governadas por políticas existentes de TI, compras e dados.
Por outro lado, sistemas de IA materiais influenciam decisões ou resultados importantes, como aprovação de crédito, detecção de fraudes e avaliação de desempenho. Esses sistemas introduzem riscos financeiros, regulatórios, éticos ou reputacionais e, portanto, requerem controles mais rigorosos e visibilidade a nível de conselho.
Estratégia de IA e Investimentos
Os conselhos devem verificar se as iniciativas de IA estão explicitamente ligadas à estratégia empresarial, tanto em intenção estratégica quanto em alocação de investimentos. Uma estratégia de IA clara serve como um guia crítico para decisões tecnológicas e de alocação de capital.
A gestão deve explicar como as ambições de IA se traduzem em requisitos concretos para plataformas de dados empresariais, arquitetura de sistemas e infraestrutura habilitadora. Isso inclui clareza sobre a disponibilidade e qualidade dos dados, integração entre sistemas centrais e decisões sobre ambientes de nuvem, locais ou híbridos.
Estruturas de Governança e Gestão de Riscos
Os conselhos devem assegurar que as decisões relacionadas à IA sejam claramente governadas, escaladas e de responsabilidade definida. Isso inclui a responsabilidade clara pela estratégia de IA, implantação e supervisão contínua.
É crucial que os conselhos consigam responder a perguntas simples sobre a responsabilidade em decisões habilitadas por IA que produzem consequências indesejadas. Além disso, é importante articular o apetite da organização para riscos nas decisões habilitadas por IA, definindo níveis aceitáveis de automação em processos críticos e estabelecendo quais decisões devem permanecer sujeitas ao julgamento humano.
Conclusão
À medida que a IA se torna uma característica predominante nas organizações modernas, a maturidade da governança, e não a sofisticação tecnológica, distinguirá os adotantes responsáveis dos arriscados. A gestão pode implantar capacidades de IA, e os comitês podem supervisionar riscos específicos, mas a responsabilidade final recai sobre o conselho de administração. Em um ambiente onde a IA está cada vez mais presente, uma supervisão informada e proporcional não é mais opcional; é um dever central de boa governança.
