Empresas, Cuidado com o Teatro de Governança de IA
As ferramentas infundidas com IA estão se proliferando em toda a empresa, com assistentes de IA escrevendo códigos e respondendo a perguntas de clientes. Aplicativos de inteligência de negócios estão minerando vastos dados em busca de insights estratégicos, e agentes de IA emergentes estão começando a tomar decisões de forma autônoma.
Diante dessas inovações, as empresas estão certas ao voltarem sua atenção para a governança da IA – os processos, padrões e barreiras que ajudam a garantir que os sistemas de IA sejam seguros e éticos.
A governança da IA permite que as empresas monitorem os sistemas de IA em termos de performance, latência e questões de segurança. Ela ajuda a mitigar riscos sérios da IA, como pré-conceitos, desvio e alucinações. Além disso, ajuda as empresas a permanecerem em conformidade em um momento em que as regulamentações e padrões de IA estão crescendo em número, complexidade e severidade. Violações de conformidade com a Lei de IA da UE, por exemplo, podem resultar em multas de até sete por cento do faturamento anual. Em resumo, a governança da IA permite que as empresas escalem e inovem com a IA de forma responsável.
Não falta líderes empresariais proclamando a importância da governança da IA. O discurso sobre barreiras robustas de IA e a necessidade urgente de mitigar pré-conceitos, desvios, toxidade e opacidade é comum.
No entanto, os investimentos reais em governança de IA muitas vezes não correspondem aos investimentos na própria tecnologia de IA. Em uma pesquisa recente, apenas 21% dos executivos afirmaram que os esforços de governança de IA de suas organizações são sistêmicos ou inovadores. Enquanto isso, apenas 29% dos CROs e CFOs disseram que estão abordando de forma suficiente os riscos regulatórios e de conformidade da IA.
Essa dissonância pode ser chamada de “teatro de governança de IA”. E isso tem consequências sérias.
Governança Informal
Eu frequentemente encontro empresas que adotam uma abordagem informal para a governança de IA. Em vez de políticas detalhadas e tecnologia tangível, as organizações elaboram cartas de alto nível citando valores e princípios, mas fornecem poucos detalhes sobre como operacionalizá-los. Da mesma forma, algumas empresas convocam conselhos ou comitês de revisão ética, mas não os equipam com mecanismos para agir.
Definir valores centrais como justiça e explicabilidade é um importante primeiro passo, mas não é um resultado final. As empresas devem transformar esses valores em ação, implementando, aplicando e medindo-os. Por exemplo, as empresas precisam de tecnologia para determinar se a IA está gerando respostas relevantes e fiéis. Elas precisam de tecnologia que restrinja automaticamente saídas de IA que sejam odiosas ou profanas. E precisam de ferramentas que possam chegar à raiz desses problemas.
A governança informal falha em aplicar as melhores práticas de adoção de IA responsável de forma consistente em toda a empresa. O resultado? As organizações lutam para criar uma cultura de adoção responsável de IA. Isso cria riscos: sistemas de IA inadequadamente governados podem tomar decisões incorretas e injustas, prejudicando tanto as empresas quanto os clientes.
Governança Ad Hoc
Outras empresas adotam uma abordagem ad hoc para a governança de IA. Elas têm políticas e ferramentas, mas as implementam de forma inconsistente e reativa. É tático; não há uma estratégia maior em jogo.
A governança ad hoc significa aplicar políticas a alguns casos de uso de IA, muitas vezes usando uma abordagem compartimentada. Enquanto isso, um pequeno grupo de funcionários elabora a abordagem de governança de IA, em vez de uma variedade de partes interessadas que podem trazer perspectivas únicas. E no dia a dia, os funcionários técnicos devem lidar com um conjunto fragmentado e incompleto de ferramentas. O acompanhamento da performance da IA é feito manualmente e conforme necessário, em vez de ser automatizado e contínuo. Erros humanos, tempo desperdiçado e oportunidades perdidas se acumulam.
Abordagens ad hoc também deixam as empresas vulneráveis à IA sombra, sistemas de IA não sancionados que podem operar dentro de uma empresa. Elas aumentam a probabilidade de violações de conformidade.
A Abordagem Correta: Governança Formal
Uma abordagem formal de governança de IA combina um quadro abrangente aplicado por meio de fluxos de trabalho automatizados para disseminar as melhores práticas em toda a empresa, reforçado por um monitoramento e aplicação regular e automatizados. As empresas conectam seus objetivos de alto nível a ferramentas que se destacam em avaliações de risco e conformidade de IA. As empresas também integram a governança de IA com domínios relacionados, como a segurança de IA.
A governança formal adota uma abordagem de múltiplas partes interessadas. Uma variedade de disciplinas ajuda a informar a governança: jurídico, engenharia, segurança, gestão de riscos, conformidade, TI, privacidade de dados, RH, entre outros. Todos os membros de uma organização, desde o CEO até os estagiários, são treinados em governança de IA: quais ferramentas usar, quando e como escalar problemas potenciais.
A governança formal acelera em vez de retardar a inovação em IA. Ela permite que as empresas escalem a IA de forma responsável e equipa os desenvolvedores com insights ricos sobre como seus sistemas de IA se comportam e por quê.
A IA está se tornando cada vez mais pervasiva e poderosa na empresa. Segundo a Gartner, até 2028, agentes de IA tomarão 15% das decisões diárias das empresas. Isso significa que, sem a governança adequada, um terço das decisões empresariais pode envolver riscos desnecessários.
Mais do que nunca, as empresas precisam se afastar do teatro de governança de IA e avançar em direção ao real.
