Por que o GenAI Estagna Sem uma Governança Forte
O GenAI, ou Inteligência Artificial Generativa, tem o potencial de transformar projetos de negócios, mas muitas empresas se encontram presas na fase de piloto. A pesquisa recente aponta que 92% das organizações estão preocupadas com a aceleração dos pilotos do GenAI sem antes resolver questões fundamentais de dados. Mais alarmante ainda, 67% das empresas não conseguiram escalar nem metade de seus pilotos para a produção.
Por que o GenAI fica preso no piloto
Embora as soluções de GenAI sejam poderosas, elas são tão eficazes quanto os dados que as alimentam. O velho ditado “lixo entra, lixo sai” é mais verdadeiro do que nunca. Sem dados confiáveis, completos e explicáveis, os modelos de GenAI frequentemente produzem resultados imprecisos, tendenciosos ou inadequados para o propósito.
Infelizmente, muitas organizações apressaram-se em implantar casos de uso de baixo esforço, como chatbots alimentados por IA que oferecem respostas personalizadas a partir de documentos internos. Embora esses casos melhorem a experiência do cliente em certa medida, eles não exigem mudanças profundas na infraestrutura de dados de uma empresa. Para escalar o GenAI de forma estratégica, seja na saúde, serviços financeiros ou automação da cadeia de suprimentos, é necessário um nível diferente de maturidade de dados.
Na verdade, 56% dos Diretores de Dados citam a confiabilidade dos dados como uma barreira chave para a implantação da IA. Outros problemas incluem dados incompletos (53%), questões de privacidade (50%) e lacunas maiores na governança de IA (36%).
Sem governança, sem GenAI
Para levar o GenAI além da fase de piloto, as empresas devem tratar a governança de dados como uma prioridade estratégica. Elas precisam garantir que os dados estejam à altura da tarefa de alimentar os modelos de IA e, para isso, as seguintes questões devem ser abordadas:
- Os dados usados para treinar o modelo vêm dos sistemas corretos?
- Removemos informações pessoalmente identificáveis e seguimos todas as regulamentações de dados e privacidade?
- Somos transparentes e podemos provar a origem dos dados que o modelo utiliza?
- Podemos documentar nossos processos de dados e estar prontos para mostrar que os dados não têm viés?
A governança de dados também precisa estar incorporada na cultura da organização. Para isso, é necessário construir alfabetização em IA em todas as equipes. O Ato de IA da UE formaliza essa responsabilidade, exigindo que tanto provedores quanto usuários de sistemas de IA façam esforços para garantir que os funcionários estejam suficientemente alfabetizados em IA, entendendo como esses sistemas funcionam e como usá-los de forma responsável. No entanto, a adoção eficaz de IA vai além do conhecimento técnico; ela também exige uma base sólida em habilidades de dados, desde a compreensão da governança de dados até a formulação de questões analíticas. Tratar a alfabetização em IA de forma isolada da alfabetização em dados seria uma visão míope, dada a estreita interconexão entre elas.
Em termos de governança de dados, ainda há trabalho a ser feito. Entre as empresas que desejam aumentar seus investimentos em gerenciamento de dados, 47% concordam que a falta de alfabetização em dados é uma barreira importante. Isso destaca a necessidade de construir apoio de alto nível e desenvolver as habilidades adequadas em toda a organização. Sem essas bases, mesmo os LLMs mais poderosos terão dificuldades para entregar resultados.
Desenvolvendo IA que deve ser responsabilizada
No atual ambiente regulatório, não basta que a IA “apenas funcione”; ela também precisa ser responsável e explicável. O Ato de IA da UE e o proposto Plano de Ação de IA do Reino Unido exigem transparência em casos de uso de IA de alto risco. Outros países estão seguindo o exemplo, e mais de 1.000 projetos de políticas relacionadas estão na agenda em 69 países.
Esse movimento global em direção à responsabilidade é uma resposta direta às crescentes demandas de consumidores e partes interessadas por justiça nos algoritmos. Por exemplo, as organizações devem ser capazes de explicar as razões pelas quais um cliente foi recusado para um empréstimo ou cobrado uma taxa de seguro premium. Para conseguir isso, elas precisariam saber como o modelo tomou essa decisão, e isso, por sua vez, depende de ter um registro claro e auditável dos dados usados para treiná-lo.
Sem a explicabilidade, as empresas correm o risco de perder a confiança dos clientes, além de enfrentar repercussões financeiras e legais. Assim, a rastreabilidade da origem dos dados e a justificação dos resultados não são “opcionais”, mas sim uma exigência de conformidade.
À medida que o GenAI se expande de ser usado para ferramentas simples a agentes totalmente desenvolvidos que podem tomar decisões e agir com base nelas, as exigências por uma governança de dados forte aumentam ainda mais.
Passos para construir IA confiável
Então, o que significa “bom” nesse contexto? Para escalar o GenAI de maneira responsável, as organizações devem adotar uma única estratégia de dados em três pilares:
- Adaptar a IA aos negócios: Catalogar seus dados em torno de objetivos comerciais-chave, garantindo que reflitam o contexto, os desafios e as oportunidades únicos específicos do seu negócio.
- Estabelecer confiança na IA: Estabelecer políticas, padrões e processos para conformidade e supervisão da implantação ética e responsável da IA.
- Construir pipelines de dados prontos para IA: Combinar suas diversas fontes de dados em uma base de dados resiliente para robusta IA, incorporando conectividade pré-construída do GenAI.
Quando as organizações acertam isso, a governança acelera o valor da IA. Em serviços financeiros, por exemplo, fundos de hedge estão usando GenAI para superar analistas humanos na previsão de preços de ações enquanto reduzem significativamente os custos. Na manufatura, a otimização da cadeia de suprimentos impulsionada por IA permite que as organizações reajam em tempo real a mudanças geopolíticas e pressões ambientais.
E essas não são apenas ideias futuristas; elas estão acontecendo agora, impulsionadas por dados confiáveis.
Com fundações de dados fortes, as empresas reduzem a deriva dos modelos, limitam ciclos de re-treinamento e aumentam a velocidade para a entrega de valor. É por isso que a governança não é um obstáculo; é um facilitador da inovação.
O que vem a seguir?
Após a experimentação, as organizações estão indo além dos chatbots e investindo em capacidades transformadoras. Desde a personalização das interações com os clientes até a aceleração da pesquisa médica, a melhoria da saúde mental e a simplificação de processos regulatórios, o GenAI está começando a demonstrar seu potencial em vários setores.
No entanto, esses ganhos dependem inteiramente dos dados que os sustentam. O GenAI começa com a construção de uma fundação de dados sólida, por meio de uma governança de dados forte. E, enquanto o GenAI e a IA agentiva continuarão a evoluir, não substituirão a supervisão humana tão cedo. Em vez disso, estamos entrando em uma fase de criação de valor estruturada, onde a IA se torna um co-piloto confiável. Com os investimentos certos em qualidade de dados, governança e cultura, as empresas podem finalmente transformar o GenAI de um piloto promissor em algo que realmente decola.
