Governança em Atraso à Medida que a IA Sombra Reformula Fluxos de Trabalho de Colaboração
Introdução
A IA sombra se manifesta de maneiras inesperadas em ambientes de comunicação unificada (UC). Em algumas situações, um bot desconhecido se junta a reuniões, transcrevendo e resumindo chamadas, enquanto em outras, representantes de vendas utilizam assistentes de IA externos para processar transcrições de reuniões. Essas ferramentas, embora aumentem a agilidade e a produtividade, interagem com dados da empresa de maneiras que a TI não consegue controlar.
O que é a IA Sombra?
A IA sombra refere-se ao uso de assistentes movidos por IA sem o conhecimento ou supervisão da TI. Os funcionários utilizam essas ferramentas para tarefas como brainstorming, limpeza de textos e geração de resumos de reuniões. No entanto, quando isso acontece fora da governança, pode criar sérias exposições à segurança cibernética e conformidade.
Como a IA Sombra se Manifesta em UC
Assistentes de reuniões baseados em IA são cada vez mais comuns, com três quartos dos usuários relatando sua utilização. Esses bots podem gerar transcrições ou resumos durante reuniões. Além disso, extensões de navegador podem resumir threads em plataformas como Slack ou Teams. A IA sombra apresenta riscos únicos, pois muitas dessas ferramentas operam de forma invisível e podem influenciar decisões e comportamentos dos funcionários.
Riscos Associados à IA Sombra
As organizações estão atrasadas em relação à governança relacionada à IA. Existe uma lacuna significativa entre as ambições de IA e a governança operacional, com mais de um terço das empresas ainda sem funções de governança dedicadas. Os principais riscos incluem:
Vazamento de dados: Funcionários podem inserir dados confidenciais em ferramentas de IA externas, permitindo que esses dados fluam para serviços externos.
Exposição à conformidade: A IA sombra pode contornar fluxos de trabalho regulados e controles de privacidade, violando normas de conformidade.
Opacidade nas decisões: A IA pode influenciar documentos e resultados de reuniões sem transparência.
Falta de visibilidade: As equipes de UC frequentemente não sabem quais ferramentas de IA os funcionários estão usando, dificultando a monitorização de riscos.
Desafios da Governança Tradicional
Os controles tradicionais falham em abordar esses riscos, pois se concentram em aplicativos aprovados e gestão de dispositivos. A IA sombra, no entanto, quebra essas suposições, tornando difícil a detecção e restrição do seu uso. Isso leva as equipes de TI a lutarem constantemente contra a adoção de novas ferramentas.
Resposta dos Líderes de UC
Os líderes de UC devem adotar uma abordagem ativa em relação à IA sombra. A descoberta e visibilidade são os primeiros passos, permitindo que as equipes de TI identifiquem bots e monitorem o uso de ferramentas de IA. É crucial que a governança da IA seja incorporada nas plataformas de UC, com políticas aplicadas onde o trabalho realmente acontece.
Além disso, os líderes devem fornecer ferramentas de IA aprovadas e criar ambientes de trabalho protegidos, onde os dados sensíveis permaneçam contidos. A proibição total do uso de ferramentas de IA não é eficaz, pois os funcionários valorizam as melhorias de produtividade que elas proporcionam. Em vez disso, as organizações devem definir entradas de dados aceitáveis e treinar os funcionários sobre os riscos associados ao uso de IA.
Conclusão
A IA sombra é um sinal de governança, indicando que os funcionários desejam integrar essas ferramentas em seus fluxos de trabalho diários. O verdadeiro desafio para os líderes de UC é restaurar a visibilidade, incorporar a governança nas plataformas de colaboração e permitir uma produtividade aprimorada com segurança.
