Governança do Uso Interno de Inteligência Artificial – Considerações Chave
Muitos estudos indicam que mais de 70% das empresas estão utilizando inteligência artificial (IA) internamente. Em alguns casos, isso significa o desenvolvimento de uma ferramenta autônoma ou um chatbot voltado para o cliente, com o objetivo de trazer eficiências a um determinado fluxo de trabalho. Em outros, pode envolver o uso de ferramentas de IA amplamente disponíveis por parte dos funcionários.
A Ameaça aos Direitos Legais Estabelecidos
Em muitos casos, o uso de ferramentas de IA requer que informações sejam transmitidas pelo usuário a um terceiro para processamento, com o produto resultante retornado ao usuário. Essa transmissão de dados para fora de uma organização pode entrar em conflito tanto com as melhores práticas tradicionais para preservar a confidencialidade das informações quanto com os requisitos legais para manter direitos valiosos.
Por exemplo, para patentear uma tecnologia, é necessário que a ideia não tenha sido divulgada publicamente anteriormente. Portanto, a transmissão de informações confidenciais a um terceiro por meio de uma ferramenta de IA pode comprometer a patenteabilidade de uma ideia. Para proteger a capacidade de obter uma patente, as informações fornecidas a qualquer ferramenta de IA externa devem ser cuidadosamente controladas.
A Ameaça às Informações Pessoais e Salvaguardas de Segurança
Há uma crescente preocupação com falhas de segurança que surgem ao introduzir tecnologias não testadas em um ecossistema de tecnologia da informação existente. Sem salvaguardas robustas, pode ser possível que agentes mal-intencionados acessem sistemas onde o processamento de uma nova ferramenta de IA esteja conectado à internet pública. Garantir que todos os serviços sejam avaliados de perto, como em qualquer outro processo de aquisição tecnológica, é vital para proteger as empresas de danos não antecipados.
A Necessidade de Transparência e Supervisão Humana
Embora as estruturas regulatórias em torno da IA continuem a se desenvolver, um elemento comum nas discussões de políticas é a importância da transparência, como indicar a um usuário quando ele está interagindo com um humano versus um agente de IA em um ambiente de atendimento ao cliente. Mesmo na ausência de regulamentações abrangentes sobre IA, as regras de marketing e leis de proteção ao consumidor continuam a se aplicar.
A Necessidade de Responsabilidade e Governança em Nível de Conselho
Enquanto a IA apresenta muitas oportunidades emocionantes, seus riscos devem ser cuidadosamente geridos. Isso significa que diretores e oficiais devem adaptar práticas de governança tradicionais para garantir a supervisão adequada do uso da IA. Como primeiro passo, as empresas devem adotar uma Política de Governança de IA apropriada que forneça um quadro contínuo para a supervisão dessa tecnologia em rápida evolução.
As ferramentas de IA oferecem aos usuários a chance de realizar eficiências significativas. Este artigo não sugere que seu uso levará inevitavelmente a problemas significativos; em vez disso, estamos destacando alguns dos riscos envolvidos na aplicação dessas novas e rapidamente evolutivas ferramentas e as abordagens para governá-las que podem ajudar a gerenciar essas preocupações.
