Diligência Específica em Inteligência Artificial em Transações Corporativas
Em uma era de uso crescente de IA e supervisão, a diligência específica em IA é um componente crítico de qualquer transação corporativa em que a empresa alvo utilize IA de maneira significativa.
A primeira reação em muitas transações é direcionar tudo que parece técnico para áreas familiares, como propriedade intelectual, privacidade, cibersegurança e contratos comerciais. Embora a diligência tradicional possa revelar alguns desses riscos, ela não identifica de forma confiável as questões únicas apresentadas pelo desenvolvimento, uso e implementação de IA, como:
- Proveniência opaca de modelos.
- Dados de treinamento contaminados.
- Práticas inadequadas de avaliação e monitoramento.
- Dependências silenciosas de modelos de terceiros.
- Implementações não oficiais por equipes de negócios.
- Termos contratuais que transferem a responsabilidade dos fornecedores para os compradores.
Além disso, a IA apresenta riscos mais dinâmicos. Sistemas de IA aprendem com dados, se adaptam a novos contextos e às vezes agem de maneira diferente quando implantados em comparação com ambientes de teste. A precisão de um sistema pode degradar-se sem alterações no código. O cenário legal também está em evolução. O risco deriva não apenas do que a lei atualmente proíbe, mas também do que os reguladores e contrapartes esperam que uma organização responsável faça no futuro. Esses riscos dinâmicos não se encaixam facilmente em padrões de diligência mais antigos, e entender essas questões é crucial para determinar a valoração do negócio, a estrutura da transação, a alocação de riscos, os planos de integração e os orçamentos de remediação pós-fechamento.
Como as abordagens tradicionais de diligência podem não capturar completamente as preocupações relacionadas à IA, torna-se imperativo que compradores e seus advogados realizem uma diligência específica em IA para identificar e mitigar esses riscos.
Fatores-Chave que Definem o Escopo da Diligência em IA
A profundidade e o foco da diligência em IA devem ser adaptados à estrutura da transação, como e até que ponto a empresa alvo utiliza IA, o papel da empresa no desenvolvimento ou implementação de IA e as indústrias e jurisdições específicas implicadas.
Estrutura da Transação (Investimento versus Aquisição)
A estrutura da transação influencia a profundidade da diligência. Por exemplo, em:
- Um investimento minoritário, o investidor pode realizar uma revisão mais restrita focada em preocupações ou representações específicas.
- Uma aquisição total de uma empresa alvo, o comprador normalmente requer uma revisão abrangente de todos os ativos, sistemas e práticas de IA.
Comercialização de IA versus Uso Interno
Um fator crucial que impacta o processo de diligência é se a empresa alvo vende ou licencia soluções de IA para clientes (comercialização externa) ou apenas usa IA internamente para apoiar seus negócios.
Extensão e Materialidade do Uso de IA
A equipe de diligência deve avaliar o quão significativamente a empresa alvo depende da IA em seus negócios. Se as tecnologias de IA são centrais para os produtos, serviços ou operações da empresa alvo, a diligência relacionada à IA deve ser um foco principal.
Papel como Desenvolvedor de IA versus Implementador de IA
Os advogados devem considerar se a empresa alvo é principalmente:
- Um desenvolvedor de IA, criando modelos ou algoritmos proprietários.
- Um implementador de IA, utilizando ferramentas de IA de terceiros.
Entender o papel da empresa é importante para avaliar sua conformidade com as leis e regulamentos que distinguem entre desenvolvedores (ou fornecedores) de IA e implementadores.
Indústrias e Jurisdições Relevantes
O setor industrial do comprador e da empresa alvo pode afetar muito a exposição ao risco de IA. Por exemplo, uma ferramenta de IA utilizada na saúde ou serviços financeiros atrairá escrutínio sob leis de privacidade ou regulamentos financeiros, respectivamente. Considerações jurisdicionais também são importantes.
Fontes de Informação
A diligência eficaz em IA depende da coleta de informações abrangentes de várias fontes críticas. É essencial solicitar e revisar a documentação que a empresa alvo pode fornecer sobre seus sistemas de IA, incluindo:
- Model cards.
- Avaliações internas de risco ou impacto.
- Whitepapers técnicos.
- Resultados de testes e validação.
- Resultados de auditoria.
- Resumos de dados de treinamento.
- Políticas ou procedimentos que governam o desenvolvimento e uso de IA.
Especialização em Assuntos
Engajar especialistas em assuntos de IA pode melhorar significativamente o processo de diligência. Especialistas em IA podem ser internos ou externos e sua expertise técnica pode ajudar a preencher as lacunas linguísticas entre as equipes legais e de engenharia.
Diligência Substantiva em IA
Após determinar o escopo e montar a equipe certa, o comprador deve realizar uma análise aprofundada das áreas substanciais de risco e conformidade em IA. As principais categorias de investigação e preocupação que são únicas para a IA incluem:
- Desenvolvimento proprietário de tecnologia de IA.
- Uso de tecnologia de IA de terceiros.
- Implantação de tecnologia de IA no negócio da empresa alvo.
- Dados de treinamento.
- Uso de IA generativa.
Desenvolvimento de IA Proprietário
Se a empresa alvo desenvolveu seus próprios modelos de IA, o comprador deve avaliar a propriedade, qualidade e perfil de risco desses ativos.
Dependências de Terceiros
O comprador deve identificar quaisquer componentes ou dependências de terceiros dentro da IA da empresa alvo.
Processos de Treinamento e Re-treinamento
O comprador deve examinar como a empresa alvo treina seus modelos de IA e quais etapas foram tomadas para preparar os dados brutos para o treinamento.
Testes, Validação e Prontidão
Um processo responsável de desenvolvimento de IA inclui testes e validação rigorosos dos modelos antes de serem implantados ou utilizados em produção.
Monitoramento e Manutenção Contínua
O comprador deve determinar como a empresa alvo monitora o desempenho de seus sistemas de IA ao longo do tempo.
Transparência e Interpretabilidade
O comprador deve avaliar o grau de transparência ou explicabilidade dos modelos de IA da empresa alvo.
Documentação do Processo de Desenvolvimento
Projetos de IA bem geridos geralmente mantêm documentação sobre design de modelos, suposições, histórico de versões e limitações conhecidas.
Avaliações de Segurança e Ética
Se a tecnologia de IA puder causar danos ou questões éticas, o comprador deve verificar se a empresa alvo realizou avaliações de segurança ou revisões éticas.
Sistemas de IA de Terceiros
Muitas empresas incorporam sistemas ou serviços de IA de terceiros em suas operações. O comprador deve examinar esses arranjos e suas implicações.
Integração e Dependências
O comprador deve determinar como os sistemas de IA de terceiros estão integrados com os sistemas e dados da empresa alvo.
Personalizações
O comprador deve verificar se a empresa alvo fez modificações ou complementos personalizados ao sistema de IA de terceiros.
Revisão dos Contratos de Fornecedores de Terceiros
Uma parte central da diligência é revisar os contratos ou termos de serviço com provedores de IA de terceiros.
Aplicação das Políticas de IA da Empresa Alvo a Sistemas de Terceiros
Se a empresa alvo tiver suas próprias políticas de governança de IA, o comprador deve confirmar se essas políticas se estendem ao uso de IA de terceiros.
Implantação de IA
Esta categoria se concentra em como a empresa alvo implementa e utiliza IA na prática, seja internamente ou em produtos e serviços.
Uso Interno versus Uso Externo
O comprador deve identificar quais sistemas de IA são usados internamente e quais são externos ou voltados para o cliente.
Casos de Uso de Alto Risco
O comprador deve determinar se alguma implantação de IA se enquadra em categorias consideradas de alto risco do ponto de vista legal ou ético.
Contratos de Clientes e Termos Específicos de IA
Se a IA da empresa alvo fizer parte de produtos ou serviços oferecidos aos clientes, o comprador deve revisar os contratos de clientes para termos que abordam a IA.
Dados de Treinamento e Governança de Dados
Um sistema de IA é tão bom quanto os dados nos quais é treinado. A diligência em dados de treinamento é, portanto, um componente vital da diligência específica em IA.
Risco de Infringimento de Propriedade Intelectual
Os dados de treinamento podem apresentar riscos ocultos de propriedade intelectual.
Avaliações de Viés e Justiça
O comprador deve confirmar se a empresa alvo realizou auditorias de viés ou avaliações de justiça em seus modelos de IA.
IA Generativa e Propriedade de Resultados
A IA generativa merece atenção especial ao conduzir a diligência porque introduz questões legais distintas em relação a entradas, saídas e restrições contratuais.
Paisagem Legal e Regulatória
As leis e regulamentos relacionados à IA estão evoluindo rapidamente. Uma parte importante da diligência em IA é identificar os riscos legais e regulatórios que a empresa alvo pode enfrentar.
As considerações legais e regulatórias emergentes são cruciais para garantir que a empresa alvo esteja em conformidade e que os compradores possam antecipar obrigações futuras.
Governança de IA e Estrutura Organizacional
Um aspecto cada vez mais importante da diligência em IA é avaliar a estrutura de governança interna da IA da empresa alvo.
Políticas Formais de IA
O comprador deve verificar se a empresa alvo mantém políticas ou diretrizes escritas sobre IA.
Programas de Treinamento e Conscientização
O comprador deve confirmar se a empresa alvo proporcionou treinamento a seus funcionários sobre práticas de IA e conformidade regulatória.
Supervisão e Monitoramento de Conformidade
O comprador deve perguntar à empresa alvo quem é responsável por supervisionar a conformidade em IA.
Processo de Resposta a Incidentes para Questões de IA
Uma estrutura de governança forte inclui um plano sobre o que fazer se algo der errado com um sistema de IA.
Proteções Contratuais e Alocação de Risco
Após identificar as várias questões e riscos por meio da diligência em IA, o comprador e seus advogados devem considerar como abordar essas descobertas nos documentos da transação.
O acordo de aquisição ou investimento pode ser elaborado para proteger o comprador contra riscos relacionados à IA.
