Criando Harmonia: Manual de Governança de IA
Durante um seminário anual de Conselheiros Internos, foi compartilhado um guia abrangente sobre o papel estratégico da Inteligência Artificial (IA) no cenário empresarial moderno, os principais riscos associados à sua implementação, a evolução das regulamentações de IA e o manual para governança de IA.
Desenvolvendo o Processo de Governança de IA
O primeiro passo no processo de governança de IA é realizar um inventário abrangente dos sistemas de IA existentes e dos casos de uso. Isso envolve:
- Determinar o propósito da ferramenta de IA, entendendo se ela serve para operações internas ou para clientes.
- Realizar uma auditoria de IA, colaborando com as áreas de TI e compras para catalogar todos os sistemas de IA.
- Facilitar workshops para identificar oportunidades de integração de IA, envolvendo líderes de diferentes áreas organizacionais.
- Implantar questionários departamentais para descobrir tarefas repetitivas, intensivas em dados ou de decisão que poderiam se beneficiar da IA.
- Mapear casos de uso com propósitos comerciais legítimos para atender aos requisitos de privacidade de dados.
Governança Proporcional para Risco
Encontrar a ferramenta certa que se alinhe com a necessidade do negócio é essencial. A governança proporcional é fundamental. É necessário considerar a quantidade de dados que uma ferramenta específica pode precisar. Ferramentas de alto risco, como triagem de currículos e aplicações de empréstimos, requerem supervisão rigorosa e avaliações de impacto formais.
Ferramentas que criam cópias de marketing externas ou relatórios analíticos internos apresentam um nível moderado de risco e devem ser revisadas por um humano. Casos de uso para ferramentas de IA de baixo risco podem incluir brainstorming e resumo de artigos públicos.
Perguntas Certas para Conformidade e Privacidade
As organizações devem criar um questionário padronizado para fornecedores de IA, abordando a origem dos dados de treinamento e se foram licitados legalmente. O fornecedor deve ser capaz de explicar como a IA chega a suas conclusões e oferecer transparência sobre seu funcionamento.
A segurança dos fornecedores, incluindo planos de resposta a incidentes e controles de acesso, deve ser considerada. As práticas de retenção de dados e a possibilidade de auditoria são essenciais para garantir conformidade com os requisitos contratuais de segurança e privacidade.
Negociações de Acordos de IA
A criação de um adendo contratual padrão para IA é uma forma eficaz de abordar preocupações e mitigar riscos. O adendo deve incluir restrições de uso de dados, definindo que o fornecedor e seus sub-processadores são proibidos de usar dados do cliente para treinar ou melhorar modelos de IA sem consentimento expresso.
Além disso, deve ser incluída uma cláusula de indenização abrangente, onde o fornecedor se compromete a cobrir indenizações de propriedade intelectual, violações de dados e preconceitos. Um contrato deve garantir que o sistema esteja em conformidade com as leis aplicáveis, incluindo leis de privacidade.
Políticas Práticas para Pessoas Imperfeitas
Desenvolver políticas internas de governança de IA é a primeira linha de defesa. As organizações devem considerar integrar regras de IA em políticas já existentes, como políticas de uso aceitável e segurança da informação. A atualização das políticas deve incluir proibições claras sobre a inserção de informações pessoais identificáveis em ferramentas de IA públicas.
Os funcionários devem ser treinados sobre riscos e conformidade de IA, entendendo a diferença entre ferramentas públicas gratuitas e soluções empresariais. Verificações humanas devem ser obrigatórias para o trabalho gerado pela IA, e políticas de governança devem incluir regras de divulgação.
Uma equipe multifuncional deve ser estabelecida para a governança de IA, encarregada da supervisão das políticas e adaptações a mudanças regulatórias. Um robusto quadro de governança pode permitir a adoção da IA de forma sustentável e estratégica.
Conclusão
Uma abordagem cuidadosa e bem estruturada para a governança de IA é fundamental para transformar potenciais responsabilidades em vantagens competitivas. As organizações devem se preparar adequadamente para os desafios e oportunidades que a IA traz, garantindo que a tecnologia seja utilizada de maneira responsável e eficaz.
