Agentes de IA – Como Eles Mudam o Jogo para a Governança de IA na Austrália?
Nos últimos anos, uma nova classe de ferramentas de inteligência artificial (IA) conhecidas como agentes autônomos (Agentes) emergiu, sinalizando o que é comumente referido como a ‘era agentiva’. Enquanto os Agentes introduzem novas possibilidades em automação, sua natureza dinâmica e autônoma também tem o potencial de intensificar certas questões existentes associadas à IA, como viés e discriminação, propriedade intelectual, privacidade, transparência e explicabilidade.
Entrando na ‘era agentiva’, mas o que exatamente é um ‘agente’?
Não há uma definição estabelecida do que constitui um Agente, pois o termo ‘agente’ tem sido aplicado a uma ampla gama de tecnologias, desde ‘modelos de raciocínio’ até ‘copilotos agentivos’. As características-chave de um Agente incluem autonomia, adaptabilidade e orientação a objetivos com intervenção humana mínima ou inexistente. Essas características representam uma mudança significativa em relação ao paradigma de prompt-resposta da IA generativa, que ainda envolve um nível de entrada manual por um usuário humano.
É importante distinguir Agentes de “IA agentiva”, que geralmente se referem a um paradigma mais avançado em que sistemas autônomos colaboram para alcançar objetivos complexos por meio de raciocínio em tempo real e composição dinâmica de tarefas. A governança de Agentes pode exigir mecanismos diferentes daquela aplicada à IA agentiva.
Um ‘caixa-preta’ mais turva
Os princípios atuais de transparência em IA tendem a focar em divulgações, como avisos e marcas d’água, para informar os indivíduos se estão interagindo com IA ou se determinado conteúdo foi gerado por IA. No entanto, esses princípios são limitados devido ao problema da caixa-preta, onde os padrões ocultos pelos quais um modelo infere uma saída de uma entrada não são necessariamente explicáveis em termos significativos.
Este problema é exacerbado no contexto dos Agentes, pois eles podem executar rapidamente volumes de micro-ações em segundo plano. As técnicas atuais, como raciocínio em cadeia, logs de sistema e monitoramento em nível de API, podem oferecer maior transparência, mas podem não fornecer insights completos sobre as ações de um Agente, especialmente para Agentes não determinísticos.
Gerenciando riscos em movimento
Os Agentes são considerados dinâmicos, pois podem se adaptar e desenvolver atributos emergentes sem mudanças manuais em seu código-fonte. Eles podem oscilar entre níveis de risco ao longo de um fluxo de trabalho. A governança dos Agentes precisará evoluir para garantir que operem dentro de limites de risco aceitáveis. Parte do processo de governança incluirá a definição clara dos limites para atingir um objetivo específico.
Salvaguardas técnicas necessárias mais do que nunca
Com a capacidade dos Agentes de executar objetivos complexos de forma autônoma, a equação de riscos está mudando. Estamos vendo a emergência de ferramentas como plataformas de conformidade de IA, que oferecem painéis de controle e análises para ajudar as organizações a monitorar as ações de um Agente em tempo real, além de protocolos de Agentes que fornecem um modelo padrão com permissões predefinidas.
O que as equipes jurídicas podem fazer?
As equipes jurídicas precisarão estar à frente do jogo para gerenciar riscos e responsabilidades associadas aos Agentes. A gestão de riscos legais é especialmente importante, pois a legislação sobre responsabilidade por Agentes ainda está indefinida. A colaboração proativa entre as equipes jurídica, de negócios e de tecnologia é essencial para desenvolver estruturas de governança eficazes e garantir conformidade com padrões legais em evolução.
As equipes jurídicas desempenham um papel importante na elaboração de requisitos de documentação de governança para Agentes, no desenvolvimento de planos de resposta a incidentes e na manutenção de trilhas de auditoria das decisões dos Agentes.
