As Empresas de IA Afirmam que Regras Existentes Podem Governar a IA Agente
As empresas de inteligência artificial (IA) estão adotando a IA agente, considerada a próxima evolução da IA generativa. À medida que a inovação avança, os desenvolvedores de IA argumentam que os processos de segurança atuais e as regras existentes, tanto estaduais quanto federais, podem proteger as empresas e os consumidores que começam a utilizar essa tecnologia.
Capacidades da IA Agente
A IA agente é um sistema de IA composto por múltiplos agentes de IA que podem agir autonomamente para completar tarefas. Empresas como a Meta estão liderando o desenvolvimento de capacidades de IA agente. Apesar da evolução contínua das ferramentas de IA, as leis de proteção ao consumidor, contratos e regulamentações específicas do setor, juntamente com as ferramentas de segurança próprias de uma empresa, podem servir como guardiões técnicos para essas novas capacidades.
Aplicação das Regras Existentes
Durante uma discussão online, foi destacado que é crucial avaliar onde as leis atuais podem ser aplicadas a produtos como os agentes de IA e onde podem haver lacunas que precisam ser preenchidas com novas legislações. O governo dos EUA está atualmente desenvolvendo um plano de ação para guiar as políticas de IA.
É importante focar em casos de uso individuais, uma abordagem que a Lei de IA da União Europeia adota, categorizando diferentes sistemas de IA em diferentes níveis de risco. Por exemplo, construir um agente de IA para operar dentro de uma empresa apresenta um nível de risco diferente em comparação a um agente de IA desenvolvido para ser voltado ao consumidor.
Diferenças entre Uso Empresarial e Consumo
Um agente consumido pode operar em um ambiente não controlado, lidar com conteúdo imprevisível e ter garantias limitadas de segurança. Em contraste, em um uso empresarial, o agente se torna uma extensão do sistema de TI da empresa, sujeito aos mesmos requisitos de segurança e auditoria.
Necessidade de Padrões e Envolvimento Humano
É necessário estabelecer um vocabulário padrão em um nível arquitetônico para a comunicação entre agentes de IA. Diferentes fornecedores estão desenvolvendo agentes de IA específicos para completar tarefas em setores individuais, como saúde ou energia. Manter uma infraestrutura de IA aberta e interoperável, bem como um vocabulário padronizado, será crítico para alcançar interações entre múltiplos agentes.
Em um ambiente projetado para que agentes de IA se comuniquem, o controle humano precisa ser implementado e mantido por razões de segurança. Pesquisadores defendem que as empresas de IA não devem desenvolver IA agente totalmente autônoma devido a riscos como a superação do controle humano, uso malicioso e perda de privacidade de dados.
Transparência e Divulgação
À medida que as empresas continuam a desenvolver a IA agente, a transparência e a divulgação sobre o treinamento dos agentes de IA ajudarão a fornecer um roteiro claro para os formuladores de políticas, à medida que consideram a necessidade de criar novas regras para a tecnologia.
Essas práticas não resolvem problemas específicos, mas colocam os formuladores de políticas, o público e a sociedade civil em uma posição muito melhor para entender e responder às mudanças rápidas neste espaço.
