Regulamentações da UE Não Estão Preparadas para Incidentes de IA Multi-Agente
Em agosto deste ano, as diretrizes da Comissão Europeia para o Artigo 73 da Lei de IA da UE entrarão em vigor. As diretrizes exigem que os responsáveis e provedores relatem incidentes graves relacionados a sistemas de IA em ambientes de alto risco, como infraestrutura crítica.
Esse lançamento é oportuno. Especialistas alertam que este pode ser um dos últimos anos em que ainda podemos prevenir um desastre de IA. A escala e o crescimento dos incidentes que estamos testemunhando já são preocupantes.
A Regulação Está Preparada para o Propósito?
A regulação em desenvolvimento deve ser adaptada. As diretrizes atuais já contêm uma falha preocupante que deve ser abordada. Elas se concentram em falhas de agente único e em ocorrências isoladas, assumindo um mapeamento de causalidade simplista para incidentes relacionados à IA. Contudo, alguns dos riscos mais sérios já estão surgindo de interações entre sistemas de IA, onde múltiplas ocorrências podem levar a efeitos em cascata.
Incidentes e Interações entre Sistemas
As diretrizes atuais do Artigo 73 assumem que apenas um sistema contribuirá para um incidente de alto risco. No entanto, os sistemas de IA estão se tornando mais autônomos, capazes de raciocínio complexo e ação proativa sem intervenção humana contínua. Uma vez implantados, eles interagem com outros agentes de IA, levando a dependências complexas.
Por exemplo, quando algoritmos de precificação no mercado de combustíveis começaram a reagir uns aos outros, os preços aumentaram sem coordenação explícita, ilustrando uma lacuna de responsabilidade nas regulamentações atuais.
Os incidentes de IA podem surgir não apenas de uma falha em um sistema, mas também de interações entre sistemas, onde o comportamento inesperado pode ocorrer.
Desafios de Incidentes Cumulativos
Os sistemas de negociação automatizados demonstraram que os incidentes podem resultar de interações rápidas entre sistemas, levando a colapsos de mercado. O exemplo do “Flash Crash” de 2010 ilustra como interações rápidas podem amplificar os efeitos uns dos outros, desencadeando efeitos em cascata.
Em setores como o de energia, falhas em cascata podem ser causadas pela introdução de dados falsificados em sistemas de IA que controlam a rede elétrica.
Riscos Coletivos e a Fragilidade das Instituições
As lacunas nas diretrizes atuais criam ambiguidade legal na responsabilidade e expõem danos que vão além dos usuários individuais. Quando as interações de múltiplos agentes de IA começam a propagar informações errôneas, isso pode corroer a integridade do ambiente informacional que sustenta os processos democráticos.
Se as diretrizes do Artigo 73 buscam proteger a democracia e os interesses coletivos, elas devem reconhecer explicitamente como as dinâmicas multi-agente ameaçam manipular nossa capacidade de tomar decisões informadas.
A Necessidade de Mecanismos de Relato
Dada a natureza de alto risco e difusa desses incidentes, a importância de mecanismos de relato confidenciais é inegável. As diretrizes do Artigo 73 atualmente não oferecem caminhos estruturados para o relato de terceiros, como usuários e organizações da sociedade civil.
Fechando a Lacuna
As diretrizes atuais do Artigo 73 expõem uma preocupante falta de preparação na regulação de sistemas de IA autônomos. A Comissão Europeia deve ampliar sua compreensão e resposta aos incidentes relacionados à IA, começando por uma definição mais realista de dano. Os incidentes reportáveis não devem ser limitados a falhas isoladas, mas devem incluir quebras que emergem da interação entre sistemas de IA.
Essa abordagem é essencial para proteger interesses coletivos, como a integridade das instituições democráticas, e para garantir que a responsabilidade por incidentes multi-agente seja tratada de forma adequada.
