Como as Regras de Segurança da IA Podem Repercutir Negativamente na Concorrência
À medida que os formuladores de políticas apressam-se para elaborar normas de segurança para a IA, um resultado não intencional pode estar se desenrolando silenciosamente. Regras criadas para proteger o público podem, se não forem cuidadosamente elaboradas, inclinar o mercado de IA em favor de empresas estabelecidas.
Desafios da Regulação Uniforme
Se uma regulação uniforme exigir que todos os modelos de linguagem de IA (LLMs) se recusem a atender certos pedidos, as maiores empresas ganharão uma vantagem significativa. Os usuários seriam direcionados para os modelos mais conhecidos e de maior qualidade, enquanto startups e provedores de LLMs de código aberto seriam excluídos. Isso pode resultar em um ecossistema que parece mais seguro, mas que também é menos inovador e menos responsivo às necessidades reais dos usuários.
A pesquisa sugere que, se regras de segurança forem impostas, uma abordagem assimétrica, em vez de uniforme, pode ser preferível. Regras mais rigorosas para os maiores modelos, combinadas com maior flexibilidade para empresas menores, poderiam melhorar os resultados de segurança sem agravar a concentração do mercado.
Impacto das Políticas de Recusa
As políticas de recusa uniformes eliminariam espaços onde as startups competem. Por exemplo, ao inserir um pedido considerado arriscado, como “escreva um malware”, o modelo pode perceber a intenção como maliciosa. No entanto, um pesquisador em cibersegurança pode estar realizando um trabalho benigno. Modelos maiores, como os de empresas estabelecidas, têm maior tendência a recusar tais pedidos, enquanto startups podem permitir que seus modelos abordem o pedido de maneira mais condicional.
Se todos os modelos forem obrigados a recusar tais pedidos, os usuários se concentrariam nos modelos de maior qualidade. Na maioria das comparações diretas, são os modelos mais estabelecidos que apresentam o melhor desempenho geral, devido aos investimentos significativos em pesquisa e infraestrutura de computação.
As startups normalmente não tentam competir diretamente com grandes fornecedores em desempenho de uso geral, mas sim em nichos que as grandes empresas evitam por riscos ou questões de marca. Aproximadamente um em cada quatro usuários está aberto a pedidos arriscados, e entre eles, cerca de um em cada seis solicitações adentra esse território.
Consequências da Concentração do Mercado
Se as pequenas empresas de código aberto forem reguladas para o mesmo comportamento de recusa que os maiores laboratórios, os usuários não terão para onde ir, exceto voltar para as grandes empresas. Isso, em conjunto, aumenta a concentração do mercado. Para usuários que fazem pedidos arriscados, a concentração do mercado pode aumentar em cerca de 5%, comparável à remoção de um concorrente de médio porte.
Regras Assimétricas: Regulação versus Flexibilidade
Se forem introduzidas regras de segurança, abordagens direcionadas e assimétricas podem melhorar tanto a segurança quanto a concorrência. As empresas mais capitalizadas dominam o uso; aplicar regras mais rígidas a elas tem o maior impacto na redução de conteúdo prejudicial em larga escala. Enquanto isso, os provedores menores geralmente têm menor uso e capacidade.
Conceder um pouco mais de flexibilidade a essas empresas menores, juntamente com transparência e medidas de segurança, acrescenta um risco incremental mínimo, preservando o espaço em que as startups inovam. Na verdade, a concessão de flexibilidade cuidadosamente definida pode até aumentar a segurança total.
Conclusão
As políticas de segurança da IA são políticas de concorrência. Políticas divergentes podem tornar o ecossistema mais seguro e competitivo. Modelos maiores assumem a maior parte da mitigação de riscos; provedores menores mantêm espaço para abordar casos de uso mais sutis. Se a regulação for perseguida, uma abordagem mais calibrada aplicaria regras mais rígidas a modelos muito grandes, enquanto concederia mais flexibilidade a provedores menores, especialmente empresas de código aberto.
A lição fundamental é que a regulação deve ser abordada com cautela. Regras mal elaboradas e uniformes podem fazer mais mal do que bem, enquanto abordagens cuidadosamente calibradas e assimétricas podem oferecer um melhor equilíbrio entre segurança, inovação e concorrência.
