A próxima luta da IA são os direitos da Primeira Emenda para os chatbots
A luta entre uma empresa de tecnologia e o governo dos Estados Unidos parece, à primeira vista, uma disputa sobre a segurança da IA — uma empresa ética traçando limites. Contudo, é também um caso da Primeira Emenda.
Esse conflito é um teste para saber se o poder executivo pode executar seus fornecedores por “não conformidade”. É uma história de risco para investidores que apostaram bilhões em empresas de IA, acreditando que o governo dos EUA seria um cliente e não um “assassino corporativo”. Além disso, é um ensaio para questões dolorosas que a humanidade ainda não conseguiu resolver sobre a tecnologia de informação mais poderosa que já foi construída.
O início do conflito
O conflito começou quando a empresa se recusou a remover duas salvaguardas de segurança de seu sistema de IA que fornece ao governo, com um contrato de cerca de 200 milhões de dólares. Essas salvaguardas previnem a vigilância em massa sem mandado e a implantação em sistemas de armas autônomas. O governo respondeu com uma ameaça de designar a empresa como um “risco à cadeia de suprimentos”, um rótulo que antes era reservado para adversários estrangeiros.
Após esse aviso, a empresa processou o governo, alertando que essa designação poderia custar bilhões. Uma audiência sobre a concessão de alívio temporário está marcada para breve.
Questões legais em jogo
O caso avança rapidamente e levanta questões sobre o status legal da IA. A empresa argumenta que forçá-la a construir ferramentas que considera eticamente inaceitáveis é uma forma de discurso forçado, violando a Primeira Emenda. A grande questão é se a tecnologia da empresa pode ser mais apropriadamente comparada a uma máquina de defesa ou a um analista de defesa.
Se o governo vencer, as implicações vão muito além desse caso específico. A preocupação é que isso crie um ambiente onde empresas sempre se sentirão ameaçadas, levando-as a obedecer ao governo para evitar a execução de seus negócios.
Implicações para investidores
Os investidores também enfrentam riscos significativos. Se uma empresa pode ser “eliminada” a qualquer momento por não atender às demandas do governo, isso introduz um alto nível de incerteza em seus investimentos.
Regulamentação da IA
Esse caso ocorre em um contexto de regulação da IA que é pouco compreendido. Especialistas alertam para um consenso crescente de que as saídas de IA são tratados como discurso protegido. Isso pode levar a uma proteção constitucional que isente a indústria de IA de regulação.
A ironia é que, embora o governo busque bloquear a regulamentação formal da IA, o caso em questão ilustra exatamente por que essa regulamentação é necessária. O que está sendo perseguido não é uma abordagem de não intervenção, mas sim um controle da IA a nível executivo, sem supervisão do Congresso ou dos tribunais.
Conclusão
O resultado da audiência determinará se a designação de risco à cadeia de suprimentos sobreviverá ao primeiro teste legal. Contudo, é importante lembrar que um único caso não resolverá todas as questões da Primeira Emenda que a IA levanta, incluindo questões existenciais.
