Prevenindo a Politização da Segurança em IA
Na sociedade americana contemporânea, questões tornam-se politicizadas quase por padrão. Temas como a saúde pública, que historicamente eram neutros, agora são alvo de extrema animosidade política.
Felizmente, a segurança em IA tem, até agora, evitado essa tendência. Embora existam movimentos vocais em cada lado da questão, os principais partidos políticos não têm posições claras sobre o assunto.
Se a segurança em IA se tornar uma questão partidária, há o potencial para resultados muito ruins. No pior cenário, se um partido se opõe completamente às medidas de segurança em IA, então, a longo prazo, há pouca esperança de evitar perigos provenientes de modelos autônomos ou modelos que permitam ações de atores mal-intencionados. Portanto, prevenir a politicização da segurança em IA é uma prioridade urgente.
Principais Conclusões
A seguir, estão as sugestões que parecem ser as mais importantes ou pouco exploradas:
- Buscar uma relação neutra com a comunidade de ética em IA, sem funcionar como parte do mesmo movimento nem parecer oposta a ele.
- Criar um banco de dados de incidentes confidencial para os laboratórios de IA.
- Realizar fóruns deliberativos com especialistas.
- Obter conselhos adicionais de especialistas sobre a politicização.
Quão Séria Seria a Politização?
O perigo na politicização é que a oposição à segurança em IA se torne parte da ideologia de um partido. Contudo, quão extrema seria essa oposição e até que ponto é provável que seja implementada na legislação?
Um quadro relevante é o modelo de equilíbrio pontuado de Baumgartner e Jones, que sugere que as questões podem estar em um de dois estados:
- Subsistema de Política Fechada: Um pequeno conjunto de atores (agências, comitês, grupos de interesse) domina uma questão, definindo-a em termos tecnocráticos e não controversos. Nessa fase, ajustes incrementais são implementados na política.
- Arena Macropolítica: A questão torna-se objeto de debate partidário. Mudanças políticas súbitas e dramáticas ocorrem com base em justificativas ideológicas.
Fatores que podem mover uma questão para a arena macropolítica incluem eventos dramáticos, reformulação da mídia com uma nova narrativa moral ou simbólica, e movimentos sociais ou coalizões de defesa.
Por exemplo, a questão do controle de armas antes da década de 1980 era principalmente enquadrada como uma questão de prevenção de crimes e segurança pública. Somente após a convenção da NRA em 1977, onde a NRA mudou seu foco para defender o direito de portar armas, a questão tornou-se um debate político profundamente partidário.
Analogamente, se a segurança em IA se tornar altamente politicizada, há potencial para mudanças extremas nas políticas e, em particular, para o enfraquecimento desastroso das regulamentações de segurança em IA.
Prevenindo a Politização
O que podemos fazer para tornar a politicização menos provável? Aqui estão algumas sugestões tentativas:
Enquadramento e Apresentação
Use uma linguagem clara e universal. Apresente a questão em termos diretos e universais, aludindo a valores compartilhados, como a preocupação com as gerações futuras. Sempre que possível, enquadre a questão como um problema técnico.
Evite associação com questões culturais existentes. A mídia tenta constantemente encaixar novas questões em molduras retóricas existentes. Devemos estar atentos a molduras como “socialismo vs. capitalismo” e “Silicon Valley vs. Washington”.
O campo da ética em IA é frequentemente associado à esquerda, e essa associação pode ser uma das rotas mais plausíveis para a politicização a curto prazo.
Medidas Objetivas
Desenvolver avaliações de segurança padronizadas pode fornecer dados objetivos que informam discussões.
Disseminação de Informações entre Laboratórios. Compartilhar informações de segurança entre laboratórios é valioso, pois especialistas em segurança em IA terão uma visão mais ampla e haverá menos oportunidade para diferentes laboratórios apoiarem diferentes narrativas partidárias.
Esforços por Parte de Especialistas. Quando soluções e padrões podem ser elaborados por especialistas antes que uma questão entre na arena política, há uma chance melhor de evitar a politicização.
Fóruns Deliberativos de Especialistas
Fóruns deliberativos reúnem especialistas e cidadãos para discutir uma questão complexa antes que ela se torne um debate partidário. Esses fóruns podem ajudar a moldar o enquadramento do problema e fornecer legitimidade para políticas subsequentes.
Conclusão
Como mencionado no início, não sou um especialista em politicização, e todas essas sugestões são tentativas. Acredito que há um grande potencial para trabalho produtivo nessa área, e espero que a comunidade possa se apoiar em especialistas em comunicação política para navegar com habilidade neste domínio.
