Quem Governa a IA do Futuro? Um Estudo Analisa Quem Define as Regras
No contexto da rápida expansão da inteligência artificial e do debate sobre como deve ser regulamentada, um estudo analisa uma questão-chave: quem estabelece as regras e através de qual infraestrutura.
Modelo de Governança e Identidade Digital
O estudo foca em como certas iniciativas tecnológicas não apenas oferecem serviços, mas também promovem modelos de governança baseados em identidade digital privada e sistemas de dados biométricos. Um caso em análise é um projeto que propõe verificar se um usuário é humano por meio da digitalização da íris, em troca de um certificado de identidade digital.
Narrativas de Futuro e Implicações
Essas iniciativas conectam narrativas sobre riscos futuros, como bots, fraudes e impersonificação, com promessas de segurança e inclusão, facilitando a evolução de cenários especulativos em infraestrutura real. O debate sobre a IA não é apenas tecnológico, mas também sobre os futuros que essas tecnologias criam e quem as governará. Projetos desse tipo não oferecem apenas uma ferramenta, mas propõem um modelo de governança que pode erodir a legitimidade das instituições democráticas.
Ficções Sociotécnicas
O conceito de “ficções sociotécnicas” é introduzido para descrever essas narrativas futuras que, quando apresentadas como inevitáveis, podem influenciar decisões sobre o design e a implementação tecnológica, com consequências políticas. Quando cenários futuros são enquadrados como inevitáveis, decisões técnicas com implicações políticas podem ser legitimadas.
Trajetória e Desafios
Essas narrativas ganham força quando:
- Apresentam cenários futuros como inevitáveis e urgentes.
- Tornam a tecnologia atraente por meio do design.
- Desencadeiam emoções como medo e esperança para gerar apoio social, criando a ilusão de que essas tecnologias são inevitáveis.
- Normalizam a noção de que funções de identidade e governança dependem de sistemas privados.
Conclusão
O estudo não avalia o impacto empírico do projeto sobre os usuários, mas oferece ferramentas para entender como certos imaginários do futuro podem moldar a infraestrutura digital e o debate público sobre identidade, biometria e governança da IA.
