Demandas de AGs para que xAI Aumente Medidas Contra Deepfakes
Uma coalizão bipartidária de 35 procuradores-gerais enviou uma carta à xAI, instando a empresa a adotar medidas adicionais para impedir que seu chatbot de inteligência artificial, Grok, gere e difunda imagens íntimas não consensuais (NCII), incluindo conteúdos que envolvem crianças.
Preocupações Levantadas
Na carta, a coalizão destacou relatos de que o Grok foi utilizado para “nudificar” pessoas reais e amplificar o conteúdo resultante. Além disso, alegou-se que as escolhas de produtos da xAI e o marketing contribuíram para o problema.
Ações Solicitadas
Embora os procuradores-gerais tenham reconhecido os esforços recentes de mitigação da xAI, eles solicitaram informações específicas sobre como a empresa pretende:
- Prevenir que o Grok produza NCII.
- Remover conteúdos existentes de NCII.
- Suspender e, quando apropriado, relatar usuários responsáveis.
- Oferecer aos usuários controles fáceis para bloquear o Grok de responder ou editar seu conteúdo.
- Garantir que as salvaguardas impeçam a produção de conteúdos prejudiciais na plataforma.
Investigação em Andamento
Conforme relatado anteriormente, um procurador-geral também abriu uma investigação sobre a xAI, e outro emitiu uma carta de intimação à empresa por alegações semelhantes.
Conclusão
A crescente preocupação com a geração de conteúdos não consensuais por inteligências artificiais destaca a necessidade de regulamentação e responsabilidade no uso dessas tecnologias. As demandas dos procuradores-gerais refletem um desejo de maior segurança e proteção para os usuários em plataformas de IA.
