ICO inicia investigação sobre alegações de imagens sexuais geradas por IA
A ICO lançou uma investigação formal sobre uma plataforma de mídia social após alegações de que sua ferramenta de IA, utilizada para gerar imagens sexuais não consensuais, foi empregada de maneira inadequada. As autoridades francesas também realizaram uma operação nos escritórios da empresa em Paris, levantando preocupações criminais relacionadas.
Investigação da ICO
A autorreguladora de proteção de dados do Reino Unido abriu uma investigação formal após relatos de que a ferramenta de IA gerou imagens sexualmente explícitas usando dados de pessoas reais, geralmente mulheres, sem seu consentimento. A ICO está avaliando se os dados pessoais foram processados de forma legal, justa e transparente.
Após críticas públicas de vítimas e defensores da segurança online, a empresa afirmou que tomou medidas para restringir essa prática. A ICO expressou preocupação com a possibilidade de que falhas no processamento de dados pessoais poderiam expor indivíduos a danos significativos, especialmente crianças.
Investigação na França
A investigação no Reino Unido coincide com um aumento da pressão sobre a empresa na Europa. Autoridades francesas confirmaram que realizaram buscas em escritórios da empresa em Paris, parte de uma investigação criminal iniciada após alegações de que algoritmos tendenciosos poderiam ter distorcido sistemas automatizados de processamento de dados.
As autoridades estão examinando se a empresa cometeu várias infrações, incluindo a cumplicidade na posse ou distribuição organizada de material de abuso sexual infantil. A empresa expressou desapontamento com a operação, chamando-a de “ataque político” e negando qualquer irregularidade.
Implicações e riscos
A investigação da ICO, em colaboração com o regulador de comunicações do Reino Unido, é vista como uma questão urgente. No entanto, o regulador de comunicações reconheceu que não possui poderes suficientes para investigar diretamente imagens ilegais geradas por chatbots, levando a ICO a liderar a investigação sob a perspectiva de proteção de dados.
Se as infrações forem confirmadas, a ICO pode impor multas significativas, que podem chegar a valores consideráveis ou até uma porcentagem do faturamento global da empresa.
Conclusão
O crescente escrutínio sobre o uso de tecnologias de IA e a proteção de dados pessoais levanta questões críticas sobre a responsabilidade das plataformas digitais em garantir que suas ferramentas não causem danos. À medida que as investigações se desenrolam, a necessidade de regulamentações mais rigorosas e práticas de proteção de dados se torna cada vez mais evidente.
