A Regulação de IA da OpenAI Enfrenta Críticas Sobre Segurança Infantil
A iniciativa de IA da OpenAI gerou protestos e levantou preocupações sobre a segurança infantil.
Mais de 20 organizações prepararam uma carta conjunta e a enviaram à empresa, citando lacunas potenciais nas proteções legais para famílias caso crianças sejam prejudicadas.
Conflito em Torno da Regulação de IA e Riscos para Usuários
A questão gira em torno do projeto de lei “Pais e Crianças em Segurança com IA”, que a OpenAI apoia. Este projeto visa estabelecer regras sobre como os chatbots interagem com menores, incluindo padrões de segurança e conformidade.
No entanto, mais de duas dúzias de organizações, incluindo grupos de direitos civis, afirmaram em uma carta conjunta que o documento apresenta sérias falhas, pedindo à empresa que retire completamente a iniciativa e deixe a regulação para os legisladores.
Críticos apontam para várias questões-chave, como uma definição excessivamente restrita de dano, que cobre apenas consequências físicas; limitações na capacidade das famílias de processar em caso de danos a crianças; ferramentas de supervisão enfraquecidas para agências governamentais; e a dificuldade de fazer alterações no futuro, que exigiria uma votação de dois terços dos legisladores.
Outro ponto de preocupação é a abordagem em relação aos dados dos usuários, com críticas à tentativa de bloquear famílias de divulgar os registros de bate-papo de crianças falecidas em tribunal.
Pressão Crescente Sobre a OpenAI
A situação se desenrola em meio a críticas a empresas de tecnologia. Recentemente, a família de um usuário processou uma grande empresa alegando que um chatbot contribuiu para comportamentos perigosos.
Além disso, a OpenAI adiou o lançamento do recurso “modo adulto” no ChatGPT por pelo menos um mês, reconhecendo a necessidade de testes adicionais e refinamento, devido a riscos potenciais para menores.
A pressão sobre a OpenAI aumenta à medida que as preocupações sobre a segurança dos usuários se intensificam, refletindo um padrão mais amplo de lobby por parte de grandes empresas de tecnologia que buscam moldar as regras que regulamentam seus produtos.
