OpenAI Apoia Medida de Segurança em IA para Jovens na Califórnia
OpenAI confirmou seu apoio a uma proposta de medida para votação na Califórnia sobre a segurança da IA para jovens. A proposta surge em resposta a preocupações crescentes sobre como crianças interagem com ferramentas de IA, destacando a necessidade de padrões de segurança mais robustos à medida que a IA se torna mais utilizada por audiências jovens.
Requisitos da Proposta
A proposta exige que as ferramentas de IA utilizem tecnologias de estimativa de idade que preservem a privacidade, para distinguir entre usuários adultos e crianças. Além disso, deve haver controles parentais fáceis de usar, incluindo limites de tempo e proteções mais rigorosas para crianças com menos de 13 anos. A proposta também inclui a necessidade de desenvolver salvaguardas para evitar comportamentos prejudiciais, como dependência emocional e interações sexualizadas, e protocolos claros de resposta a crises para riscos de autoagressão e suicídio.
Aplicação da Medida
A medida, denominada “Lei de Pais e Crianças para uma IA Segura”, aplica-se a chatbots de IA e sistemas que simulam conversação, incluindo ferramentas já utilizadas por crianças e adolescentes. As empresas serão obrigadas a distinguir entre usuários adultos e menores, proibir publicidade direcionada a crianças e limitar a coleta, venda ou compartilhamento de dados de crianças sem o consentimento dos pais.
Implicações e Objetivos
Além das salvaguardas mencionadas, a medida introduzirá mecanismos de aplicação, incluindo auditorias independentes, avaliações anuais de risco e supervisão pelo Procurador-Geral da Califórnia, com penalidades financeiras por não conformidade. A proposta é vista como um modelo potencial para outros estados e para a legislação nacional sobre segurança de IA para crianças.
OpenAI também vincula a proposta a conversas mais amplas sobre alfabetização em IA e adoção a longo prazo. É fundamental que proteções sejam estabelecidas para que famílias e educadores se sintam seguros ao permitir que crianças utilizem essas ferramentas. A empresa enfatiza que, enquanto acredita fortemente no direito à privacidade para adultos, a segurança deve prevalecer para adolescentes.
