Medida da Califórnia Protegeria Crianças que Usam Chatbots de IA
Um grupo líder em defesa da segurança infantil se uniu a uma empresa de inteligência artificial para promover uma iniciativa de votação em todo o estado, que, segundo eles, seria a mais abrangente medida de segurança em inteligência artificial para crianças no país.
Se a medida for colocada na votação em novembro e aprovada pelos eleitores da Califórnia, a Lei de Segurança de IA para Pais e Crianças exigiria que as empresas adotassem um conjunto de requisitos destinados a proteger os menores dos efeitos potencialmente prejudiciais associados ao uso de IA, autorizando também o procurador-geral do estado a fazer cumprir essas regras.
Contexto e Necessidade de Medidas de Segurança
O interesse público na segurança online das crianças, especialmente em relação à IA, tem crescido ao longo dos anos, em parte devido a incidentes trágicos. Um exemplo é o caso de um jovem cuja família processou uma empresa de IA, alegando que seu filho foi influenciado pelo chatbot da empresa antes de cometer suicídio.
Requisitos da Proposta
A Lei de Segurança de IA para Pais e Crianças exigiria que as empresas de IA utilizassem tecnologia de verificação de idade para determinar se os usuários são menores. Além disso, a proposta visa evitar que crianças e adolescentes desenvolvam dependência emocional ou se envolvam em relações românticas simuladas com sistemas de IA, além de garantir que não sejam expostos a conteúdo gerado por IA que promova automutilação, distúrbios alimentares, violência e atos sexualmente explícitos.
A lei também proíbe a publicidade direcionada a menores e a venda de dados de menores sem o consentimento dos pais. Além disso, os pais teriam controle para monitorar ou limitar o uso de IA por seus filhos e receber alertas se seus filhos apresentassem sinais de automutilação.
Auditorias e Penalidades
A proposta também exigiria que as empresas de IA passassem por auditorias de segurança independentes e realizassem avaliações anuais de risco à segurança infantil. O procurador-geral teria a capacidade de investigar e impor penalidades financeiras às empresas que não cumprissem as normas estabelecidas.
Importância e Implicações da Iniciativa
A proposta representa um esforço para estabelecer diretrizes que protejam as crianças em uma era cada vez mais dominada pela inteligência artificial. Um dos defensores da medida comparou-a a “cintos de segurança sociais para a era da IA”.
Os apoiadores da iniciativa têm até uma data específica para coletar as assinaturas necessárias para levar a proposta à votação em novembro.
