Nova Proposta de Proibição de Brinquedos com Chatbots Levanta Questões sobre Regulamentações de Chatbots
Após uma série de processos judiciais contra empresas de IA relacionados à possível participação de suas plataformas em incentivar suicídios e outros comportamentos criminosos, o senador Steve Padilla apresentou uma proposta que proíbe, até 01/01/2031, a venda, troca ou posse com a intenção de vender ou trocar para um varejista um brinquedo que inclui um chatbot acompanhante.
Um “brinquedo” é definido como um produto projetado ou destinado pelo fabricante para uso em brincadeiras por crianças de 12 anos ou menos.
Questões de Regulamentação
Essa proposta levanta a questão: uma moratória sobre um produto ou serviço passível de uso indevido é uma estratégia eficaz para a regulamentação?
Alguns estados já têm leis que regulam bots acompanhantes. Uma dessas leis exige:
- Notificações claras ao indivíduo de que ele está interagindo com um bot, e não com um humano;
- Que o chatbot acompanhante interaja com os usuários apenas se mantiver um protocolo para prevenir a produção de ideação suicida ou conteúdo de automutilação, incluindo, mas não se limitando a, fornecer uma notificação que encaminhe o usuário a um prestador de serviços de crise.
Exigências para Menores
Para menores, a lei também exige:
- Lembrar o usuário a cada três horas para fazer uma pausa e que o acompanhante não é humano;
- Instituir medidas razoáveis para prevenir que o chatbot produza material visual de conduta sexualmente explícita.
A partir de 2027, haverá também uma exigência de relatórios anuais para um órgão de prevenção ao suicídio.
Outra lei semelhante em um estado exige esforços razoáveis para detectar e abordar a ideação suicida ou expressões de automutilação manifestadas pelo usuário ao chatbot acompanhante, assim como lembretes a cada três horas, não se limitando apenas a menores.
Essa legislação é aplicável pelo Procurador Geral, enquanto a lei do outro estado permite uma ação privada.
