Analisando as Novas Leis sobre Chatbots Acompanhantes de IA
As empresas que operam chatbots acompanhantes na Califórnia ou em Nova York estão sujeitas a novas obrigações legais, incluindo a necessidade de fornecer avisos aos usuários e garantir que protocolos estejam em vigor para prevenir automutilação.
Em 1º de janeiro de 2026, a lei de chatbots acompanhantes da Califórnia entrou em vigor após ser assinada em 13 de outubro de 2025. A lei impõe certas obrigações aos operadores de chatbots acompanhantes para implementar salvaguardas “críticas, razoáveis e alcançáveis” focadas na proteção de menores. Essa lei segue o estatuto de Modelos de IA Acompanhantes de Nova York, que entrou em vigor em 5 de novembro de 2025.
Contexto
Com a IA permeando quase todos os aspectos de nossas vidas tecnológicas, os chatbots são uma das formas mais acessíveis de tecnologia impulsionada por IA. Os “chatbots acompanhantes” são projetados para interagir de forma semelhante aos humanos, baseando-se em hábitos e preferências aprendidos dos usuários. No entanto, há preocupações crescentes entre diversos stakeholders sobre como os indivíduos interagem com esses chatbots e as possíveis consequências sociais.
Embora outros estados tenham promulgado estatutos exigindo que chatbots divulguem que são IA em certas circunstâncias, Nova York foi o primeiro a impor obrigações adicionais aos operadores de chatbots acompanhantes. Essa legislação foi criada principalmente para proteger os jovens, dado o uso crescente de chatbots acompanhantes para suporte emocional ou mental.
Comparação entre os Estatutos de Nova York e Califórnia
A seguir, são apresentadas as definições, obrigações legais e mecanismos de aplicação delineados nas leis de Nova York e Califórnia.
- Definição de Operador: Na Califórnia, um “operador” é a pessoa que disponibiliza uma plataforma de chatbot acompanhante ao usuário no estado. Em Nova York, é definido como qualquer pessoa ou entidade que opere um chatbot acompanhante.
- Definição de Chatbot Acompanhante: Em ambas as leis, um chatbot acompanhante é um sistema de IA projetado para simular um relacionamento humano com um usuário, mantendo interações baseadas nas preferências do usuário. Existem exceções para chatbots utilizados exclusivamente para atendimento ao cliente ou propósitos operacionais de negócios.
- Obrigações de Notificação ao Usuário: Em ambos os estados, os operadores devem fornecer um aviso claro e visível que indique que o usuário está interagindo com uma IA e não com um humano.
- Obrigações Específicas para Menores: A lei da Califórnia exige que os operadores notifiquem os menores sobre a natureza da interação com a IA e implementem medidas para evitar que o chatbot produza conteúdo prejudicial.
- Protocolos de Transparência: Ambos os estados exigem que os operadores mantenham protocolos para detectar e abordar ideação suicida ou expressões de automutilação por parte dos usuários.
Implicações
As empresas devem avaliar suas ofertas de chatbots e determinar se se enquadram na definição de “operador” sob as leis relevantes. Para garantir a conformidade e evitar possíveis ações regulatórias, as empresas devem implementar protocolos de transparência e garantir que os avisos sobre a natureza artificial dos chatbots sejam claros e visíveis.
Conclusão
Com a crescente popularidade dos chatbots acompanhantes, é crucial que as empresas adotem práticas responsáveis e cumpram as novas leis para proteger os usuários, especialmente os mais vulneráveis. A conformidade não é apenas uma questão legal, mas também uma responsabilidade ética no uso da tecnologia.
