Lei de Chatbots Companheiros da Califórnia Agora em Vigor
Principais Conclusões
Uma legislação pioneira entrou em vigor na Califórnia no início do ano, impondo requisitos operacionais e de relatórios relacionados aos chatbots companheiros.
A lei se aplica apenas aos “chatbots companheiros” e exclui muitas ferramentas de atendimento ao cliente e operações comerciais, chatbots de videogame e assistentes ativados por voz.
Os operadores de chatbots companheiros cobertos devem implementar divulgações para usuários, protocolos de segurança para suicídio e autolesão e, quando souberem que um usuário é menor, outras salvaguardas adicionais.
A partir de 2027, os operadores de chatbots companheiros cobertos devem enviar relatórios anuais descrevendo referências a crises e protocolos de segurança relacionados a suicídio e autolesão.
Tipos de Chatbots Abrangidos
A Lei de Chatbots Companheiros da Califórnia não se aplica a todos os chatbots ou ferramentas de IA conversacional. Em vez disso, regula uma categoria mais restrita referida como “chatbots companheiros”. Estes são chatbots que respondem aos usuários com respostas adaptativas e semelhantes às humanas, projetados para engajar os usuários de maneiras que atendem a necessidades sociais ou emocionais.
Chatbots que não atendem a esses critérios, seja porque não sustentam um relacionamento ao longo de várias interações ou não são capazes de suscitar engajamento emocional ou social, não se enquadram na definição da lei e não estão sujeitos a seus requisitos.
A lei enfatiza ainda mais seu foco restrito ao excluir explicitamente os seguintes agentes de IA da definição de “chatbots companheiros”:
- Chatbots de atendimento ao cliente. Chatbots usados exclusivamente para atendimento ao cliente, operações comerciais, produtividade ou análise de informações são excluídos.
- Chatbots de videogame. Chatbots que operam dentro de videogames são excluídos somente se suas respostas se limitam a informações sobre o videogame.
- Assistentes ativados por voz. Dispositivos eletrônicos de consumo que funcionam como um alto-falante e interface de comando de voz são excluídos.
Requisitos Operacionais Principais
A Lei de Chatbots Companheiros impõe requisitos operacionais que se aplicam ao operador de um chatbot companheiro coberto. Alguns requisitos se aplicam a todos os usuários, enquanto outros se aplicam apenas quando o operador sabe que um usuário é menor.
- Divulgação obrigatória. Se uma pessoa razoável poderia ser enganada a acreditar que está interagindo com um humano, o operador do chatbot companheiro deve fornecer uma notificação clara e visível aos usuários de que estão interagindo com um sistema de IA.
- Protocolos de segurança obrigatórios. O operador de um chatbot coberto deve implementar um protocolo para evitar que o chatbot produza conteúdo relacionado à ideação suicida, suicídio ou autolesão.
- Divulgação de adequação para menores. O operador deve incluir uma divulgação informando que o chatbot pode não ser adequado para alguns menores.
- Requisitos adicionais para menores. Quando o operador souber que um usuário é um menor, deve implementar salvaguardas adicionais.
Obrigações de Relatório e Transparência
Além dos requisitos operacionais, a Lei de Chatbots Companheiros impõe obrigações contínuas de transparência ao operador de um chatbot companheiro coberto.
A partir de 1º de julho de 2027, o operador deve relatar anualmente ao Escritório de Prevenção do Suicídio da Califórnia sobre: (1) o número de vezes que o operador fez uma notificação de referência a um prestador de serviços de crise; (2) os protocolos implementados para detectar, remover e responder a instâncias de ideação suicida; e (3) os protocolos para proibir respostas do chatbot companheiro relacionadas à ideação suicida.
Considerações sobre Aplicação e Responsabilidade
A Lei de Chatbots Companheiros cria um direito de ação civil expresso, permitindo que um usuário processe um operador que viole os requisitos da lei.
Olhando para o Futuro
As empresas que disponibilizam chatbots devem avaliar sua funcionalidade para determinar se a Lei de Chatbots Companheiros se aplica e, se sim, implementar as mudanças operacionais necessárias para cumprir seus requisitos.
Embora essa seja uma legislação pioneira, é improvável que seja a última, e as empresas devem esperar um contínuo experimento entre os estados à medida que os reguladores exploram diferentes abordagens para regular a IA conversacional.
