Pa. Senate aprova projeto de lei regulando chatbots de IA usados por crianças e adolescentes
Com o aumento da popularidade de chatbots de inteligência artificial não regulamentados e as preocupações sobre segurança, senadores estaduais aprovaram quase unanimemente um projeto de lei visando regular os chamados serviços de companheiros de IA.
Detalhes do Projeto de Lei
O projeto, patrocinado por um senador, estabelece uma série de salvaguardas limitadas para os operadores de serviços de chatbot, definidos como algoritmos de IA generativa que simulam relacionamentos humanos com o usuário. Algumas dessas medidas serão exigidas apenas quando o operador souber ou suspeitar que um usuário é menor de idade. No entanto, não exige explicitamente a verificação de idade.
Preocupações com a Segurança
O senador ressaltou que esses sistemas são projetados para simular a interação humana e, para usuários vulneráveis, podem parecer muito reais. Ele destacou que, quando um jovem começa a depender de uma máquina para apoio emocional sem as devidas salvaguardas, as consequências podem ser devastadoras. O projeto de lei exige que todos os operadores de companheiros de IA tomem medidas para garantir que seus produtos não promovam autolesão, suicídio ou violência contra os outros.
Requisitos para Operadores de Chatbots
Os operadores deverão fornecer aos usuários recursos do mundo real, como números de linhas de apoio, se um usuário discutir autoagressão. Quando houver razões para acreditar que um usuário é menor de idade, o projeto exigirá que os operadores notifiquem os usuários de que não são humanos, lembrem-nos disso a cada três horas e sugiram que façam uma pausa. Além disso, será proibido gerar conteúdo visual sexualmente explícito ou encorajar ações sexualmente explícitas para usuários conhecidos como menores.
Implicações e Penalidades
Qualquer chatbot oferecido a menores deverá notificar os usuários de que pode não ser adequado para pessoas com menos de 18 anos. O projeto direciona o escritório do Procurador Geral do estado para fazer cumprir a lei e permitirá penalidades civis de até $10.000 para operadores de serviços de IA que violarem as regras.
Próximos Passos
A proposta ainda precisa ser aprovada pela Câmara controlada pelos democratas e assinada pelo governador para se tornar lei. O governador já declarou que está buscando formas de regular os serviços de chatbot de IA.
