PA Senado Aprova Regulamentação de Chatbots de IA Usados por Crianças e Adolescentes
Com o crescimento da popularidade de chatbots de inteligência artificial não regulamentados, que levantam preocupações sobre segurança, senadores estaduais aprovaram quase unanimemente um projeto de lei que visa regular os chamados serviços de companheiros de IA.
Proposta de Regulamentação
A proposta, patrocinada por um senador, estabelece uma série de salvaguardas limitadas para os operadores de serviços de chatbot, definidos como algoritmos de IA generativa que simulam relações humanas com o usuário. Algumas dessas medidas só serão exigidas quando o operador souber ou suspeitar que um usuário é menor de idade, mas não requer verificação de idade explicitamente.
Preocupações com a Segurança
O senador destacou que esses sistemas são projetados para simular a interação humana e, para usuários vulneráveis, podem parecer muito reais. Quando um jovem começa a depender de uma máquina para apoio emocional sem as devidas salvaguardas, as consequências podem ser devastadoras. O projeto exige que todos os operadores de companheiros de IA tomem medidas para garantir que seus produtos não promovam automutilação, suicídio ou violência contra outros. Além disso, eles devem fornecer recursos do mundo real, como números de linhas de crise, se um usuário discutir o desejo de se machucar.
Diretrizes para Operadores
Os operadores serão obrigados a publicar protocolos relacionados em seus sites acessíveis ao público. Quando houver razões para acreditar que um usuário é menor, o projeto exigirá que eles notifiquem os usuários de que não são humanos, lembrem-nos disso a cada três horas e sugiram que façam uma pausa. Os serviços usados por menores também serão proibidos de gerar conteúdo visual sexualmente explícito e de encorajar ações sexualmente explícitas.
Consequências para Violações
Qualquer chatbot oferecido a menores também deverá notificar os usuários de que pode não ser adequado para pessoas com menos de 18 anos. O projeto designa o escritório do Procurador-Geral do estado para fazer cumprir a lei e permitiria penalidades civis de até $10.000 para operadores de serviços de IA que a violarem.
Próximos Passos
Após a aprovação do projeto pelo Senado, ele ainda precisa ser aprovado pela Câmara e assinado pelo governador para se tornar lei. O governador já expressou interesse em encontrar maneiras de regular os serviços de chatbots de IA.
