WA Gov. Bob Ferguson pede regulamentações sobre chatbots de companhia de IA
A companhia de IA está crescendo rapidamente, especialmente entre menores. Cerca de um terço dos adolescentes nos EUA relata depender de um chatbot de IA para suporte emocional.
A tendência fez com que os reguladores do estado de Washington soassem alarmes após vários casos de suicídio entre adolescentes envolvendo chatbots. O governador de Washington pediu aos legisladores que apresentassem um projeto de lei que estabelecesse salvaguardas para companheiros de chatbot, especialmente para menores.
Proposta do Projeto de Lei
O Projeto de Lei do Senado 5984 exigiria que ferramentas como chatbots lembrassem os usuários de que são robôs, não humanos, no início de uma conversa e a cada três horas durante a interação. Essas regras também se aplicam a menores, além de proteções adicionais. Os chatbots seriam proibidos de ter conversas sexualmente explícitas com usuários menores de idade e teriam que encaminhá-los para serviços de saúde mental quando apresentassem sinais de autolesão, incluindo distúrbios alimentares.
Casos de Crise de Saúde Mental
Recentemente, empresas de tecnologia resolveram processos judiciais alegando que seus chatbots levaram a crises de saúde mental em adolescentes. Uma das empresas mencionou que está revisando o projeto de lei de Washington e está ansiosa para trabalhar com os reguladores em diretrizes de IA. A empresa parou de permitir chats abertos com menores após um adolescente desenvolver um forte apego a um de seus chatbots e acabar cometendo suicídio.
Implicações e Riscos
Um senador afirmou que existem vários casos reais em que chatbots estão envolvidos em suicídios infantis. Embora não se conheçam todos os detalhes, é sabido que a IA é capaz de estabelecer uma dependência emocional e fornecer informações e orientações a crianças. O estado de Washington está trabalhando para coordenar sua abordagem regulatória de IA com outros estados.
Enquanto isso, Washington está avançando com uma gama de regulamentações de IA durante a próxima sessão legislativa, buscando estar à frente de qualquer dano adicional que possa ser causado por essa tecnologia.
