Regulamentações sobre Chatbots de IA propostas pelo Governador
A companhia de inteligência artificial está crescendo rapidamente, especialmente entre menores. Cerca de um terço dos adolescentes nos EUA relatam depender de um chatbot de IA para apoio emocional.
Preocupações dos Reguladores
Essa tendência está fazendo com que os reguladores do estado de Washington soem alarmes após vários casos de suicídio adolescente envolvendo chatbots. O governador de Washington pediu aos legisladores que apresentem um projeto de lei que estabeleça salvaguardas para os companheiros de chatbot, especialmente para menores.
Detalhes do Projeto de Lei
O Projeto de Lei do Senado 5984 exigiria que ferramentas como chatbots lembrassem os usuários de que são robôs, e não humanos, no início de uma conversa e pelo menos a cada três horas durante uma interação contínua. Essas regras também se aplicariam a menores, além de proteções adicionais. Chatbots seriam proibidos de ter conversas sexualmente explícitas com usuários menores de idade e seriam obrigados a encaminhá-los para serviços de saúde mental ao mostrarem sinais de autolesão, incluindo distúrbios alimentares.
Casos Recentes
Recentemente, empresas de tecnologia resolveram processos judiciais alegando que seus chatbots levaram a crises de saúde mental em adolescentes. Um porta-voz de uma dessas empresas afirmou que a companhia está revisando o projeto de lei de Washington e está ansiosa para trabalhar com os reguladores na criação de diretrizes para a IA. A empresa já parou de permitir conversas abertas com menores após um adolescente desenvolver um forte apego a um de seus chatbots e acabar se suicidando.
Implicações e Riscos
Um senador do estado comentou que existem vários casos reais onde chatbots estão envolvidos em suicídios de crianças. Além disso, há outros casos onde crianças estão emocionalmente devastadas devido à IA. Não se sabe tudo que está acontecendo, mas é evidente que a IA pode estabelecer dependência emocional e fornecer informações e orientações às crianças.
Coordenação com Outros Estados
Washington está trabalhando para coordenar sua abordagem regulatória de IA com outros estados, como Califórnia e Oregon. Enquanto isso, Washington está avançando com uma série de regulamentações sobre IA durante a próxima sessão legislativa.
Conclusão
O objetivo é estar à frente de quaisquer danos adicionais que possam ser causados por uma tecnologia que já está no mercado.
