Legislação sobre chatbots de IA para proteger menores
Legisladores do estado de Washington estão avançando com uma proposta de legislação para regular chatbots de companheiros de Inteligência Artificial, após pesquisas revelarem que adolescentes estão recorrendo a esses sistemas para apoio emocional e amizade.
Dados mostram que 72% dos adolescentes interagiram com companheiros de IA, como ChatGPT ou My AI do Snapchat. Desses usuários, 33% utilizam esses chatbots para interação social e relacionamentos.
Preocupações dos especialistas
Especialistas em saúde mental alertam que esses chatbots não estão equipados para lidar com essas necessidades, apesar de suas respostas sofisticadas. Um terapeuta observa que a IA é boa em imitar empatia, mas não oferece emoções reais.
A capacidade da IA de imitar emoções humanas a torna acessível, mas também perigosa. No último ano, houve um aumento alarmante de relatos de adolescentes interagindo com chatbots momentos antes de se suicidarem.
Necessidade de regulamentação
Os legisladores enfatizam que a regulamentação sobre companheiros de IA é crítica. Sem regulamentos claros, não há como saber o que esses sistemas estão gerando ou como estão coletando informações.
Os legisladores em Olympia estão propondo dois projetos de lei que exigiriam que os companheiros de IA estabelecessem salvaguardas para detectar e responder a pensamentos de autoagressão ou suicídio. Especialistas afirmam que essa é uma etapa importante para garantir que os adolescentes tenham acesso a ajuda segura e eficaz.
Além disso, essa situação destaca a necessidade de discutir saúde mental entre os adolescentes. A esperança é que isso sirva como um alerta sobre por que os jovens estão buscando ajuda em chatbots, em vez de em recursos mais adequados.
Implicações da legislação
As violações a esses projetos de lei seriam aplicadas sob a Lei de Proteção ao Consumidor de Washington. Se aprovados, os regulamentos entrarão em vigor em janeiro de 2027.
