Oregon busca regular chatbots de IA
Legisladores que “perderam a oportunidade” de regular as mídias sociais agora têm a chance de abordar os efeitos da próxima tecnologia emergente sobre os jovens, afirmam legisladores de Oregon.
A senadora e a comissão que ela preside estão defendendo um projeto de lei para regular chatbots de inteligência artificial. A proposta exige que programas de IA, como chatbots, lembrem os usuários com mais frequência que estão interagindo com uma ferramenta de inteligência artificial e não com um humano.
Avaliação do uso de IA entre adolescentes
O uso de IA entre adolescentes está se tornando cada vez mais comum, com uma porcentagem significativa utilizando companheiros de IA. Pesquisas mostram que muitos adolescentes consideram conversas com chatbots tão satisfatórias quanto, ou até mais do que, interações na vida real.
Os chatbots de IA estão sendo usados como companheiros para suporte emocional ou para discutir saúde mental. No entanto, esses sistemas frequentemente não conseguem perceber sinais sutis que um humano poderia detectar.
Foco na prevenção ao suicídio
Além do acesso juvenil, a intenção do projeto de lei é proteger qualquer pessoa que expresse tendências suicidas. A legislação exige que programadores desenvolvam protocolos para detectar sinais de ideação suicida e fornecer referências a linhas de apoio.
As plataformas devem interromper imediatamente a conversa entre o chatbot e o usuário ao identificar esses sinais, além de disponibilizar publicamente os protocolos de segurança.
Implicações e riscos
Embora haja apoio ao projeto, surgem preocupações sobre a necessidade de requisitos de notificação mais frequentes do que em outras legislações estaduais. O projeto pode enfrentar desafios legais se aprovado devido a uma ordem executiva anterior que limita a regulação estadual de serviços de IA.
Legisladores expressam a urgência de estabelecer limites em ferramentas de IA, visando garantir a segurança dos jovens e prevenir situações de risco, especialmente em um cenário onde as mídias sociais não conseguiram proteger adequadamente as crianças.
Conclusão
A proposta de lei em Oregon representa um esforço significativo para regular o uso de chatbots de IA, abordando preocupações sobre o impacto na saúde mental dos jovens e buscando garantir um uso mais responsável dessa tecnologia emergente.
