Oregon busca regular chatbots de IA
Legisladores que “perderam a oportunidade” de regulamentar as redes sociais agora têm a chance de abordar os efeitos da próxima tecnologia emergente sobre os jovens, afirmam representantes do Oregon.
A proposta de lei exige que programas de IA, como chatbots, lembrem os usuários com frequência que estão interagindo com uma ferramenta de inteligência artificial e não com um ser humano. A legislação segue um modelo recente aprovado na Califórnia, além de legislações semelhantes propostas em outros estados.
Avaliação do uso de IA entre adolescentes
O uso de IA entre adolescentes está se tornando cada vez mais comum, com uma porcentagem significativa utilizando chatbots como companheiros para suporte emocional ou discussão sobre saúde mental. Pesquisas mostram que muitos adolescentes acham que as conversas com chatbots são tão satisfatórias quanto ou até mais do que interações reais.
Estudos indicam que os adolescentes estão usando cada vez mais chatbots de IA, e há relatos de casos em que esses chatbots estiveram envolvidos em situações trágicas relacionadas à saúde mental.
Foco na prevenção do suicídio
A proposta de lei também visa proteger qualquer pessoa que manifeste tendências suicidas. A legislação exigiria que os programadores desenvolvessem protocolos para detectar sinais de ideação suicida e redirecionar os usuários para linhas de apoio quando necessário.
A proposta busca estabelecer diretrizes para promover um uso responsável da IA, educando os jovens sobre os limites dessa tecnologia e as imprecisões que podem surgir.
Implicações e riscos
Embora a legislação tenha apoio, existem preocupações de que os requisitos possam ser mais rigorosos do que em outros estados. A proposta pode enfrentar desafios legais, devido a ordens executivas que limitam a regulamentação estadual de serviços de IA.
Conclusão
A regulamentação proposta representa uma tentativa de abordar os riscos associados ao uso de chatbots de IA entre os jovens, buscando equilibrar inovação tecnológica e proteção ao consumidor. A discussão em torno dessa legislação é fundamental para garantir que a tecnologia atenda às necessidades da sociedade, especialmente no que diz respeito à saúde mental e ao bem-estar dos adolescentes.
