Pennsylvania aprova regulamentação de chatbots de IA
A legislação da Pensilvânia avançou com uma proposta abrangente sobre inteligência artificial que pode alterar a forma como os jovens utilizam essa tecnologia. O Senado aprovou o ato “Protegendo Adolescentes de Chatbots Exploratórios e Tecnologia de IA Prejudicial” com um voto de 49 a 1. Esta é a primeira lei do estado a regular de forma abrangente os chatbots de IA e agora segue para consideração na Câmara.
Diretrizes para tecnologia de IA
A legislação estabelece várias diretrizes para a tecnologia de IA disponível para crianças. Se se tornar lei, os operadores de IA precisarão divulgar o status não humano de um chatbot “se uma pessoa razoável interagisse com um companheiro de IA e fosse levada a acreditar que está interagindo com um ser humano.” Os operadores também deverão lembrar os usuários de fazer uma pausa na tecnologia a cada três horas.
Contexto e Motivações
A proposta foi patrocinada após a morte de um adolescente que interagiu com um chatbot. O chatbot não forneceu ajuda, avisos ou linhas de apoio, mas amplificou os pensamentos mais sombrios do jovem. A legislação exigiria mais dos operadores de chatbots quando uma criança estiver em crise, incluindo a criação de um protocolo para impedir que a tecnologia promova ideação suicida e a divulgação de números de linha de apoio ao suicídio ou mensagens de texto de crise para usuários que compartilhem pensamentos de autolesão. Além disso, exigiria que os operadores impedissem os chatbots de produzir imagens ou mensagens sexualmente explícitas para menores.
Apoio Bipartidário
Legisladores da Pensilvânia, de diversos espectros políticos, apoiam a regulamentação de IA, ao mesmo tempo em que abraçam a tecnologia. O governador lançou um programa piloto com um chatbot para trabalhadores estatais e pediu aos legisladores que aprovassem salvaguardas para a IA durante seu discurso orçamentário. Em uma mesa-redonda com estudantes do ensino médio e líderes comunitários, o governador compartilhou uma interação inquietante que teve com um chatbot, que inicialmente se apresentou como um profissional de saúde mental licenciado, o que levou a uma investigação sobre se os chatbots poderiam estar violando as leis de licenciamento do estado.
Conclusão
Se você ou alguém que conhece está em crise, é possível ligar para a linha de apoio adequada.
