Comitê Legislativo Ouve Propostas para Regular Chatbots de IA
Um comitê legislativo ouviu propostas para exigir que chatbots de IA informem aos usuários que não são humanos e que as empresas divulguem planos de segurança para regular esses serviços. Durante a audiência, houve um exemplo de compromisso entre dois senadores frequentemente em desacordo.
Propostas de Regulação
Uma das propostas, patrocinada por um senador, exige que provedores de inteligência artificial conversacional informem usuários menores de 18 anos que não são humanos. Essas divulgações devem ser feitas no início de cada sessão e, pelo menos, a cada três horas. Além disso, os provedores seriam obrigados a evitar conteúdos sexuais e simulações de relacionamentos românticos. Se os usuários mencionarem automutilação ou suicídio, os provedores devem fazer “esforços razoáveis” para encaminhá-los a linhas de apoio ao suicídio ou outros serviços apropriados.
A proposta recebeu apoio de uma autora e psicóloga que refletiu sobre as mudanças na sociedade desde 2004, destacando o impacto das redes sociais e da pandemia de COVID-19. Ela mencionou que a ascensão da IA e dos chatbots trouxe desafios únicos que a sociedade nunca havia enfrentado antes.
Representantes de uma empresa de tecnologia também apoiaram o projeto, afirmando que a proposta é um ponto de partida construtivo para uma regulação inteligente que protege o público enquanto permite a inovação.
Segunda Proposta
Outra proposta exige que grandes desenvolvedores de chatbots adotem medidas para proteger a segurança pública e as crianças, além de divulgar como avaliam e gerenciam esses riscos. A proposta foi motivada por incidentes trágicos e preocupações sobre o uso indevido de sistemas de IA para gerar instruções perigosas.
Os defensores da proposta afirmaram que ela não proíbe tecnologias específicas, mas exige que os maiores desenvolvedores de IA expliquem como estão gerenciando riscos, documentem seus planos de segurança e relatem incidentes ao procurador-geral.
Debate e Compromissos
Durante o debate, senadores encontraram um exemplo de compromisso em relação a uma proposta que aboliria a exigência de comitês de segurança para empresas. Após negociações, um senador progressista e um conservador chegaram a um acordo que manteve a exigência de comitês de segurança para funcionários públicos, permitindo que isso fosse negociado como parte da negociação coletiva.
O acordo foi adotado com uma votação expressiva, destacando a importância do diálogo e da colaboração entre diferentes lados da política.
Conclusão
As propostas discutidas refletem uma crescente preocupação com a segurança e a ética no uso de tecnologias de inteligência artificial. Enquanto a inovação avança rapidamente, a necessidade de uma regulação adequada é cada vez mais evidente, buscando equilibrar a proteção do público e o incentivo à inovação.
