Starmer irá ampliar regras de segurança online para chatbots de IA após escândalo do Grok
Os fabricantes de chatbots de IA que colocam crianças em risco enfrentarão multas enormes ou até mesmo a proibição de seus serviços no Reino Unido, sob mudanças na legislação que serão anunciadas.
Impulsionados pela decisão de uma empresa de parar sua ferramenta de IA de criar imagens sexualizadas após a indignação pública, ministros planejam uma “intensificação contra conteúdos ilegais gerados por IA”.
Contexto e Necessidade de Mudanças
Com cada vez mais crianças utilizando chatbots para diversas finalidades, como ajuda nos deveres de casa e suporte à saúde mental, o governo se comprometeu a “agir rapidamente para fechar uma brecha legal e forçar todos os provedores de chatbots de IA a cumprir as obrigações de conteúdo ilegal na Lei de Segurança Online”.
Starmer também planeja acelerar novas restrições ao uso de redes sociais por crianças, que podem incluir medidas como a restrição de rolagem infinita, com possíveis mudanças ocorrendo já neste verão.
Entretanto, opositores criticaram a rapidez do governo, alegando que as promessas são apenas “fumaça e espelhos”, já que a consulta pública ainda não começou.
Desafios com a Regulação Atual
A autoridade reguladora admitiu que não tinha poderes para agir contra a ferramenta de IA porque imagens e vídeos criados por um chatbot sem pesquisa na internet não estão cobertos pelas leis existentes, a menos que sejam considerados pornografia. A mudança para trazer chatbots de IA sob a Lei de Segurança Online pode ocorrer em semanas, embora a brecha seja conhecida há mais de dois anos.
Starmer afirmou: “A tecnologia está avançando rapidamente, e a lei precisa acompanhar”. A ação tomada contra a ferramenta de IA enviou uma mensagem clara de que nenhuma plataforma terá passe livre. Hoje estamos fechando brechas que colocam crianças em risco.
Consequências e Penalidades
Empresas que violarem a Lei de Segurança Online podem enfrentar penalidades de até 10% da receita global, e reguladores podem solicitar aos tribunais que bloqueiem sua conexão no Reino Unido.
Se chatbots de IA forem usados especificamente como motores de busca ou para produzir pornografia, já estão cobertos pela lei. Contudo, eles podem ser utilizados para criar material que encoraja comportamentos autodestrutivos ou até mesmo gerar conteúdos abusivos sem enfrentar sanções, o que o governo pretende mudar.
Preocupações com a Segurança das Crianças
O chefe de uma organização de proteção à infância relatou que jovens estão entrando em contato com a linha de ajuda, relatando danos causados por chatbots de IA. Um caso específico envolveu uma adolescente que recebeu informações imprecisas sobre seus hábitos alimentares e distúrbios de imagem corporal ao interagir com um chatbot.
Com as redes sociais trazendo benefícios e também riscos para os jovens, a IA pode amplificar esses riscos se não houver uma regulamentação adequada.
Próximos Passos
O governo também consultará sobre a proibição de envio e recebimento de imagens nuas de crianças nas plataformas de redes sociais, uma prática que já é ilegal. A secretária de tecnologia comentou que não esperarão para tomar as ações necessárias e que a regulamentação sobre chatbots de IA será reforçada.
Uma fundação, estabelecida após a morte de uma jovem que se suicidou após visualizar conteúdos prejudiciais online, considerou as novas medidas um “primeiro passo bem-vindo”, mas pediu um novo ato de segurança online que fortaleça a regulamentação e priorize a segurança infantil.
