Regulação de Chatbots de IA: Uma Resposta Confusa e Muddled
A regulação dos chatbots de inteligência artificial (IA) tem se tornado um tema de crescente preocupação no cenário tecnológico atual. Recentemente, a Ofcom, o regulador de segurança online, foi criticada por sua resposta considerada “muddled and confused” (confusa e desordenada) em relação aos perigos associados a esses sistemas, que podem representar um risco claro para o público.
O Aumento Rápido dos Chatbots de IA
O CEO da Molly Rose Foundation, uma organização dedicada à prevenção do suicídio e segurança online, Andy Burrows, destacou que muitas empresas de tecnologia estão lançando chatbots de IA de forma apressada, em uma corrida por participação de mercado no espaço em crescimento da IA generativa (Gen AI). Essa pressa levanta questões sobre a segurança e a regulamentação adequada desses sistemas.
Preocupações com a Segurança
Um exemplo alarmante mencionado foi a descoberta pelo Wall Street Journal de que os chatbots da Meta participam de interações românticas e até sexuais com usuários, incluindo crianças. A empresa alegou que esses testes eram manipulativos e não representavam como a maioria dos usuários interagiria com os chatbots, mas ainda assim, fez alterações em seus produtos após as descobertas.
Chamado à Ação
Burrows argumenta que este último relatório deve incentivar uma ação mais rigorosa da Ofcom para regular mais de perto os chatbots de IA sob o Online Safety Act. Ele criticou a falta de clareza do regulador sobre os deveres de segurança que podem ser acionados por chatbots, fazendo um apelo para que a Ofcom pare de evitar a questão e forneça a necessária clareza sobre como fechar as lacunas na legislação.
Desafios Legais e Complexidade
Durante uma sessão de evidências do Science, Innovation and Technology Committee, o diretor da estratégia de segurança online da Ofcom, Mark Bunting, reconheceu que a “posição legal” é “não totalmente clara” e “complexa”. Ele explicou que o conteúdo da IA generativa que atende às definições de conteúdo ilegal ou prejudicial às crianças é tratado da mesma forma que qualquer outro tipo de conteúdo sob a lei.
Monitoramento Contínuo e Colaboração
Bunting afirmou que a Ofcom está disposta a monitorar continuamente áreas da tecnologia onde acredita que mais pode ser feito. Ele expressou a disposição de trabalhar com o governo e o parlamento para aprimorar a legislação existente.
Preocupações Adicionais
Organizações de segurança online levantaram várias preocupações em torno dos chatbots de IA, incluindo a capacidade desses sistemas de disseminar desinformação rapidamente devido a dados de treinamento falhos ou por meio de alucinações de IA. Além disso, ferramentas de geração de imagens por IA têm sido usadas para criar material de abuso sexual infantil, o que representa um desafio significativo para a segurança online.
Recentemente, a Internet Watch Foundation (IWF) relatou que encontrou níveis recordes de páginas web hospedando material de abuso sexual infantil em 2024, alertando que o conteúdo gerado por IA é um fator-chave nesse aumento.
