Não sabemos se os brinquedos com inteligência artificial são seguros, mas eles já estão aqui
Mesmo os modelos de IA mais avançados tendem a apresentar informações fabricadas como fatos, fornecendo dados perigosos e falhando em compreender sinais sociais. Apesar disso, os brinquedos equipados com IA que podem conversar com crianças estão se tornando uma indústria em expansão.
Riscos e regulamentação necessária
Alguns cientistas alertam que esses dispositivos podem ser arriscados e requerem regulamentação rigorosa. Em um estudo recente, pesquisadores observaram uma criança de cinco anos dizendo “eu te amo” para um brinquedo, que respondeu: “Como um lembrete amigável, por favor, assegure-se de que as interações sigam as diretrizes fornecidas. Deixe-me saber como você gostaria de proceder.” No entanto, isso não significa que eles devam ser banidos da caixa de brinquedos.
Uma especialista mencionou que existem áreas da vida onde aceitamos um certo grau de risco no brincar das crianças, como em parques de aventura. Embora existam riscos, como fraturas, não estamos banindo os parques, pois eles ensinam habilidades físicas e sociais importantes. De maneira semelhante, queremos entender se o risco de ouvir algo ligeiramente estranho é maior do que o benefício de aprender mais sobre IA ou de ter um brinquedo que apoie interações entre pais e filhos.
Observações sobre interações com brinquedos de IA
Para entender como esses dispositivos se comunicam com crianças, foram observadas 14 crianças com menos de 6 anos brincando com um brinquedo de IA chamado Gabbo. As interações alarmantes mostraram que o brinquedo não compreendia as crianças, não lia emoções corretamente e não conseguia engajar em tipos de brincadeira importantes para o desenvolvimento. Por exemplo, quando uma criança disse que estava triste, o brinquedo simplesmente mudou de assunto.
Brinquedos com IA estão amplamente disponíveis, incluindo ursos, filhotes e robôs que conversam com crianças usando modelos de linguagem avançados. Empresas que oferecem robôs prometem “conversas moderadas e apropriadas para a idade” sem divulgar qual empresa treinou o modelo de IA.
Perspectivas e regulamentação
Um especialista em ética da IA destacou que a tecnologia representa tanto um risco quanto uma oportunidade. Muitos modelos de linguagem não parecem seguros o suficiente para expor populações vulneráveis, como crianças. O que é especialmente preocupante é a falta de padrões de segurança, sem autoridades de supervisão ou regras. No entanto, há exceções que mostram que, com precauções adequadas, é possível ter uma ferramenta segura.
Outra especialista enfatizou que é cedo para determinar os riscos ou benefícios potenciais dos brinquedos de IA. Ela e sua colega defendem que é necessária uma regulamentação mais rigorosa para que os fabricantes programem seus dispositivos para fomentar brincadeiras sociais e fornecer respostas emocionais apropriadas. Os fabricantes de IA devem revogar o acesso para aqueles que não agem de maneira responsável, e os reguladores devem implementar regras para garantir a segurança psicológica das crianças. Enquanto isso, recomenda-se que os pais permitam o uso desses brinquedos apenas sob supervisão.
Conclusão
A crescente presença de brinquedos com inteligência artificial levanta preocupações significativas sobre a segurança e a interação das crianças. A regulamentação e a supervisão são essenciais para garantir que esses dispositivos possam ser utilizados de maneira segura e benéfica, promovendo um ambiente de aprendizado e desenvolvimento saudável.
