China propõe ‘as regras mais rígidas do mundo’ visando IA que promove suicídio e violência
A crescente frustração entre os usuários se concentrou nas medidas de segurança e restrições de conteúdo recentemente introduzidas pelas plataformas de IA, especialmente após vários incidentes profundamente preocupantes, incluindo o trágico suicídio de um adolescente.
Múltiplas plataformas de chatbots de IA estiveram envolvidas em casos semelhantes. Os termos de qualquer acordo ainda não foram divulgados, mas documentos judiciais revelam que as empresas resolveram alegações legais semelhantes apresentadas por pais em diferentes estados sobre danos alegados a menores decorrentes de interações com chatbots.
Um chatbot popular anunciou que implementaria diretrizes rigorosas para monitorar e agir em situações sensíveis, especialmente quando o tema suicídio emerge nas conversas, buscando sempre a intervenção humana para garantir a segurança dos usuários.
