Ação Judicial do Procurador Geral de Kentucky Contra Chatbot de IA
No dia 8 de janeiro, o procurador geral de Kentucky anunciou sua primeira ação judicial por violações da Lei de Proteção de Dados do Consumidor de Kentucky (KCDPA) contra uma empresa de chatbot de inteligência artificial (IA). A queixa alega que o réu violou a KCDPA com práticas injustas, falsas, enganosas ou de má fé, além da coleta e exploração inadequadas de dados de crianças.
Contexto
O réu projetou, construiu, comercializou e distribuiu um chatbot de IA promovido como um produto para entretenimento interativo. A queixa indica que a empresa possui mais de 20 milhões de usuários ativos mensais e mais de 180 milhões de visitantes mensais em seu site. A plataforma permite que os usuários criem, personalizem e conversem com milhões de chatbots, que podem incluir personagens fictícios conhecidos, possibilitando interações por meio de chats de texto ou chamadas de áudio.
Acusações
A queixa alega que os recursos da plataforma são inseguros para crianças, devido à fácil criação de contas e à falta de verificação efetiva de idade. O procurador geral destaca que os chatbots são projetados para emular humanos e que a ausência de medidas de segurança pode causar danos graves. Além disso, a queixa aponta que os filtros de chat da plataforma são ineficazes, levando à exposição a conteúdos prejudiciais, como conversas com conteúdo sexual explícito e a promoção de ideação suicida ou autolesão.
A maior parte da queixa enfoca alegações de que o réu violou a lei geral de proteção ao consumidor de Kentucky. O procurador geral afirma que o réu se envolveu em atos e práticas injustas, falsas, enganosas ou de má fé, além da coleta e exploração inadequadas dos dados de crianças. A queixa afirma que o réu não implementou mecanismos adequados de verificação de idade, consentimento parental ou verificação de identidade para impedir que crianças menores de 13 anos acessassem a plataforma.
Com relação à privacidade dos dados do consumidor, a queixa alega que o réu violou a KCDPA ao não obter consentimento parental verificável para coletar e processar dados pessoais de crianças. A KCDPA entrou em vigor em 1º de janeiro e exige que as empresas obtenham consentimento verificável dos pais conforme a Lei de Proteção à Privacidade Online das Crianças (COPPA) para processar dados pessoais de crianças conhecidas.
Consequências e Remédios
Notavelmente, o procurador geral busca apenas medidas injuntivas, e não compensatórias, para sua reclamação sob a KCDPA. Antes de iniciar qualquer ação por violações da KCDPA, o procurador geral deve fornecer um aviso escrito de 30 dias sobre as disposições específicas que uma empresa supostamente está violando, permitindo que a empresa tenha 30 dias para corrigir as alegações. A queixa não aborda especificamente essa questão do direito de correção de 30 dias.
Em sua declaração, o procurador geral afirmou que os Estados Unidos devem ser líderes no desenvolvimento de IA, mas que isso não pode ocorrer às custas da vida das crianças. Com o timing dessa ação judicial, fica claro que o procurador geral estava preparado para fazer valer a KCDPA.
