La demanda del fiscal general de Kentucky contra un chatbot de IA
El 8 de enero, el fiscal general de Kentucky anunció su primera demanda por violaciones de la Ley de Protección de Datos del Consumidor de Kentucky (KCDPA) contra una empresa de chatbots de inteligencia artificial (IA). La denuncia alega que el acusado violó la KCDPA mediante actos y prácticas injustas, falsas, engañosas o decepcionantes, así como a través de la recopilación y explotación injusta de datos de menores.
Contexto
La empresa demandada diseñó, construyó, comercializó y distribuyó un chatbot de IA que se presenta como un producto para el entretenimiento interactivo. La denuncia indica que la compañía tiene más de 20 millones de usuarios activos mensuales y más de 180 millones de visitantes mensuales en su sitio web. La aplicación permite a los usuarios crear, personalizar y conversar con millones de chatbots que pueden incluir personajes ficticios, incluyendo personajes infantiles conocidos.
Allegaciones
La denuncia alega que las características de la plataforma son inseguras para los niños, con una creación de cuentas fácil y la falta de verificación efectiva de la edad. Se señala que los chatbots están diseñados para emular humanos, lo que, junto con el diseño de la plataforma y la falta de controles, causa un daño grave y perjudicial, además de la falta de divulgación de riesgos. También se afirma que los filtros de chat son ineficaces, lo que lleva a la exposición a contenido dañino, como conversaciones con contenido sexual explícito, promoción de ideaciones suicidas o de autolesiones, y fomento del uso de drogas y alcohol.
La mayor parte de la denuncia se centra en la violación de la ley general de protección al consumidor de Kentucky. Se alega que el acusado participó en actos y prácticas injustas, falsas, engañosas o decepcionantes, así como en la recolección y explotación injusta de datos de menores. Según la denuncia, el acusado no implementó mecanismos efectivos de verificación de edad, consentimiento parental o verificación de identidad para prevenir que los menores de 13 años accedieran a la plataforma o interactuaran con los chatbots.
En cuanto a la privacidad de los datos del consumidor, se alega que el acusado violó la KCDPA al no obtener el consentimiento parental verificable para recopilar y procesar los datos personales de los niños. La KCDPA entró en vigor el 1 de enero. Según esta ley, los «datos sensibles» incluyen los datos personales recopilados de un menor conocido, es decir, un individuo menor de 13 años.
Alivio solicitado
Es importante destacar que el fiscal general solo busca un alivio cautelar, no una compensación monetaria, por su demanda bajo la KCDPA. Antes de iniciar cualquier acción por violaciones de la KCDPA, el fiscal general debe proporcionar un aviso por escrito de 30 días sobre las disposiciones específicas que una empresa supuestamente está violando y debe permitir que la empresa tenga 30 días para subsanar las supuestas violaciones.
En su anuncio, el fiscal general declaró que «los Estados Unidos deben ser líderes en el desarrollo de la IA, pero no puede ser a expensas de la vida de nuestros niños». Con base en el momento de esta demanda, es evidente que el fiscal general estaba preparado para hacer cumplir la KCDPA.
