Analizando las Nuevas Leyes sobre Chatbots de Compañía AI
Punto clave: Las empresas que operan chatbots de compañía en California o Nueva York están sujetas a nuevas obligaciones legales, que incluyen proporcionar avisos a los usuarios y garantizar protocolos para prevenir el autolesionismo.
El 1 de enero de 2026 entró en vigor la ley sobre chatbots de compañía de California (SB 243), firmada el 13 de octubre de 2025. Esta ley impone a los operadores la implementación de salvaguardias «críticas, razonables y alcanzables» en torno al uso de estos chatbots, con especial enfoque en la protección de menores. La SB 243 se suma al estatuto de Modelos de IA de Compañía de Nueva York, vigente desde el 5 de noviembre de 2025.
I. Contexto
Con la IA permeando casi todos los aspectos de nuestras vidas tecnológicas, los chatbots son una de las formas más accesibles de esta tecnología. Los chatbots pueden servir para diversas funciones, como atención al cliente o salud. Los «chatbots de compañía» están diseñados para interactuar de manera similar a los humanos, basándose en hábitos y preferencias aprendidas de los usuarios finales. Estos chatbots buscan convertirse en «amigos» o incluso parejas, creando un apego emocional. Existe una creciente preocupación entre medios, gobierno y usuarios sobre cómo las personas interactúan con ellos y sus posibles consecuencias sociales.
Aunque varios estados requieren que los chatbots revelen ser IA bajo ciertas circunstancias, Nueva York fue el primero en imponer obligaciones adicionales a los operadores de chatbots de compañía. Reconociendo el uso creciente para apoyo emocional, su ley busca proteger la salud mental y seguridad, especialmente de los menores.
II. Resumen Comparativo de las Leyes de IA de Compañía de Nueva York y California
A continuación se presenta un resumen de definiciones, obligaciones legales y mecanismos establecidos en ambas leyes.
- Definición de Operador: Cualquier persona o entidad que opere un chatbot de compañía para un usuario.
- Definición de Chatbot de Compañía: Sistema de IA diseñado para simular una relación humana sostenida con un usuario.
- Obligaciones de Notificación al Usuario: El operador debe informar claramente al usuario al inicio de la interacción que no está comunicándose con un humano.
- Obligaciones de Notificación para Menores: Informar a menores que están interactuando con IA y recordarles tomar descansos.
- Protocolos de Transparencia: Mantener protocolos para detectar y responder a expresiones de autolesionismo manifestadas hacia el chatbot.
III. Implicaciones Potenciales
Las empresas deben evaluar si sus chatbots califican como «operadores» bajo la ley, implementar los protocolos requeridos y garantizar notificaciones claras. En California, se suman obligaciones específicas para menores y políticas de informes anuales.
Conclusión
Con la creciente regulación, es fundamental que las empresas cumplan con estas leyes para evitar sanciones y proteger a sus usuarios, especialmente a los menores. La adopción de medidas adecuadas fomenta un uso responsable y seguro de la tecnología de IA.
