Nueva Ley Estatal de Virginia Establece Guardrails Reales sobre la IA en el Soporte al Cliente
Virginia está a punto de aprobar una ley estatal que regulará el uso de la IA «de alto riesgo». La Ley de Desarrolladores y Desplegadores de Inteligencia Artificial de Alto Riesgo impondrá nuevos requisitos de cumplimiento a las empresas que utilizan sistemas de IA «de alto riesgo» que afectan a los consumidores de Virginia.
La legislación abarca sistemas de IA que toman decisiones importantes sobre los consumidores de manera independiente o que influyen en ellas de manera significativa, afectando áreas como la automatización del servicio al cliente, la personalización y las recomendaciones.
Una vez que haya sido aprobada por el senado estatal de Virginia, la ley debe ser firmada por el gobernador de Virginia, lo que activará las regulaciones el 1 de julio de 2026.
Entendiendo el Texto de la Ley
En la discusión sobre esta noticia, se han destacado cinco áreas que se consideran ejemplos de IA «de alto riesgo» relacionadas con la experiencia del cliente (CX):
- Cuando se utiliza para automatizar decisiones sobre la elegibilidad del cliente para productos o servicios.
- Cuando se utiliza para generar ofertas financieras personalizadas y recomendaciones.
- Cuando se utiliza para determinar el acceso a servicios premium o niveles de cliente.
- Cuando se utiliza para resolver disputas y procesar reclamaciones de clientes de manera automática.
- Cuando se utiliza para influir en la aprobación de créditos y opciones de financiamiento.
La ley de Virginia se centrará en soluciones de IA que están «específicamente destinadas a tomar decisiones de manera autónoma».
Si bien estos cambios pueden afectar a las empresas que actualmente implementan sistemas de IA, el plazo de 16 meses hasta que la ley entre en vigor ayudará a los equipos de CX a adaptarse.
Es importante notar que la ley menciona específicamente a los desarrolladores y desplegadores; esto se debe a que incluye pautas específicas para ambos roles.
Clasificación de Desarrolladores y Desplegadores
Las empresas que desarrollan o modifican significativamente sistemas de experiencia del cliente impulsados por IA se clasifican como desarrolladores bajo la ley de Virginia.
Estas empresas deben tomar medidas razonables para prevenir la discriminación, divulgar los propósitos y limitaciones del sistema, proporcionar documentación para el monitoreo de sesgos y actualizar las divulgaciones dentro de los 90 días tras cambios importantes.
Por otro lado, las organizaciones que utilizan sistemas de IA para interacciones con los clientes se clasifican como desplegadores.
Los desplegadores designados deben tener una política de gestión de riesgos para herramientas de IA, realizar evaluaciones de impacto antes de la implementación e informar a los clientes cuando la IA esté involucrada en la toma de decisiones.
Las decisiones adversas deben ser explicadas, brindando la oportunidad de corrección, y se debe mantener documentación durante al menos tres años.
Regulaciones Específicas para IA Generativa
Además de estas dos clasificaciones, la ley también incluye regulaciones específicas para el uso de IA generativa (GenAI).
La legislación exige métodos de identificación o marcadores detectables para el contenido sintético (audio, video o imágenes) en aplicaciones de experiencia del cliente generadas por IA.
Esto se aplica a demostraciones de productos generadas por IA, pruebas virtuales, servicio al cliente con voz de IA y marketing personalizado.
No obstante, existen excepciones para obras creativas y expresiones artísticas, permitiendo su uso en marketing y contenido de marca.
El uso de IA en los siguientes escenarios también incluye diversos grados de exención:
- Tecnologías anti-fraude (excepto aquellas que utilizan reconocimiento facial)
- Herramientas de ciberseguridad utilizadas en la protección de datos de clientes
- Entidades cubiertas por HIPAA en situaciones específicas de CX en salud
- Instituciones financieras que siguen estándares federales equivalentes
Para aquellos que no están exentos y se encuentran en violación de la nueva ley, las violaciones no intencionales pueden incurrir en multas de hasta $1,000 por instancia, mientras que las violaciones intencionales pueden resultar en multas de hasta $10,000 por instancia.
Cada cliente afectado se considera una violación separada, lo que significa que las multas potenciales podrían sumar costos significativos.
Una Tendencia Emergente en IA
Virginia puede ser el último estado en introducir regulaciones específicas sobre IA, pero no es el primero.
Colorado se convirtió en el primer estado en EE. UU. en promulgar una regulación integral de protección al consumidor destinada a garantizar que la IA se utilice de manera justa y sin discriminación, proporcionando pautas basadas en riesgos para el despliegue de IA para proteger a los consumidores.
California, Illinois, Minnesota y Utah también están en proceso de introducir alguna forma de regulaciones sobre IA.
Fuera de EE. UU., la UE ya ha introducido una Ley de IA, con Gartner prediciendo que podría llegar a incorporar «el derecho a hablar con un humano» en sus leyes de protección al consumidor dentro de los próximos tres años.
Es evidente que a medida que la IA comienza a madurar, la gobernanza de esta tecnología se volverá más complicada y moderada.
Los profesionales de servicio al cliente y experiencia que buscan maximizar el potencial de sus ofertas de IA deberán estar al tanto de todas las leyes y regulaciones recientes o arriesgarse a enfrentar problemas legales y financieros.
