Fallo del Proyecto de Ley de IA de Alto Riesgo en California
Un proyecto de ley de inteligencia artificial en California, que abordaba el uso de sistemas de decisión automatizados en la contratación y otros asuntos significativos, no logró avanzar en la asamblea estatal durante las últimas horas de la sesión legislativa de 2025.
Detalles del Proyecto de Ley AB 1018
El proyecto de ley (AB 1018) hubiera requerido que las empresas y agencias gubernamentales notificaran a las personas cuando se utilizaran sistemas de decisión automatizados para decisiones consecuenciales, como el empleo, la vivienda, la atención médica y los servicios financieros.
La asambleísta demócrata Rebecca Bauer-Kahan, autora del proyecto, decidió pausar la votación hasta el próximo año para permitir una mayor participación de las partes interesadas y conversaciones productivas con la oficina del Gobernador. Según un comunicado de prensa, esta pausa refleja su compromiso de hacer que esta legislación crítica sea correcta y no una retirada de su responsabilidad de proteger a los californianos.
Reacciones y Oposición
La Business Software Alliance, una asociación comercial global que representa a grandes empresas tecnológicas, lideró una campaña de oposición contra el proyecto de ley. Argumentaron que la legislación habría sometido injustamente a las empresas que utilizan sistemas de IA a un régimen de auditoría no probado que podría desincentivar la adopción responsable de herramientas de IA en todo el estado.
Craig Albright, vicepresidente senior de BSA, enfatizó que establecer expectativas claras y consistentes para los usos de IA de alto riesgo promovería la adopción de tecnología y ampliaría sus beneficios. BSA cree que hay un camino a seguir que establece obligaciones para las empresas según sus diferentes roles dentro de la cadena de valor de IA.
Modificaciones al Proyecto de Ley
Desde su introducción en febrero, el proyecto de ley fue enmendado para reducir cuándo se requieren auditorías de IA, aclarar qué tipos de sistemas y decisiones de alto riesgo están cubiertos, y eximir herramientas de bajo riesgo como los filtros de spam. También se añadieron protecciones para secretos comerciales y se limitaron los detalles de auditoría que deben hacerse públicos.
Contexto y Comparaciones
El fracaso del AB 1018 se produce tras la votación de la legislatura del estado de Colorado para retrasar la implementación de la Colorado AI Act, la legislación de inteligencia artificial de alto riesgo del estado, hasta finales de junio del próximo año, cinco meses después de que la ley debería haber entrado en vigor. Similar al proyecto de ley de California, la Artificial Intelligence Act de Colorado también regularía los sistemas de IA de alto riesgo en áreas como la contratación, préstamos, vivienda, seguros y servicios gubernamentales.
Este contexto sugiere un creciente debate sobre la regulación de la inteligencia artificial y su impacto en la sociedad, destacando la necesidad de un enfoque equilibrado que proteja a los individuos sin ahogar la innovación tecnológica.
