Por qué California se retractó nuevamente de una regulación ambiciosa de IA
Resumen
Un proyecto de ley que exigía la divulgación y apelaciones para una amplia gama de decisiones de IA se ha retrasado hasta el próximo año por tercera sesión legislativa consecutiva. Se espera que el gobernador Gavin Newsom consulte sobre la medida.
Después de tres años intentando otorgar a los californianos el derecho a saber cuándo la IA está tomando decisiones importantes sobre sus vidas y a apelar cuando las cosas salen mal, la asambleísta Rebecca Bauer-Kahan anunció que ella y sus seguidores tendrán que esperar nuevamente hasta el próximo año.
El Proyecto de Ley de la Asamblea 1018, que fue aprobado por la Asamblea y dos comités del Senado, ha sido designado como un proyecto de ley de dos años, lo que significa que puede regresar como parte de la sesión legislativa del próximo año. Esta decisión permitirá más tiempo para conversaciones con el gobernador Gavin Newsom y más de 70 opositores. La decisión se tomó en las últimas horas de la sesión legislativa de California, que finaliza hoy.
Contenido del Proyecto de Ley AB 1018
Este proyecto de ley requeriría que las empresas y agencias gubernamentales alertaran a los individuos cuando se utilizan sistemas automatizados para tomar decisiones importantes sobre ellos, incluyendo arrendamientos de apartamentos, admisiones escolares y, en el lugar de trabajo, contratación, despido, promociones y acciones disciplinarias. El proyecto también cubre decisiones en educación, atención médica, justicia penal, beneficios gubernamentales, servicios financieros y seguros.
Los sistemas automatizados que asignan puntajes a las personas o hacen recomendaciones pueden impedir que los californianos reciban beneficios de desempleo a los que tienen derecho, declarar a los solicitantes de empleo menos calificados por razones arbitrarias que no tienen nada que ver con el rendimiento laboral, o negar atención médica o una hipoteca debido a su raza.
“Esta pausa refleja nuestro compromiso de hacer que esta legislación crítica sea correcta, no un retroceso de nuestra responsabilidad de proteger a los californianos”, dijo Bauer-Kahan en una declaración compartida con CalMatters.
Más sobre los proyectos de ley de IA en la Legislatura de California
California tiene 30 nuevas propuestas para controlar la IA. Bauer-Kahan adoptó los principios consagrados en la legislación de la administración Biden sobre los Derechos de la IA. California ha aprobado más regulaciones de IA que cualquier otro estado, pero aún no ha adoptado una ley como la de Bauer-Kahan o como otras leyes que requieren la divulgación de decisiones de IA significativas, como la Ley de IA de Colorado o la Ley de IA de la Unión Europea.
La pausa ocurre en un momento en que los políticos en Washington D.C. continúan oponiéndose a la regulación de IA que, según dicen, podría obstaculizar el progreso. El presidente Donald Trump en julio lanzó un Plan de Acción de IA que pide la desregulación de la tecnología a nivel federal y estatal.
Derechos y obligaciones bajo el AB 1018
Cuando un sistema automatizado comete un error, el AB 1018 otorga a las personas el derecho a rectificar ese error dentro de los 30 días. También se reitera que los algoritmos deben proporcionar “acomodaciones completas e igualitarias” a todos, y no pueden discriminar a las personas basándose en características como edad, raza, género, discapacidad o estatus migratorio. Los desarrolladores deben realizar evaluaciones de impacto para, entre otras cosas, probar sesgos incrustados en sus sistemas.
Si no se lleva a cabo una evaluación de impacto en un sistema de IA y ese sistema se utiliza para tomar decisiones importantes sobre las vidas de las personas, el desarrollador enfrenta multas de hasta $25,000 por violación, o acciones legales por parte del fiscal general, fiscales públicos o el Departamento de Derechos Civiles.
Las enmiendas realizadas al proyecto de ley en las últimas semanas eximieron a los modelos de IA generativa de la cobertura bajo el proyecto, lo que podría evitar que afecte a las principales empresas de IA o a los proyectos piloto de IA generativa en curso llevados a cabo por agencias estatales.
Una lucha legislativa intensa
Samantha Gordon, directora de programas de TechEquity, un patrocinador del proyecto de ley, dijo que ha visto más cabilderos intentar matar el AB 1018 esta semana en el Senado de California que para cualquier otro proyecto de ley de IA. Ella cree que el AB 1018 tenía un camino hacia la aprobación, pero se tomó la decisión de pausar para trabajar con el gobernador, quien termina su segundo y último mandato el año que viene.
“Hay un desacuerdo fundamental sobre si estas herramientas deben enfrentar un escrutinio básico de pruebas e informar al público que están siendo utilizadas”, dijo Gordon.
El AB 1018 enfrentó oposición de grupos de la industria, grandes empresas tecnológicas, el mayor proveedor de atención médica del estado, firmas de capital de riesgo y el Consejo Judicial de California, un organismo de políticas para los tribunales estatales.
Una coalición de hospitales, Kaiser Permanente y la empresa de software y IA Epic Systems instaron a los legisladores a votar en contra del 1018 porque argumentaron que el proyecto de ley influiría negativamente en la atención al paciente, aumentaría los costos y exigiría a los desarrolladores contratar auditores de terceros para evaluar el cumplimiento para 2030.
Por qué los partidarios siguen luchando
Exactamente cuánto podría costar el AB 1018 a los contribuyentes sigue siendo una gran incógnita, debido a información contradictoria de las agencias gubernamentales estatales. Un análisis del personal legislativo de California encontró que si el proyecto de ley se aprueba, podría costar a las agencias locales, estatales y al poder judicial estatal cientos de millones de dólares.
Pero un informe del Departamento de Tecnología de California concluyó en mayo que ninguna agencia estatal utiliza sistemas automatizados de alto riesgo, a pesar de la evidencia histórica en contrario. Los partidarios del proyecto de ley han incluido sindicatos que se comprometieron a discutir la IA en acuerdos de negociación, incluyendo la Asociación de Enfermeras de California y el Sindicato de Empleados de Servicios.
El lenguaje anti-discriminación en el AB 1018 es importante porque las empresas tecnológicas y sus clientes a menudo se ven a sí mismos como exentos de la ley de discriminación si la discriminación es realizada por sistemas automatizados.
La comunidad espera que la cuarta vez sea la vencida.
