Respuesta del Senador Wiener al Informe Final de Expertos sobre el Marco de Gobernanza de la IA
El 17 de junio de 2025, el Grupo de Trabajo Conjunto sobre Modelos de Frontera de IA de California publicó su informe final, presentando un marco para la gobernanza de los modelos de IA en el estado. Este grupo fue convocado por el Gobernador Gavin Newsom tras el veto del SB 1047 del Senador Scott Wiener.
Declaración del Senador Wiener
En respuesta al lanzamiento del informe, el Senador Wiener declaró:
“Este informe afirma lo que nuestras mentes más brillantes en IA han afirmado claramente: que si bien la IA presenta oportunidades masivas para ofrecer un futuro de abundancia y prosperidad generalizada, el inmenso poder de estos modelos requiere que los policymakers actúen con rapidez para establecer guardrails de seguridad efectivos. Aprecio el arduo trabajo y la reflexión que los miembros del Grupo de Trabajo Conjunto sobre Modelos de Frontera de IA han puesto en este informe.”
Importancia de la Gobernanza de la IA
Wiener destacó que estas conclusiones llegan en un momento urgente para el futuro de la IA en California y en todo el mundo. Muchas empresas están abogando abiertamente por que el gobierno federal elimine las protecciones estatales contra el deepfake, la discriminación algorítmica en decisiones de salud y el robo de propiedad intelectual, protecciones de sentido común que todos podemos aceptar.
“Estos esfuerzos han recibido críticas bipartidistas de líderes electos en los 50 estados, porque la necesidad de salvaguardias básicas es obvia para cualquiera que preste atención al rápido ritmo de mejora en las capacidades de la IA.”
El Rol de California en la Gobernanza de la IA
El Senador Wiener enfatizó que California aún tiene un papel vital que desempeñar en el establecimiento de salvaguardias para la IA, afirmando que “podemos establecer el estándar que otros seguirán.” Las recomendaciones en el informe buscan un equilibrio reflexivo entre la necesidad de salvaguardias y la necesidad de apoyar la innovación.
“Mi oficina está considerando qué recomendaciones incorporar en el SB 53, y invito a todos los interesados relevantes a participar de manera productiva en ese proceso.”
Contexto del Grupo de Trabajo
El Grupo de Trabajo fue convocado por el Gobernador Newsom al final de la última sesión legislativa con el objetivo de reunir evidencia y recomendaciones de los principales investigadores y expertos en políticas en IA de nuestro estado, para ayudar a los legisladores de California a desarrollar guardrails viables para el despliegue de sistemas avanzados de IA. El grupo está compuesto por:
- Dr. Fei-Fei Li, Co-Directora, Instituto de IA Centrada en el Ser Humano de Stanford
- Dr. Jennifer Tour Chayes, Decana de la Facultad de Computación, Ciencia de Datos y Sociedad en UC Berkeley
- Tino Cuéllar, Presidente del Carnegie Endowment for International Peace
